OpenAI图像检测工具曝光,AI生成的99%都能认出

openai要出手ai图像识别了。
最新消息,他们公司正在开发一种检测工具。
根据首席技术官mira murat透露:
该工具精度非常高,正确率可达99%。
目前已进入内部测试流程中,很快将公开发布。
不得不说,这个准确率还是让人有点期待的,毕竟之前openai在ai文本检测上的努力可是以“26%的正确率”惨败告终。
ai内容检测,不简单
openai在ai内容检测领域早有布局。
今年1月,他们就发布过一款ai文本检测器,用于区分ai和人类生成的内容,防止ai文本被滥用。
然而7月份该工具就黯然退场:没有任何公告,页面直接404。
究其原因,还是正确率太低了,“和瞎猜差不多”。
根据openai自己公布的数据:
它只能正确识别26%的ai生成文本,同时冤枉9%的人类编写文本。
在此次匆忙收场之后,openai表示会吸收用户反馈努力改善,并研究更有效的文本来源技术。
同时,他们还宣布:判断图片、音视频是否由ai生成的工具也要搞起来。
如今,随着dall-e 3的问世以及midjourney等同类工具的不断迭代,ai绘画能力越来越强。
最大的担忧就是用于伪造全球范围内的假新闻图片。
比如reddit上就有一张ai伪造的“2001年卡斯卡迪亚9.1级地震及海啸”的“现场”,超过1.2k网友点赞。
相比ai文本检测工具,ai画图检测工具的开发显然更为紧迫(大概是因为“没人在意演讲稿是自己写的还是秘书写的”,但“有图有真相”的内容很难不让一些人相信)。
不过,正如openai的ai文本检测工具下线时,有网友就指出:
同时开发生成和检测工具本身就是矛盾的。
如果一边做的好就意味着另一边没做好,同时还有可能存在利益冲突。
比较直接的思路是交给第三方。
但此前第三方在ai文本上的表现也并不好。
而就技术本身来说,另一个还算可行的办法是在ai生成内容之时就藏下水印。
谷歌就是这么做的。
日前(今年8月底),谷歌已经在openai之前推出了一款ai图片检测技术:
synthid。
它目前与谷歌的文生图模型imagen合作,让模型生成的每一张图像都嵌入一个“这是ai生成的的元数据标识”——
即使图像被进行了裁剪、添加滤镜、更改颜色甚至有损压缩等一系列修改,也不会影响识别。
在内部测试中,synthid准确识别出了大量经过编辑的ai图像,但具体的准确率并未透露。
不知道openai即将发布的工具将采用何种技术,并且能否成为市面上精度最高的那一个。
奥特曼回应“造芯计划”
以上消息源自于openai cto与奥特曼本周在《华尔街日报》举行的tech live会议上发表的讲话。
会上,俩人还透露了openai的更多消息。
比如下一代大模型可能就快推出了。
叫啥没透露,但今年7月openai确实就已经申请了gpt-5商标。
有人关心“gpt-5”的准确性,问它是否能够不会再产生错误或虚假内容。
对此,cto的态度比较谨慎,只是表示“maybe”。
她解释道:
我们在gpt-4的幻觉问题上取得了很大进展,但这还没有达到我们需要的目标。
奥特曼则谈及了“造芯计划”。
从他的原话来看,并没有“实锤”,但也留下了无限遐想空间:
如果按照默认路径我们肯定不会这么做,但我永远不会排除这种可能性。
相比“造芯计划”,奥特曼对于造手机传言则回复得相当干脆。
今年9月,苹果前首席设计官jony ive(在苹果工作了27年)被曝与openai接洽,有消息人士称奥特曼要开发一种硬件设备,提供一种与ai交互更自然和直观的方式,可称为“ai届的iphone”。
现在,他告诉大伙:
我自己都还不确定要做什么呢,只是有一些模糊的想法。
以及:
任何ai设备都不会盖过iphone的受欢迎程度,我也没有兴趣与任何智能手机展开竞争。

人工智能在未来制造业中扮演什么角色
长亭科技专注技术创新 获2019 Fortress Cyber Security Award提名
Proteus :一起来了解PWM信号!
苹果在“双十一”期间销售额低于华为、小米
电感在DC-DC升压电路的工作原理
OpenAI图像检测工具曝光,AI生成的99%都能认出
ds18b20的C语言程序
武汉弘芯基于FinFET 先进逻辑工艺与晶圆级先进封装技术经验
PostgreSQL的精妙之处
三星Galaxy S21+相机细节曝光:摄像头有望不凸起
这项技术全世界仅中国有!解决14亿人生活问题,是世界唯一标准
更小和更快趋势是如何解决混合信号系统设计中的问题
基于UPD78F0515语音提示洗衣机解决方案
模拟万用表与数字万用表有什么区别
封装测试龙头大佬震荡,长电科技内部行情如何分析解读?
维思资本王刚:维思资本已实现研、找、投、管、退的全面体系化
Altera Cyclone V FPGA器件可实现降低设计系统成本和功耗
国泰君安:重拾智慧环保商机,电力物联网建设加速
全液晶仪表到底是什么东西?
鲲鹏生态已获OSV全力支持,推动中国ICT领域展现新的格局