美企微软软件工程师谢恩·琼斯(shane jones)于今年2月初指认openai的dall-e 3模型存在漏洞,该模型可产生一系列色情内容。琼斯在公布这一问题后,竟收到微软的“封口令”威胁。尽管如此,他仍选择向外披露该漏洞。
琼斯去年底在进行自主研究时,发现openai的图像生成模型dall-e 3存在一个漏洞,漏洞利用者可以越过ai保护墙来制作色情内容。他将此情况报告给微软和openai,并发文警示这种攻击可能给公众带来危害,要求他们暂停使用dall-e 3模型或在修复漏洞之前先下线。
然而,琼斯随后收到了来自微软法务部门和管理层的压力,要求其删除领英上的相关文章且禁止对外透露信息。尽管他多次试图联系公司高层,寻求解释并解决漏洞问题,但都没得到回应。在此期间,漏洞也没有得到解决,于是,琼斯决定向媒体和相关部门公开。
琼斯亦表示,近期网络上广为传播的ai生成泰勒·斯威夫特(taylor swift)的不雅照片可能与此次漏洞有关。因为那些图片是根据微软的designer ai创作出来的,其实质是用的dall-e 3底层架构,因此在此事件中,微软对琼斯施加“封口令”的行为,无疑是种严重的失策。
对此,微软发表声明回应媒体,承认问题的存在,并承诺修复漏洞,解决员工的疑虑。同时强调,琼斯所揭示的漏洞,成功率并不高,并且技术上无法“突破所有针对该模型设定的安全措施”,至于,“这一漏洞与泰勒·斯威夫特照片的制作是否有关联,则不得而知”。
讲不出再见!华为Mate7已经降到无人问津
可以用什么标准来描述不同类型的数字人类
CSS框架:Semantic UI的优缺点
伺服电机如何进行快速的测试?
关于为Simulink模型添加注解的五种方式分析和介绍
微软封禁员工讨论OpenAI DALL-E 3模型漏洞
适合新手使用的5款超简单电路图制作软件
苹果春季发布会定于3月23日举行,但不会发布AirPods3
NVIDIA RTX 3080库存不足或不足
洲明科技首次打造裸眼3D灯光秀推动体育产业发展
继电器根据工作原理和结构类型可分为哪几种
比亚迪回应“广告门”事件,因补贴政策变化而一季度利润骤降83%
四大主流无线充电标准发展趋势及市场优缺点
基于粗糙集联合决策树法的智能变电站远程调度管理优化
称重传感器的工作原理以及分类的介绍
“虚假打卡”层出不绝,企业应该如何应对这种情况?
进口罗德与施瓦茨FSU8频谱分析仪8GHz
达利凯普成功上市,深耕射频微波MLCC领域
爱立信在全球斩获122个5G商用合同,2026年5G签约用户将达到35亿
同步数据采集卡的优点及应用案例