AI滥用风险已迫在眉睫 研究人员呼吁各国做好防范

据外媒报道,剑桥、牛津和耶鲁大学的25名技术和公共政策研究人员以及隐私和军事专家周三发表了一份最新的研究报告,他们在报告中警告说,人工智能的快速发展引发了日益增长的风险,恶意用户很快就能利用人工智能技术来发动自动黑客攻击,这些攻击可能会造成非常严重的后果,比如无人驾驶汽车相撞或者将商用无人机变成有针对性的武器。
研究人员和专家们称,人工智能技术有可能被流氓国家、犯罪团伙或独来独往的犯罪分子们滥用,这已经从数字、物理和政治层面上对人类社会构成了迫在眉睫的威胁,因为人工智能技术让大规模、高精准和高效率的攻击成为了可能。
牛津大学人类未来学院的研究员迈尔斯-布伦达奇(miles brundage)称:“我们都承认,人工智能有很多积极的应用,但在恶意使用问题的研究上存在一片空白。”
人工智能即ai包括利用计算机执行一些通常需要人类智能才能完成的任务,比如决策或识别文本、语音或视觉图像等等。
人们普遍认为人工智能是开启各种技术可能性的强大力量,但它也成为了尖锐辩论的焦点,人们担心它所支持的大规模自动化会导致广泛失业和其他社会混乱。
研究人员和专家们在这份长达98页的报告中警告说,用人工智能来完成可能需要人工劳动和专业技能才能完成的任务,这可能会降低攻击的成本和催生新的攻击方式。这些新的攻击方式可能是人力无法单独完成或者需要用到人工智能系统自身弱点才能实现的。
报告审查了越来越多关于人工智能安全风险的学术研究成果,呼吁各国政府和政策与技术专家合作并化解这些危险。
研究人员们详细说明了人工智能技术的强大力量,人工智能技术可以将图像、文字和音频合成在一起以模仿他人在线行为,进而改变公众的观点。研究人员们指出,专制政权可能会利用这种技术。
这份报告提出了一系列建议,包括将人工智能作为一种军民两用的技术来管理。
它还提出了一些问题,包括学术界和其他人是否应该控制他们发布或披露人工智能研发进展,直到该领域的其他专家有机会对潜在危险进行研究并作出反应。
布伦达奇说:“我们最终得出的问题比解决的问题多得多。”
这篇论文最早源于2017年初的一个研讨会,当作者们正式开始撰写时,报告中提出的某些预测基本上已经实现了。作者们推测,人工智能可能会被用来制作各种逼真的假声音和假视频,模仿各行各业的名人,以达到宣传的目的。
去年晚些时候,所谓的“深度假”色情视频开始在网上出现,这类视频实际上是将明星们的面孔融合到不同的身体上。
特斯拉首席执行官埃隆-马斯克(elon musk)和硅谷投资者山姆-奥尔特曼(sam altman)创立的人工智能公司openai的政策主管杰克-克拉克(jack clark)表示:“这发生的色情行业,并不是处于宣传目的。但是一切都表明,关于深度假的东西也有可能被用于宣传。”

精品网络释放5G ToB价值,5G定位技术发展前景广阔
机械敏感离子通道在触觉感受器中的关键作用机制
近期全球最畅销的手机是哪款,你知道吗?
未来经济的发展方向将是从虚拟经济加互联网,开始进入到实体经济加互联网
各种室内环境检测仪及空气控制器介绍
AI滥用风险已迫在眉睫 研究人员呼吁各国做好防范
高精度农业土壤肥料养分检测仪有哪些的详解
酒店里刷卡开门是如何实现的?
如何将区块链应用于零售行业
顶尖电子博览会预告,特殊时期的特殊规划
SAFEBURN 技术
简析 | 新能源汽车芯片知识
飞利浦TureForce HIL系列LED路灯光源取代传统路灯
国内手机市场离开苹果 还是会造成一定的影响
全新Qualcomm Quick Charge 4提升充电速度20%
滑动变阻器电流流向问题解析
用PLC构成飞锯自控系统
香蕉派 BPI-R2 开源路由器开发板采用MediaTek MT7623N芯片设计
变频自适应超声波电源发生器设计
5G技术挑战与未来走向大盘点