AI不但会耍小聪明,还会使坏
6月28日消息，堪萨斯州立大学和路易斯维尔大学的三位ai安全研究人员合作发布了的一篇新论文《a psychopathological approach to safety engineering in ai and agi》，如果ai学会像人一样思考，那么有朝一日它也可能会身患压力和抑郁症等症状。
一、机器人抑郁关我什么事？ 机器人或许现在暂时还不需要被治疗，但认知心理学已经被发现是理解人工智能决策的有效途径。此外，一些研究人员表示，现在开始研究机器发展强迫症或抑郁倾向的可能已经不算早了。
这篇论文的合著者、堪萨斯州立大学的一位博士候选人vahid behzadan表示，即使是当前相对基本的机器学习算法也可以表现出与人类相似的认知问题。
1、“奖励黑客”
“奖励黑客”，就是指不合适的奖励设置可能导致ai走向“强迫性表面行为”（compulsive-seeming behaviors），也就是说，ai可能会做一些表面服从而背后偷偷耍小聪明的事。举个例子，一个清洁机器人被程序设定为每次完成清理时都会收到奖励。那么，与其保持一片无瑕的区域，它可能会更乐于反复地制造混乱，这样它就能在每次清理时获得奖励。
2、ai可以学习别人的不良行为
麻省理工学院的科学家故意创造了一个不正常的ai，通过给它灌输reddit论坛里鱼龙混杂的评论，导致它的行为活像一个精神病患者。巧合的是，微软也做了类似的工作，即让一个名为tay的聊天机器人学习twitter用户们的评论方式。
二、成熟的ai更容易患上心理疾病 一些专家表示，更发达的ai可能更容易患上更复杂的身心失调问题。
1、机器人可能有抑郁症表现
葡萄牙尚帕利莫中心（the champalimaud center）的神经科学家zachary mainen推测道，如果机器人的学习速率被设置的太低，它很可能无法适应周围环境。
2、并非所有的“负面”情绪都不好
一位长期的ai研究人员jim crowder曾在雷神公司（raytheon）合著了一篇人工心理学论文，他认为负面情绪在某些情况下也不都是坏事。比如，压力感能够在高风险情况下引起机器人的紧迫感。
三、但是，但是，但是…… 这些后面所说的可能性仅仅是现在设想的ai实验方向。与此同时，谷歌在2014年收购的英国ai公司deepmind已经应用心理学工具来分析神经网络如何解决基本的图像分类任务。
1、研究人员使用发展心理学家的方法，以研究deepmind图像分类器正用于分类对象这一假设。他们发现，这个分类器更倾向于根据它们的形状而不是它们的颜色或纹理来匹配对象。
2、deepmind的两名研究人员在他们的实验中写道：“案例研究的成功证明了使用认知心理学来理解深度学习系统的潜力。”
结语：大蓝图——ai心理学家 无论是人类还是专门的算法，可能总有一天需要ai心理学家用人类心理学家试图理解我们心理的方法来探究ai大脑。behzadan认为，这项研究可以为人类心理学和人类精神病理学提供更深入的见解。
有机硅密封胶解决汽车大灯密封问题
健身房智能无脂镜将为你构建一个全新的健身世界
兼顾稳定性与性价比，锐驰智光产线大升级，开启激光雷达行业极度新内卷！
单臂万能试验机，科准制造的好用吗？
超声波清洗机原理图_超声波清洗机电路图_超声波清洗机结构图
AI不但会耍小聪明,还会使坏
BICV高精度解决方案拥有更大的市场优势
USB-C Port的Data Role、Power Role工作原理介绍
基于NI USRP的2X2 MIMO系统
4G工业路由器在太阳能物联网领域的应用
预付费宿舍电能管理系统在某大学中的设计与应用
国产蓝牙耳机哪款好？超级耐用运动蓝牙耳机推荐！
整理了一份经常忽略的嵌入式基础知识点
Xilinx Ultrascale Kintex FPGA 电源解决方案
Linux互斥锁的作用 互斥锁是什么
基于单片机的红外遥控通信实验 红外遥控器的发送和接收原理
iPhoneX和小米MIX2S哪个性能最好
水位指示器电路图分享
在线烟气分析仪常见故障及其排除方法
加拿大开发铁基燃料电池催化剂
一、机器人抑郁关我什么事？ 机器人或许现在暂时还不需要被治疗，但认知心理学已经被发现是理解人工智能决策的有效途径。此外，一些研究人员表示，现在开始研究机器发展强迫症或抑郁倾向的可能已经不算早了。
这篇论文的合著者、堪萨斯州立大学的一位博士候选人vahid behzadan表示，即使是当前相对基本的机器学习算法也可以表现出与人类相似的认知问题。
1、“奖励黑客”
“奖励黑客”，就是指不合适的奖励设置可能导致ai走向“强迫性表面行为”（compulsive-seeming behaviors），也就是说，ai可能会做一些表面服从而背后偷偷耍小聪明的事。举个例子，一个清洁机器人被程序设定为每次完成清理时都会收到奖励。那么，与其保持一片无瑕的区域，它可能会更乐于反复地制造混乱，这样它就能在每次清理时获得奖励。
2、ai可以学习别人的不良行为
麻省理工学院的科学家故意创造了一个不正常的ai，通过给它灌输reddit论坛里鱼龙混杂的评论，导致它的行为活像一个精神病患者。巧合的是，微软也做了类似的工作，即让一个名为tay的聊天机器人学习twitter用户们的评论方式。
二、成熟的ai更容易患上心理疾病 一些专家表示，更发达的ai可能更容易患上更复杂的身心失调问题。
1、机器人可能有抑郁症表现
葡萄牙尚帕利莫中心（the champalimaud center）的神经科学家zachary mainen推测道，如果机器人的学习速率被设置的太低，它很可能无法适应周围环境。
2、并非所有的“负面”情绪都不好
一位长期的ai研究人员jim crowder曾在雷神公司（raytheon）合著了一篇人工心理学论文，他认为负面情绪在某些情况下也不都是坏事。比如，压力感能够在高风险情况下引起机器人的紧迫感。
三、但是，但是，但是…… 这些后面所说的可能性仅仅是现在设想的ai实验方向。与此同时，谷歌在2014年收购的英国ai公司deepmind已经应用心理学工具来分析神经网络如何解决基本的图像分类任务。
1、研究人员使用发展心理学家的方法，以研究deepmind图像分类器正用于分类对象这一假设。他们发现，这个分类器更倾向于根据它们的形状而不是它们的颜色或纹理来匹配对象。
2、deepmind的两名研究人员在他们的实验中写道：“案例研究的成功证明了使用认知心理学来理解深度学习系统的潜力。”
结语：大蓝图——ai心理学家 无论是人类还是专门的算法，可能总有一天需要ai心理学家用人类心理学家试图理解我们心理的方法来探究ai大脑。behzadan认为，这项研究可以为人类心理学和人类精神病理学提供更深入的见解。
有机硅密封胶解决汽车大灯密封问题
健身房智能无脂镜将为你构建一个全新的健身世界
兼顾稳定性与性价比，锐驰智光产线大升级，开启激光雷达行业极度新内卷！
单臂万能试验机，科准制造的好用吗？
超声波清洗机原理图_超声波清洗机电路图_超声波清洗机结构图
AI不但会耍小聪明,还会使坏
BICV高精度解决方案拥有更大的市场优势
USB-C Port的Data Role、Power Role工作原理介绍
基于NI USRP的2X2 MIMO系统
4G工业路由器在太阳能物联网领域的应用
预付费宿舍电能管理系统在某大学中的设计与应用
国产蓝牙耳机哪款好？超级耐用运动蓝牙耳机推荐！
整理了一份经常忽略的嵌入式基础知识点
Xilinx Ultrascale Kintex FPGA 电源解决方案
Linux互斥锁的作用 互斥锁是什么
基于单片机的红外遥控通信实验 红外遥控器的发送和接收原理
iPhoneX和小米MIX2S哪个性能最好
水位指示器电路图分享
在线烟气分析仪常见故障及其排除方法
加拿大开发铁基燃料电池催化剂