人工智能是把双刃剑且可能导致误判
美国食品药品监督管理局（fda）批准了一种人工智能（ai）医疗设备上市，只需捕捉患者视网膜图像，就能自动检测是否有糖尿病性失明征兆。如今，像这样的新型ai技术正在医疗领域迅速蔓延。科学家们正积极开发着各种ai系统，能够直接或是通过各种各样的影像，帮助识别各类疾病的征兆。
未来，这样的ai系统将不仅仅在医院被广泛使用，还可能为医疗监管机构、账单服务公司和保险公司提供帮助。正如ai帮助医生检查病人的眼睛、肺部和其他身体器官一样，它也能帮助保险公司确定赔付金额和保单费用。理想的情况下，这些系统将有助于提高整个医疗体系的工作效率。然而，美国哈佛大学和麻省理工学院的一组研究人员警告称，这些系统也可能会产生难以想象的严重后果。
“对抗性攻击”是指利用调整微小的数字数据，改变人工智能系统行为的操作。例如，修改肺部扫描影像的几个像素，就能误导ai系统，把没病的判断成有病，或者把有病的误判成没病。在新发布的这篇论文中，研究人员证实，通过改变一幅良性皮肤病变图像中的少量像素，就能欺骗一种诊断ai系统，导致其误判病为恶性。他们还发现，通过简单地旋转影像，也能达到同样的目的。
如果对病人病情的书面描述进行一些小的改动，也可改变人工智能的诊断：“酗酒”的诊断结果与“酒精依赖”的不同，“腰痛”和“背痛”的诊断结果也会有所区别。随着监管机构、保险公司和医疗账单服务公司开始在其软件系统中使用ai技术，黑客可能入侵系统，导致病人误诊。更有可能发生的一种情况是，医生、医院和其他相关机构或将利用对抗性攻击，操纵医疗账单或保险软件上的ai系统，想方设法获得尽可能多的收益。
例如，如果保险公司使用ai评估医学扫描影像，医院可以通过修改扫描结果，以提高赔付金额。如果监管机构建立了ai系统，用于评估新技术，设备制造商可以通过改变图像和其他数据，以欺骗系统，获得监管部门的批准。研究人员认为，一旦人工智能深深植根于医疗体系之中，各家企业将逐渐出现能为其带来最大利润的行为。而这其中的受害者，将是患者。
哈佛大学医学院和麻省理工学院的研究人员塞缪尔·芬利森指出，如果医生为了骗过保险公司的ai系统，以获得更多利润，对医学扫描影像或病人的其他数据进行改动。而这些改动将出现在病人的永久记录中，伴随其终身，这将对病人未来的诊断产生影响。
这样的情况并不只是一种假设或不必要的担忧。事实上，由于整个医疗保健行业有大量的资金来往，一些医生、医院和其他组织已经出现了操控软件系统获利的情况。例如，为了提高医疗费用支出，医生们巧妙地修改了账单代码，将简单的x光扫描变为更复杂的扫描等等。
芬利森称，人工智能可能会加剧这个问题。未来几年，软件开发者和监管机构在构建和评估ai系统时，必须考虑这些情况发生的可能性。“医疗信息本身就模糊不明确，再加上财务激励政策经常相互冲突，使得高风险决策因非常微妙的信息变动就会出现摇摆。”
对抗性攻击利用了众多ai系统设计和构建的一个基本方面——神经网络。人工智能越来越多地受到神经网络的驱动，而神经网络本身是一种复杂的数学系统，通过分析大量数据独立学习任务。例如，通过分析成千上万的眼部扫描图像，神经网络可以学会如何监测糖尿病视网膜病变的征兆。
但这种“机器学习”是建立在巨大规模的基础，也就是无数定义人类行为的不同的数据块之上，以至于一旦接收到不正确的信息，ai系统可能产生意想不到的行为。2016 年，美国卡耐基梅隆大学的一个研究小组通过印在眼镜框上的图案，成功骗过了面部识别系统，让其误以为戴眼镜的是名人。当研究人员戴上这些眼镜时，系统把他们错误识别成米拉·乔沃维奇（milla jovovich）和约翰·马尔科维奇（john malkovich）。
也有研究曾警告称，对抗性攻击能欺骗无人驾驶汽车，让它们看到不存在的东西。通过对路标做一些微笑的改动，就导致汽车ai系统将停车标志错误地识别为让路标志。去年年底，美国纽约大学坦顿工程学院的一个研究团队创造了一种虚拟指纹，在22%的情况下，成功骗过了指纹识别器。也就是说，所有使用这些指纹识别器的手机或个人电脑，有22%可能被解锁。
鉴于生物特征安全设备和其他人工智能系统的日益普及，这项研究的影响极其深远。印度已经开始实施世界上最大的基于指纹的身份识别系统，用于发放政府津贴和分派服务。各家银行正在引入人脸识别技术到自动取款机上。与 google 同属一家母公司的 waymo等企业，目前正在对无人驾驶汽车进行公共道路测试。
如今，芬利森团队就ai系统在医学领域的使用也发出了同样的警告，目前为止，在医疗保健领域还没有发现前沿的对抗性攻击。但这种潜力是存在的，特别是在医疗账单和保险行业。
RZ/G2L开发板使用指南（上）
微处理器如何控制电源来实现负载管理（电路图）
喜报！--昊量光电喜获法国Microlight3D DMD无掩模***独家代理！
2nm芯片有什么用 2nm芯片里面有什么
区块链在医疗智能监管中的作用 主要集中在以下几个方面
人工智能是把双刃剑且可能导致误判
工业4.0中的智能制造技术有哪一些
俄罗斯科学家正在研制一种可以上天的太空摩托车！
可以用在智能家电领域的传感器有哪些？
全国产USB3.0工业相机解决方案
响应式数据库驱动协议ADBA和R2DBC
基于PowerPC 405微处理器和VME总线实现以太网接口设计
打响流量争夺战,三大运营商纷纷推出流量卡竞争
华为开发者大会2021直播开始！
电源直流模块的电磁共模骚扰的回路构成分析
网线中间断了如何连接
VR技术的交互性和丰富的体验形式引领党建工作新风向
MINI系列红外热成像模组主要优势
学习C语言应从哪几方面着手
地平线：征程3芯片量产首发
未来，这样的ai系统将不仅仅在医院被广泛使用，还可能为医疗监管机构、账单服务公司和保险公司提供帮助。正如ai帮助医生检查病人的眼睛、肺部和其他身体器官一样，它也能帮助保险公司确定赔付金额和保单费用。理想的情况下，这些系统将有助于提高整个医疗体系的工作效率。然而，美国哈佛大学和麻省理工学院的一组研究人员警告称，这些系统也可能会产生难以想象的严重后果。
“对抗性攻击”是指利用调整微小的数字数据，改变人工智能系统行为的操作。例如，修改肺部扫描影像的几个像素，就能误导ai系统，把没病的判断成有病，或者把有病的误判成没病。在新发布的这篇论文中，研究人员证实，通过改变一幅良性皮肤病变图像中的少量像素，就能欺骗一种诊断ai系统，导致其误判病为恶性。他们还发现，通过简单地旋转影像，也能达到同样的目的。
如果对病人病情的书面描述进行一些小的改动，也可改变人工智能的诊断：“酗酒”的诊断结果与“酒精依赖”的不同，“腰痛”和“背痛”的诊断结果也会有所区别。随着监管机构、保险公司和医疗账单服务公司开始在其软件系统中使用ai技术，黑客可能入侵系统，导致病人误诊。更有可能发生的一种情况是，医生、医院和其他相关机构或将利用对抗性攻击，操纵医疗账单或保险软件上的ai系统，想方设法获得尽可能多的收益。
例如，如果保险公司使用ai评估医学扫描影像，医院可以通过修改扫描结果，以提高赔付金额。如果监管机构建立了ai系统，用于评估新技术，设备制造商可以通过改变图像和其他数据，以欺骗系统，获得监管部门的批准。研究人员认为，一旦人工智能深深植根于医疗体系之中，各家企业将逐渐出现能为其带来最大利润的行为。而这其中的受害者，将是患者。
哈佛大学医学院和麻省理工学院的研究人员塞缪尔·芬利森指出，如果医生为了骗过保险公司的ai系统，以获得更多利润，对医学扫描影像或病人的其他数据进行改动。而这些改动将出现在病人的永久记录中，伴随其终身，这将对病人未来的诊断产生影响。
这样的情况并不只是一种假设或不必要的担忧。事实上，由于整个医疗保健行业有大量的资金来往，一些医生、医院和其他组织已经出现了操控软件系统获利的情况。例如，为了提高医疗费用支出，医生们巧妙地修改了账单代码，将简单的x光扫描变为更复杂的扫描等等。
芬利森称，人工智能可能会加剧这个问题。未来几年，软件开发者和监管机构在构建和评估ai系统时，必须考虑这些情况发生的可能性。“医疗信息本身就模糊不明确，再加上财务激励政策经常相互冲突，使得高风险决策因非常微妙的信息变动就会出现摇摆。”
对抗性攻击利用了众多ai系统设计和构建的一个基本方面——神经网络。人工智能越来越多地受到神经网络的驱动，而神经网络本身是一种复杂的数学系统，通过分析大量数据独立学习任务。例如，通过分析成千上万的眼部扫描图像，神经网络可以学会如何监测糖尿病视网膜病变的征兆。
但这种“机器学习”是建立在巨大规模的基础，也就是无数定义人类行为的不同的数据块之上，以至于一旦接收到不正确的信息，ai系统可能产生意想不到的行为。2016 年，美国卡耐基梅隆大学的一个研究小组通过印在眼镜框上的图案，成功骗过了面部识别系统，让其误以为戴眼镜的是名人。当研究人员戴上这些眼镜时，系统把他们错误识别成米拉·乔沃维奇（milla jovovich）和约翰·马尔科维奇（john malkovich）。
也有研究曾警告称，对抗性攻击能欺骗无人驾驶汽车，让它们看到不存在的东西。通过对路标做一些微笑的改动，就导致汽车ai系统将停车标志错误地识别为让路标志。去年年底，美国纽约大学坦顿工程学院的一个研究团队创造了一种虚拟指纹，在22%的情况下，成功骗过了指纹识别器。也就是说，所有使用这些指纹识别器的手机或个人电脑，有22%可能被解锁。
鉴于生物特征安全设备和其他人工智能系统的日益普及，这项研究的影响极其深远。印度已经开始实施世界上最大的基于指纹的身份识别系统，用于发放政府津贴和分派服务。各家银行正在引入人脸识别技术到自动取款机上。与 google 同属一家母公司的 waymo等企业，目前正在对无人驾驶汽车进行公共道路测试。
如今，芬利森团队就ai系统在医学领域的使用也发出了同样的警告，目前为止，在医疗保健领域还没有发现前沿的对抗性攻击。但这种潜力是存在的，特别是在医疗账单和保险行业。
RZ/G2L开发板使用指南（上）
微处理器如何控制电源来实现负载管理（电路图）
喜报！--昊量光电喜获法国Microlight3D DMD无掩模***独家代理！
2nm芯片有什么用 2nm芯片里面有什么
区块链在医疗智能监管中的作用 主要集中在以下几个方面
人工智能是把双刃剑且可能导致误判
工业4.0中的智能制造技术有哪一些
俄罗斯科学家正在研制一种可以上天的太空摩托车！
可以用在智能家电领域的传感器有哪些？
全国产USB3.0工业相机解决方案
响应式数据库驱动协议ADBA和R2DBC
基于PowerPC 405微处理器和VME总线实现以太网接口设计
打响流量争夺战,三大运营商纷纷推出流量卡竞争
华为开发者大会2021直播开始！
电源直流模块的电磁共模骚扰的回路构成分析
网线中间断了如何连接
VR技术的交互性和丰富的体验形式引领党建工作新风向
MINI系列红外热成像模组主要优势
学习C语言应从哪几方面着手
地平线：征程3芯片量产首发