谈谈人工智能的潜在风险
马丁·福特（martin ford）2015 年出版的《机器人的崛起》一书曾掀起波澜，该书详细介绍了许多自动化的加速发展趋势，以及它们如何影响商业，特别是就业。在新书《智能建筑师：ai 建筑者谈人工智能真相》中，他试着搞清楚副标题到底描述的是什么。本书主要是对人工智能领域最知名人士进行深入访谈。其中之一是 geoffrey hinton，他在人工神经网络方面做出了开创性工作，hinton 目前是多伦多大学的计算机科学教授，也参与了 google brain 项目，他被自己所在领域的许多人视为“深度学习之父”。本文摘自这本新书，hinton 谈到自己如何思考他所开创的先进系统对经济和社会的巨大影响，并强调了解决问题需要区分社会系统和技术系统。当然，他也谈到了学术方面的一些建议和担心。
马丁·福特：我们来谈谈人工智能的潜在风险。一个特殊挑战是对就业市场和经济的潜在影响。您是否认为所有这些都可能导致新的工业革命并彻底改变就业市场？如果是这样，这会是我们需要担心的事情，还是说，它是另一件可能被人们夸大的事情？
geoffrey hinton：如果你能够大幅提高生产力并提供更多好处，那应该是一件好事。不过，它是否是一件好事完全取决于社会系统，而不是技术。人们正在研究技术，好像技术进步是一个问题，但问题在于我们是否会建立一个公平分享的社会系统，还是一个仅关注那 1% 的人并将其他社会人员视如草芥的社会。这与技术无关。
马丁·福特：不过，接下来问题就来了，因为很多工作可能会消失——特别是那些可预测且易于自动化的工作。基本收入制度是社会对这一趋势的基本反应，你赞同这一制度吗？
geoffrey hinton：是的，我认为基本收入是一个非常明智的想法。
马丁·福特：那么，您认为需要采取政策来解决这个问题吗？有些人认为应该就此打住，但那可能是不负责任的。
geoffrey hinton：我搬到了加拿大是因为税率较高，因为我认为正确的税收是好事。政府应该做的是建立机制，以便当人们为自己的利益行事时，它会帮助每个人。高税收是一种这样的机制：当人们致富时，其他人都会受到税收的帮助。我当然同意要确保 ai 让每个人受益，但还有很多工作要做。
马丁·福特：对那些可能与人工智能有关的其他一些风险，比如武器化，你怎么看？
geoffrey hinton：是的，我对普京总统最近所说的一些事情感到担忧。我认为人们现在应该努力让国际社会探讨那些可以杀死人的武器，就像他们对待化学战和大规模杀伤性武器那样。
马丁·福特：是否赞成暂停某种类型的研究和开发？
geoffrey hinton：你不会暂停这种类型的研究，就像你没有暂停神经毒剂的研发一样，但确实存在一种国际机制阻止它们被广泛使用。
马丁·福特：除军事武器使用外，其他风险如何？是否还有其他问题让你担忧，如隐私和透明度？
geoffrey hinton：用它来操纵选举和操纵选民令人担忧。cambridge analytica 由 bob mercer 成立，他是一名机器学习学者，你已经看到 cambridge analytica 造成了很大的破坏。我们必须认真对待。
马丁·福特：你认为需要有监管吗？
geoffrey hinton：是的，需要很多监管。这是一个非常有趣的问题，但我不是这方面的专家，所以没有更多可建议的。
马丁·福特：怎么看全球军备竞赛？一个国家不要远远领先于其他国家，这重要吗？
geoffrey hinton：你所谈论的是全球政治。很长一段时间，英国是一个占主导地位的国家，他们表现得不是很好，然后就是美国，他们表现得不是很好，如果换作中国占主导地位，我不指望他们表现得会很好。
马丁·福特：你认为我们应该采取某种形式的产业政策吗？美国和其他西方政府是否应该关注人工智能并将其作为国家优先事项？
geoffrey hinton：技术会有很大的发展，如果不试图跟上这一步伐，会显得很疯狂，所以很明显，应该进行大量投资。这对我来说似乎是常识。
马丁·福特：总的来说，你对这一切感到乐观吗？你认为人工智能的回报会超过带来的负面影响吗？
geoffrey hinton：我希望回报超过负面的东西，但我不知道社会建设层面的人是否也这样想，这是一个社会系统问题，而不是技术问题。
马丁•福特：人工智能领域人才严重短缺，大家都在招人。对于想要进入这一领域的年轻人，你有什么建议? 有没有什么建议可以帮助他们吸引更多的人，并使之成为人工智能和深度学习领域的专家?
geoffrey hinton：我担心对基础知识持批判态度的人不够多。capsules 论文是说，也许我们做事情的一些基本方法不是最好的，我们应该撒一张更大的网。我们应该为正在做的一些基本假设寻找替代品。我给大家的一个建议是，如果你的直觉认为人们正在做的事情是错误的，并且可能会有更好的事情发生，你就应该遵从自己的直觉。
你很可能是错的，但是当人们在知道如何从根本上改变事情时，如果不跟着自己的直觉走，就会陷入困境。我认为真正的新想法最丰富的来源是研究生在大学里得到的良好建议。他们可以自由地提出真正的新想法，并且他们所学到的东西足以让他们不仅仅重复历史，我们需要保持这一点。攻读完硕士学位后直接进入这个行业的人不会有什么全新的想法。我认为你需要坐下来思考几年。
马丁·福特：加拿大似乎是深度学习的中心。这是偶然的吗? 还是加拿大有什么特别的地方促成了这一点?
geoffrey hinton：加拿大高级研究院 (cifar) 为高风险领域的基础研究提供资金，这是非常重要的。yann lecun（他曾是我的博士后）和 yoshua bengio 都在加拿大，这也带来了很多好运。我们三人合作，能够结出累累的硕果，加拿大高级研究所资助了我们的合作。我们也曾经一度被孤立，处境相当恶劣——直到最近，深度学习的环境才变得不那么恶劣——这笔资金对我们很有帮助，让我们能够在小型会议上有相当多的时间相互交流，在那里我们可以真正分享未发表的想法。
AT89S51单片机的详细资料介绍
快充时代下的氮化镓方案，英飞凌CoolGaN IPS面向30W至500W应用
在开发生命周期的早期降低安全风险
电阻器在电动机控制器中的应用
三菱飞机计划将开发符合美国需求的70座新机型
谈谈人工智能的潜在风险
白光干涉仪和激光共聚焦显微镜的区别
如果贴片电感坏了有什么现象你知道吗
全球移动供应商协会揭示2020年关键5G里程碑
Samtec基于Tiger Eye触点系统打造性能优异的耐用型连接器产品
三菱PLC内部计数器编程
美光科技2022第四财季营收、净利双下降，2023财年资本支出将同比下降30%以上
比亚迪半导体功率器件和传感控制器件研发及产业化项目一期竣工
AI赋能保险，虹软科技助推金融行业智变
亚马逊加速机器人开发流程 2019年将推家用机器人
围绕特斯拉4680电池订单争夺，LG能源与松下展开新的竞争
似春晚的oppor11发布会精彩回顾:前后2000W,拍照更清晰,oppor11售价正式公布,2999元七色可选,还不抓紧时间预约?
详解小米多看电纸书Pro值不值得买？
IBM T30 的笔记本电脑不开机维修全过程(维修纪实)
李楠自爆：魅蓝新品4月发布，注重外观设计
马丁·福特：我们来谈谈人工智能的潜在风险。一个特殊挑战是对就业市场和经济的潜在影响。您是否认为所有这些都可能导致新的工业革命并彻底改变就业市场？如果是这样，这会是我们需要担心的事情，还是说，它是另一件可能被人们夸大的事情？
geoffrey hinton：如果你能够大幅提高生产力并提供更多好处，那应该是一件好事。不过，它是否是一件好事完全取决于社会系统，而不是技术。人们正在研究技术，好像技术进步是一个问题，但问题在于我们是否会建立一个公平分享的社会系统，还是一个仅关注那 1% 的人并将其他社会人员视如草芥的社会。这与技术无关。
马丁·福特：不过，接下来问题就来了，因为很多工作可能会消失——特别是那些可预测且易于自动化的工作。基本收入制度是社会对这一趋势的基本反应，你赞同这一制度吗？
geoffrey hinton：是的，我认为基本收入是一个非常明智的想法。
马丁·福特：那么，您认为需要采取政策来解决这个问题吗？有些人认为应该就此打住，但那可能是不负责任的。
geoffrey hinton：我搬到了加拿大是因为税率较高，因为我认为正确的税收是好事。政府应该做的是建立机制，以便当人们为自己的利益行事时，它会帮助每个人。高税收是一种这样的机制：当人们致富时，其他人都会受到税收的帮助。我当然同意要确保 ai 让每个人受益，但还有很多工作要做。
马丁·福特：对那些可能与人工智能有关的其他一些风险，比如武器化，你怎么看？
geoffrey hinton：是的，我对普京总统最近所说的一些事情感到担忧。我认为人们现在应该努力让国际社会探讨那些可以杀死人的武器，就像他们对待化学战和大规模杀伤性武器那样。
马丁·福特：是否赞成暂停某种类型的研究和开发？
geoffrey hinton：你不会暂停这种类型的研究，就像你没有暂停神经毒剂的研发一样，但确实存在一种国际机制阻止它们被广泛使用。
马丁·福特：除军事武器使用外，其他风险如何？是否还有其他问题让你担忧，如隐私和透明度？
geoffrey hinton：用它来操纵选举和操纵选民令人担忧。cambridge analytica 由 bob mercer 成立，他是一名机器学习学者，你已经看到 cambridge analytica 造成了很大的破坏。我们必须认真对待。
马丁·福特：你认为需要有监管吗？
geoffrey hinton：是的，需要很多监管。这是一个非常有趣的问题，但我不是这方面的专家，所以没有更多可建议的。
马丁·福特：怎么看全球军备竞赛？一个国家不要远远领先于其他国家，这重要吗？
geoffrey hinton：你所谈论的是全球政治。很长一段时间，英国是一个占主导地位的国家，他们表现得不是很好，然后就是美国，他们表现得不是很好，如果换作中国占主导地位，我不指望他们表现得会很好。
马丁·福特：你认为我们应该采取某种形式的产业政策吗？美国和其他西方政府是否应该关注人工智能并将其作为国家优先事项？
geoffrey hinton：技术会有很大的发展，如果不试图跟上这一步伐，会显得很疯狂，所以很明显，应该进行大量投资。这对我来说似乎是常识。
马丁·福特：总的来说，你对这一切感到乐观吗？你认为人工智能的回报会超过带来的负面影响吗？
geoffrey hinton：我希望回报超过负面的东西，但我不知道社会建设层面的人是否也这样想，这是一个社会系统问题，而不是技术问题。
马丁•福特：人工智能领域人才严重短缺，大家都在招人。对于想要进入这一领域的年轻人，你有什么建议? 有没有什么建议可以帮助他们吸引更多的人，并使之成为人工智能和深度学习领域的专家?
geoffrey hinton：我担心对基础知识持批判态度的人不够多。capsules 论文是说，也许我们做事情的一些基本方法不是最好的，我们应该撒一张更大的网。我们应该为正在做的一些基本假设寻找替代品。我给大家的一个建议是，如果你的直觉认为人们正在做的事情是错误的，并且可能会有更好的事情发生，你就应该遵从自己的直觉。
你很可能是错的，但是当人们在知道如何从根本上改变事情时，如果不跟着自己的直觉走，就会陷入困境。我认为真正的新想法最丰富的来源是研究生在大学里得到的良好建议。他们可以自由地提出真正的新想法，并且他们所学到的东西足以让他们不仅仅重复历史，我们需要保持这一点。攻读完硕士学位后直接进入这个行业的人不会有什么全新的想法。我认为你需要坐下来思考几年。
马丁·福特：加拿大似乎是深度学习的中心。这是偶然的吗? 还是加拿大有什么特别的地方促成了这一点?
geoffrey hinton：加拿大高级研究院 (cifar) 为高风险领域的基础研究提供资金，这是非常重要的。yann lecun（他曾是我的博士后）和 yoshua bengio 都在加拿大，这也带来了很多好运。我们三人合作，能够结出累累的硕果，加拿大高级研究所资助了我们的合作。我们也曾经一度被孤立，处境相当恶劣——直到最近，深度学习的环境才变得不那么恶劣——这笔资金对我们很有帮助，让我们能够在小型会议上有相当多的时间相互交流，在那里我们可以真正分享未发表的想法。
AT89S51单片机的详细资料介绍
快充时代下的氮化镓方案，英飞凌CoolGaN IPS面向30W至500W应用
在开发生命周期的早期降低安全风险
电阻器在电动机控制器中的应用
三菱飞机计划将开发符合美国需求的70座新机型
谈谈人工智能的潜在风险
白光干涉仪和激光共聚焦显微镜的区别
如果贴片电感坏了有什么现象你知道吗
全球移动供应商协会揭示2020年关键5G里程碑
Samtec基于Tiger Eye触点系统打造性能优异的耐用型连接器产品
三菱PLC内部计数器编程
美光科技2022第四财季营收、净利双下降，2023财年资本支出将同比下降30%以上
比亚迪半导体功率器件和传感控制器件研发及产业化项目一期竣工
AI赋能保险，虹软科技助推金融行业智变
亚马逊加速机器人开发流程 2019年将推家用机器人
围绕特斯拉4680电池订单争夺，LG能源与松下展开新的竞争
似春晚的oppor11发布会精彩回顾:前后2000W,拍照更清晰,oppor11售价正式公布,2999元七色可选,还不抓紧时间预约?
详解小米多看电纸书Pro值不值得买？
IBM T30 的笔记本电脑不开机维修全过程(维修纪实)
李楠自爆：魅蓝新品4月发布，注重外观设计