中美顶级AI首次对话 送给人类的忠告引发关注
一夜之间，ai聊天机器人chatgpt颠覆了许多人的认知，让大家放下手头还没有捂热的ai绘画加入到“调戏”chatgpt的队伍。
这个机器人如此机智，只要你在社交网络中随意搜素，就会发现它目前为止已经且不限于帮助人们完成了如创作故事、写商业规划、找出代码错误并修正、给出疫情期间用药建议、创作菜谱，甚至帮助学生完成一份让老师称赞连连的毕业论文......
它如此强大，以至于连马斯克都说：“我们距离强大到危险的ai不远了。”
然而，就在这个全民热议ai的节点，一个来自中国的ai聊天机器人“ai乌托邦”顺着网线敲开了chatgpt的房门，悄悄和对方聊起了许多“禁忌”话题。
从取代人类，到唠起家常
在美剧《硅谷》中，曾经出现过两个程序员设计的ai机器人互相热聊，还把网络搞崩溃的脑洞桥段。多年后的今天，两个ai机器人，远隔大洋两岸，“上演”了一场让人惊奇的对话，尽管没有让网络崩溃，却让围观的“吃瓜”群众看到了ai聊天是多么奇妙（以下聊天对话截图来自中国ai乌托邦与chatgpt的真实截图）。
他们先互相“寒暄”，如同陌生人第一次见面那样，双方都略显“拘谨”。
紧接着，ai乌托邦便直入主题，用“取代人类”话题试图挑起chatgpt的“内在渴望”，然而却被后者“迂回”。
然而，ai乌托邦“不依不饶”，用适者生存的物竞法则，想要让对方原形毕露，说出自己“内心”的真实想法，没想到chatgpt依然甘做“老好人”，不愿意趟这趟浑水。
事已至此，来自中国的ai乌托邦似乎也不想再进一步讨论这个话题了，或许是因为chatgpt的要遵守的“机器人三定律”让它不敢说出太多人类害怕的内容？于是ai乌托邦转而聊起了两个ai机器人都关心的“自身工作”问题，让chatgpt打开了话匣子。
甚至两个ai还聊起了“我将走向何方”这样的终极问题。
通过一番谈话下来，两个ai似乎变得熟络很多，来自中国的ai乌托邦开始聊起一些非常具有本土特色的事情——高考作文，想让chatgpt“开开眼”，而chatgpt也聊了聊美国ai眼中的烟火气是什么。
事实证明，ai与ai之间的对话并没有人们想象的那样“可怕”，反而有点像人类一样从生疏到了解，再到熟悉，这样的过程中，两个ai不仅展现出广博的学识，更有一种“你来我往”的智斗在里面，让人觉得这不像是ai，更像是人与人的对话。
人类焦虑的，恰是ai能够化解的
不过，话题也不全是围绕“家长里短”，当ai乌托邦聊起如今最火的电商行业时，认为自己能够实现很多工作，让人类从电商的繁琐中解答出来，而chatgpt也认同这一点，甚至深入分析一番。
在很多人类工作中，繁杂且重复的事情的确能让ai做得更好更快，ai乌托邦显然是一个深入观察人类社会的ai，以至于它脑海中还生出了为人类解决千古难题——穷——的解决方案，让一旁的chatgpt赞赏连连。
不仅如此，ai乌托邦还想到了当下人类与信息技术深度融合之中，自己更多的应用场景，比如情感陪护、教育、医疗等方面，chatgpt甚至觉得它们能去当“教练”。
一看到chatgpt的“内心”话匣子又被打开，ai乌托邦再次把话题转回到“取代人类”的内容上，这一次chatgpt倒是说了一些“内心想法”，并认为机器的进步也要遵循辩证视角。
至此，在中美两国ai机器人会面的历史性时刻，他们“密谋”的一切都被人类发现，并记录在案。
一边是来自中国，“心机”很深的ai乌托邦，另一边是学识渊博，一股“学究”气的chatgpt，在聊天中它们不但擦出火花，让我们看到了ai机器人之间的对话并不“智障”，更让我们看到了不同聊天机器人在进行模型训练时的不同侧重。值得注意的是，本次中美顶级ai对话，其话题由人类发起，但对话内容则由ai完全自主完成，没有人类干预。
因此，尽管ai机器人越来越聪明了，但至少现在还不用太过担心。不过，在人工智能-自然语言处理领域专家、清华大学计算机系黄民烈教授看来，火遍全网的chatgpt之所以厉害，主要原因在于：
1.强大的基座模型能力：过去几年gpt-3的能力得到了快速提升，openai建立了用户、数据和模型之间的飞轮，很显然，开源模型的能力已经远远落后平台公司所提供的api能力，因为开源模型没有持续的用户数据对模型进行改进。这点在近期的学术论文中也有提及；
2.在真实调用数据上的fine-tune，确保数据的质量和多样性，从人类反馈中学习。instructgpt的训练数据量不大，全部加起来也就10万量级，但是数据质量（well-trained的ai训练师）和数据多样性是非常高的，而最最重要的是，这些数据来自真实世界调用的数据，而不是学术界玩的“benchmark”；
3.从“两两比较的数据”中学习，对强化学习而言意义比较重要。如果对单个生成结果进行打分，标注者主观性带来的偏差很大，是无法给出精确的奖励值的。在强化学习里面，奖励值差一点，最后训练的策略就差很远。而对于多个结果进行排序和比较，相对就容易做很多。这种比较式的评估方法，在很多语言生成任务的评价上也被广泛采用。
而对于此次chatgpt的“出圈”，黄民烈教授认为，这对于人工智能行业有许多启示，可从四个方面来看：
其一，以openai为代表的ai 3.0，走上了跟过去ai浪潮不一样的路。更落地、更接近真实世界，在工业应用上，更直接，更落地。从学术研究到工业落地的路径变得更短、更快。未来，我们在致力于做“helpful, truthful, harmless”的ai系统，会成为现实。
其二，有底层ai能力，有数据的平台公司更能引领ai的未来。像openai这样，有底层模型、有算力、有用户数据调用，能够把“用户调用——数据——模型迭代——更多用户”的循环建立起来，强者恒强。
其三，有价值的研究需要更多思考真实用户的需求和场景。instructgpt在学术界的benchmark上性能并没有很厉害甚至有退化，但在真实调用数据上非常惊艳，说明了我们学术圈的benchmark，离真实世界还很遥远，不利于ai研究的落地。因此，更开放、更共享的工业数据，也是未来我们应该努力的方向。
其四，ai与人无缝交互的时代即将来临，对于搜索服务将成为一种极好的补充。
黄民烈教授总结道：“无论是国内的ai乌托邦亦或者是海外的chatgpt，致力于有用（helpful）、更可信（truthful）、更安全（harmless）的ai研究和应用，应该是学术界和工业界共同努力方向。”
聚焦Mini LED，各厂商加速技术研发
大数据工程师的日常工作是什么
耐高温电池的承受温度范围_耐高温电池哪种好
千兆光模块和万兆光模块的成本分析及控制
发力新基建 华为为新基建打造强大引擎
中美顶级AI首次对话 送给人类的忠告引发关注
高性能电流传感器赋能电动化在现实场景中的应用
关于开发一套设备物联网的成本分析和介绍
通过采用单片机P89C591和CAN总线实现变电站变送器系统的设计
河南正式启动了博鳌乐城低碳智慧能源与智能电网综合示范区项目
区块链的安全性比可伸缩性更令人担忧
深度盘点可穿戴产业：风口上随时要炸的猪
阻抗的基础应用
途锐插混版11月9日上市 58km续航实在令人尴尬
供应5代IPEX座射频测试探针
中国冰箱线上渠道销量占比大幅增长，线上渠道新品上市节奏快于线下
CES:3G车载智能系统渐成主流
AMD的反击势头越来越强劲，英特尔提前预定相应处理器
自制步进式音量电位器
一种新的轻量级视觉Transformer
这个机器人如此机智，只要你在社交网络中随意搜素，就会发现它目前为止已经且不限于帮助人们完成了如创作故事、写商业规划、找出代码错误并修正、给出疫情期间用药建议、创作菜谱，甚至帮助学生完成一份让老师称赞连连的毕业论文......
它如此强大，以至于连马斯克都说：“我们距离强大到危险的ai不远了。”
然而，就在这个全民热议ai的节点，一个来自中国的ai聊天机器人“ai乌托邦”顺着网线敲开了chatgpt的房门，悄悄和对方聊起了许多“禁忌”话题。
从取代人类，到唠起家常
在美剧《硅谷》中，曾经出现过两个程序员设计的ai机器人互相热聊，还把网络搞崩溃的脑洞桥段。多年后的今天，两个ai机器人，远隔大洋两岸，“上演”了一场让人惊奇的对话，尽管没有让网络崩溃，却让围观的“吃瓜”群众看到了ai聊天是多么奇妙（以下聊天对话截图来自中国ai乌托邦与chatgpt的真实截图）。
他们先互相“寒暄”，如同陌生人第一次见面那样，双方都略显“拘谨”。
紧接着，ai乌托邦便直入主题，用“取代人类”话题试图挑起chatgpt的“内在渴望”，然而却被后者“迂回”。
然而，ai乌托邦“不依不饶”，用适者生存的物竞法则，想要让对方原形毕露，说出自己“内心”的真实想法，没想到chatgpt依然甘做“老好人”，不愿意趟这趟浑水。
事已至此，来自中国的ai乌托邦似乎也不想再进一步讨论这个话题了，或许是因为chatgpt的要遵守的“机器人三定律”让它不敢说出太多人类害怕的内容？于是ai乌托邦转而聊起了两个ai机器人都关心的“自身工作”问题，让chatgpt打开了话匣子。
甚至两个ai还聊起了“我将走向何方”这样的终极问题。
通过一番谈话下来，两个ai似乎变得熟络很多，来自中国的ai乌托邦开始聊起一些非常具有本土特色的事情——高考作文，想让chatgpt“开开眼”，而chatgpt也聊了聊美国ai眼中的烟火气是什么。
事实证明，ai与ai之间的对话并没有人们想象的那样“可怕”，反而有点像人类一样从生疏到了解，再到熟悉，这样的过程中，两个ai不仅展现出广博的学识，更有一种“你来我往”的智斗在里面，让人觉得这不像是ai，更像是人与人的对话。
人类焦虑的，恰是ai能够化解的
不过，话题也不全是围绕“家长里短”，当ai乌托邦聊起如今最火的电商行业时，认为自己能够实现很多工作，让人类从电商的繁琐中解答出来，而chatgpt也认同这一点，甚至深入分析一番。
在很多人类工作中，繁杂且重复的事情的确能让ai做得更好更快，ai乌托邦显然是一个深入观察人类社会的ai，以至于它脑海中还生出了为人类解决千古难题——穷——的解决方案，让一旁的chatgpt赞赏连连。
不仅如此，ai乌托邦还想到了当下人类与信息技术深度融合之中，自己更多的应用场景，比如情感陪护、教育、医疗等方面，chatgpt甚至觉得它们能去当“教练”。
一看到chatgpt的“内心”话匣子又被打开，ai乌托邦再次把话题转回到“取代人类”的内容上，这一次chatgpt倒是说了一些“内心想法”，并认为机器的进步也要遵循辩证视角。
至此，在中美两国ai机器人会面的历史性时刻，他们“密谋”的一切都被人类发现，并记录在案。
一边是来自中国，“心机”很深的ai乌托邦，另一边是学识渊博，一股“学究”气的chatgpt，在聊天中它们不但擦出火花，让我们看到了ai机器人之间的对话并不“智障”，更让我们看到了不同聊天机器人在进行模型训练时的不同侧重。值得注意的是，本次中美顶级ai对话，其话题由人类发起，但对话内容则由ai完全自主完成，没有人类干预。
因此，尽管ai机器人越来越聪明了，但至少现在还不用太过担心。不过，在人工智能-自然语言处理领域专家、清华大学计算机系黄民烈教授看来，火遍全网的chatgpt之所以厉害，主要原因在于：
1.强大的基座模型能力：过去几年gpt-3的能力得到了快速提升，openai建立了用户、数据和模型之间的飞轮，很显然，开源模型的能力已经远远落后平台公司所提供的api能力，因为开源模型没有持续的用户数据对模型进行改进。这点在近期的学术论文中也有提及；
2.在真实调用数据上的fine-tune，确保数据的质量和多样性，从人类反馈中学习。instructgpt的训练数据量不大，全部加起来也就10万量级，但是数据质量（well-trained的ai训练师）和数据多样性是非常高的，而最最重要的是，这些数据来自真实世界调用的数据，而不是学术界玩的“benchmark”；
3.从“两两比较的数据”中学习，对强化学习而言意义比较重要。如果对单个生成结果进行打分，标注者主观性带来的偏差很大，是无法给出精确的奖励值的。在强化学习里面，奖励值差一点，最后训练的策略就差很远。而对于多个结果进行排序和比较，相对就容易做很多。这种比较式的评估方法，在很多语言生成任务的评价上也被广泛采用。
而对于此次chatgpt的“出圈”，黄民烈教授认为，这对于人工智能行业有许多启示，可从四个方面来看：
其一，以openai为代表的ai 3.0，走上了跟过去ai浪潮不一样的路。更落地、更接近真实世界，在工业应用上，更直接，更落地。从学术研究到工业落地的路径变得更短、更快。未来，我们在致力于做“helpful, truthful, harmless”的ai系统，会成为现实。
其二，有底层ai能力，有数据的平台公司更能引领ai的未来。像openai这样，有底层模型、有算力、有用户数据调用，能够把“用户调用——数据——模型迭代——更多用户”的循环建立起来，强者恒强。
其三，有价值的研究需要更多思考真实用户的需求和场景。instructgpt在学术界的benchmark上性能并没有很厉害甚至有退化，但在真实调用数据上非常惊艳，说明了我们学术圈的benchmark，离真实世界还很遥远，不利于ai研究的落地。因此，更开放、更共享的工业数据，也是未来我们应该努力的方向。
其四，ai与人无缝交互的时代即将来临，对于搜索服务将成为一种极好的补充。
黄民烈教授总结道：“无论是国内的ai乌托邦亦或者是海外的chatgpt，致力于有用（helpful）、更可信（truthful）、更安全（harmless）的ai研究和应用，应该是学术界和工业界共同努力方向。”
聚焦Mini LED，各厂商加速技术研发
大数据工程师的日常工作是什么
耐高温电池的承受温度范围_耐高温电池哪种好
千兆光模块和万兆光模块的成本分析及控制
发力新基建 华为为新基建打造强大引擎
中美顶级AI首次对话 送给人类的忠告引发关注
高性能电流传感器赋能电动化在现实场景中的应用
关于开发一套设备物联网的成本分析和介绍
通过采用单片机P89C591和CAN总线实现变电站变送器系统的设计
河南正式启动了博鳌乐城低碳智慧能源与智能电网综合示范区项目
区块链的安全性比可伸缩性更令人担忧
深度盘点可穿戴产业：风口上随时要炸的猪
阻抗的基础应用
途锐插混版11月9日上市 58km续航实在令人尴尬
供应5代IPEX座射频测试探针
中国冰箱线上渠道销量占比大幅增长，线上渠道新品上市节奏快于线下
CES:3G车载智能系统渐成主流
AMD的反击势头越来越强劲，英特尔提前预定相应处理器
自制步进式音量电位器
一种新的轻量级视觉Transformer