Eleuther AI：已经开源了复现版GPT-3的模型参数
gpt3终于开源！不过，不是官方开的（别打我
eleuther ai推出的名为gpt-neo的开源项目，于晨4点于twitter正式宣布：已经开源了复现版gpt-3的模型参数（1.3b和2.7b级别），并将其更新在colab notebook之上。需要指出的是这次开源的模型里较大的那个版本也只是到了gpt-3商用版里最小模型的参数量，不过eleuther ai表示未来会进一步开源10b版本和原始大小版本的gpt3模型参数。
消息发布后，立刻被各个大v转发，10小时内就已迅速收获1.5k的点赞量，相应的github链接也已收获接近2k star。
▲twitter原文
但关于复现模型的性能，目前只说“实验表现与原版gpt-3相当”（they performed on par）。具体实验结果将于明天公布。
风靡一时的拥有1750亿超大参数量，一出道便被视作nlp领域最强ai模型的gpt-3，得益于其庞大的参数量，使得gpt-3拥有不用接受特定训练与微调，就能在不同nlp领域达到领先水平的强大能力。去年七月，gpt-3被open-ai以商业api的形式向公众开放，并被人们探索出了形形色色的应用，从基于问题的搜索，到文本样式转换，从ui界面设计，再到自动生成sql代码，gpt-3以其卓越的性能展现了其广阔的应用场景，深度学习之父hinton甚至这样评价道:
如果以gpt-3的出色性能推算未来、生命、宇宙和万物的答案也不过是4.398万亿个参数
但是，由于目前gpt-3的使用模式仍然是付费的商业api，因此并不是所有nlp的研究者都能使用gpt-3完成自己领域的任务与工作。而由connor leahy，leo gao和sid black三人联合创立的eleuther ai的团队，于去年11月宣布推出gpt-neo的开源项目，该项目基于gpt系列的设计原理，旨在复现gpt系列的各种项目，在该项目发布之初，其团队成员已经预测可以完成gpt-3级别大小的语言模型。
毫无疑问，gpt-3的开源将会催生出一大批nlp技术的崭新应用，也会以更为低廉的成本释放人们对nlp未来的想象力。
原文标题：【gpt-3】千呼万唤始出来——gpt-3终于开源！
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注！文章转载请注明出处。
太阳能蓄电池工作原理
测试焊接质量的方法，推拉力测试机测试方法
芯和半导体荣获“年度最佳EDA产品”2022硬核中国芯大奖
充分开发网络元数据，它将具有无限的潜能
【虹科终端安全案例】工业机器人领先企业Yaskawa Motoman如何应对高级威胁？
Eleuther AI：已经开源了复现版GPT-3的模型参数
口罩过滤效率仪的用途、参数及注意事项
如何选购夜视仪
水塔水位系统PLC控制
岳麓峰会正当时，开鸿智谷交出智慧教育新答卷
脉冲神经网络成为下一代机器学习？
数据总线和地址总线区别是什么?作用分别是什么
OPEN MIND重点展示三大亮点技术和五轴加工全策略
[图文]气体/烟雾报警电路
关于构建完善汽车数据安全管理体系的建议
基于bq2406X系列线性化充电器的应用系统设计
重新认识华为这个组织，理解如何才能“激活人的能力”
人脸识别企业三分天下 三大阵营企业各有特色
基于高光谱成像技术的配方烟丝组分判别
阿里云物联网安全标准又获奖了
eleuther ai推出的名为gpt-neo的开源项目，于晨4点于twitter正式宣布：已经开源了复现版gpt-3的模型参数（1.3b和2.7b级别），并将其更新在colab notebook之上。需要指出的是这次开源的模型里较大的那个版本也只是到了gpt-3商用版里最小模型的参数量，不过eleuther ai表示未来会进一步开源10b版本和原始大小版本的gpt3模型参数。
消息发布后，立刻被各个大v转发，10小时内就已迅速收获1.5k的点赞量，相应的github链接也已收获接近2k star。
▲twitter原文
但关于复现模型的性能，目前只说“实验表现与原版gpt-3相当”（they performed on par）。具体实验结果将于明天公布。
风靡一时的拥有1750亿超大参数量，一出道便被视作nlp领域最强ai模型的gpt-3，得益于其庞大的参数量，使得gpt-3拥有不用接受特定训练与微调，就能在不同nlp领域达到领先水平的强大能力。去年七月，gpt-3被open-ai以商业api的形式向公众开放，并被人们探索出了形形色色的应用，从基于问题的搜索，到文本样式转换，从ui界面设计，再到自动生成sql代码，gpt-3以其卓越的性能展现了其广阔的应用场景，深度学习之父hinton甚至这样评价道:
如果以gpt-3的出色性能推算未来、生命、宇宙和万物的答案也不过是4.398万亿个参数
但是，由于目前gpt-3的使用模式仍然是付费的商业api，因此并不是所有nlp的研究者都能使用gpt-3完成自己领域的任务与工作。而由connor leahy，leo gao和sid black三人联合创立的eleuther ai的团队，于去年11月宣布推出gpt-neo的开源项目，该项目基于gpt系列的设计原理，旨在复现gpt系列的各种项目，在该项目发布之初，其团队成员已经预测可以完成gpt-3级别大小的语言模型。
毫无疑问，gpt-3的开源将会催生出一大批nlp技术的崭新应用，也会以更为低廉的成本释放人们对nlp未来的想象力。
原文标题：【gpt-3】千呼万唤始出来——gpt-3终于开源！
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注！文章转载请注明出处。
太阳能蓄电池工作原理
测试焊接质量的方法，推拉力测试机测试方法
芯和半导体荣获“年度最佳EDA产品”2022硬核中国芯大奖
充分开发网络元数据，它将具有无限的潜能
【虹科终端安全案例】工业机器人领先企业Yaskawa Motoman如何应对高级威胁？
Eleuther AI：已经开源了复现版GPT-3的模型参数
口罩过滤效率仪的用途、参数及注意事项
如何选购夜视仪
水塔水位系统PLC控制
岳麓峰会正当时，开鸿智谷交出智慧教育新答卷
脉冲神经网络成为下一代机器学习？
数据总线和地址总线区别是什么?作用分别是什么
OPEN MIND重点展示三大亮点技术和五轴加工全策略
[图文]气体/烟雾报警电路
关于构建完善汽车数据安全管理体系的建议
基于bq2406X系列线性化充电器的应用系统设计
重新认识华为这个组织，理解如何才能“激活人的能力”
人脸识别企业三分天下 三大阵营企业各有特色
基于高光谱成像技术的配方烟丝组分判别
阿里云物联网安全标准又获奖了