OpenAI和微软下场造AI芯片 首款自研AI芯片11月上线！
【导读】一家独大的英伟达，把微软和openai都逼得亲自下场造芯片了。也许ai芯片大战才刚刚拉开帷幕。
微软自研ai芯片，11月上线！ 知名外媒the information独家爆料称，微软计划在下个月举行的年度开发者大会上，推出首款人工智能芯片。
同时，openai也在招聘能够帮助其评估和设计ai硬件的人员。
业内有一种说法，「卖h100比向沙漠里快要渴死的人卖水还要容易」。 不论是为了走出算力枯竭，更高效，低成本地开发自己的模型，还是为了摆脱被「利润率高达1000%」的h100盘剥。
微软和openai都在尝试「变硬」，努力戒掉对于英伟达的gpu依赖。 但是，根据业内人士爆料，英伟达对于已经推出自己芯片的公司，比如谷歌和亚马逊，会控制gpu的供给。 所以「芯片自研」的道路，是一个风险和收益都很高的选择，毕竟谁也不想未来被黄老板在gpu供给上进一步「卡脖子」。
微软自研ai芯片，追赶谷歌亚马逊
与英伟达的gpu类似，微软的芯片也是专为数据中心服务器设计，可用于训练和运行诸如chatgpt这类的大语言模型。
目前，不管是为云客户提供先进的llm支持，还是为自家的生产力应用提供ai功能，微软都需要依靠英伟达的gpu提供算力的加持。 而这款从2019年便开始研发的全新芯片，显然可以极大地减轻微软对英伟达gpu的依赖。 据知情人士称，微软和openai组成的联合团队，现在已经在对其进行测试了。
相比起早早入局的竞争对手，微软直到2019年才开始ai芯片的研发。 也是同年，微软宣布将向openai投资10亿美元，并要求他们必须使用微软的azure云服务器。 然而，当微软开始与openai进行更紧密地合作时发现，依靠购买gpu来支持这家初创公司、azure客户以及自家产品的成本，实在是太高了。 据知情人士透露，在开发athena期间，微软为了满足openai的需求，已经向英伟达订购了至少数十万块gpu。 早在，今年4月，就有消息透露了这款代号为athena的芯片的存在。
据称，微软希望这款代号为athena（雅典娜）芯片，能与一直供不应求的英伟达h100 gpu相媲美。 目前，亚马逊和谷歌已将人工智能芯片作为其云业务营销战略的重要组成部分。
其中，亚马逊在对anthropic的投资中规定，对方需要使用亚马逊的ai芯片，即trainium和inferentia。同时，谷歌云也表示，midjourney和 character ai等客户使用了自研的tpu。
微软虽然还在讨论是否要向azure云客户提供自研芯片，但该芯片在开发者大会上的首次亮相，可能预示着微软正在寻求吸引未来云客户的兴趣。 可以肯定的是，微软将借着athena的推出，极大缩短与另外两家巨头的距离——谷歌和亚马逊早已在自家的云服务器上大规模采用了自研的芯片。 此外，为了摆脱英伟达的「卡脖子」，微软还在与amd密切合作，开发即将推出的人工智能芯片mi300x。 不过，微软和其他云服务提供商普遍表示，自己并没有停止从英伟达购买gpu的打算。 但如果他们能说服云客户更多地使用自研芯片，那么从长远来看，这可以极大地节省开支。同时，也能帮助他们在与英伟达的谈判中获得更多筹码。
openai：这两家，我都不想要
对于openai来说，能同时减少对微软和英伟达芯片的依赖，显然是最好的。
据openai网站上的几则招聘信息显示，公司正在招聘能够帮助其评估和共同设计ai硬件的人员。 路透社也报道，openai正在计划下场生产自己的ai芯片。
此前，ceo sam altman曾将获得更多ai芯片作为公司的首要任务。 一方面，openai所需的gpu十分短缺，另外，运行这些硬件时产生的成本「令人瞠目结舌」。 如果算力成本一直居高不下，长远来看于整个ai行业来说可能并不是一个好消息。 毕竟如果掘金的「铲子」卖的比金子本身都贵，那么还会有人去做挖金子的人吗？ 根据stacy rasgon的分析，chatgpt每次查询大约需要4美分。如果chatgpt的查询量增长到谷歌搜索规模的十分之一，那么就将需要价值约481亿美元的gpu，并且每年需要价值约160亿美元的芯片来维持运行。 目前还不清楚openai是否会推进定制芯片的计划。 据业内资深人士分析，这将是一项投资巨大的战略举措，其中每年的成本可能高达数亿美元。而且，即使openai将资源投入到这项任务中，也不能保证成功。 除了完全的自研之外，还有一种选择是像亚马逊在2015年收购annapurna labs那样，收购一家芯片公司。
据一位知情人士透露，openai已经考虑过这条路，并对潜在的收购目标进行了尽职调查。 但即使openai继续推进定制芯片计划（包括收购），这项工作也可能需要数年时间。在此期间，openai还是将依赖于英伟达和amd等gpu供应商。 因为就算强如苹果，在2007年收购了p.a. semi和intristy，到2010年推出第一款芯片a4，也经历了3年的时间。 而openai，自己本身都还是一家初创公司，这个过程也许走得会更加艰难。 而且英伟达gpu最重要的护城河，就是它基于cuda的软硬件生态的积累。 openai不但要能设计出性能上不落后的硬件，还要在软硬件协同方面赶超cuda，绝对不是一件容易的事情。
但是，另一方面，openai做芯片也有自己独特的优势。 openai要做的芯片，不需要向其他巨头推出的芯片一样，服务于整个ai行业。 他只需满足自己对模型训练的理解和需求，为自己定制化的设计一款ai芯片。 这和谷歌、亚马逊这种将自己的ai芯片放在云端提供给第三方使用的芯片会有很大的不同，因为几乎不用考虑兼容性的问题。 这样就能在设计层面让芯片能更高效地执行transformer模型和相关的软件栈。
而且，openai在模型训练方面的领先优势和规划，能让它真正做到在未来把模型训练相关的硬件问题，用自己独家设计的芯片来解决。 不用担心自己的芯片在「满足自己需要」的性能上，相比与英伟达这样的行业巨头会有后发劣势。
都是成本的问题
设计自己的ai芯片，与英伟达直接「刚正面」如此之难，为什么巨头们还要纷纷下场？
最直接的原因就是，英伟达的gpu太贵了！ 加上云提供商在中间还要再赚一笔。这样，包括openai在内，使用英伟达gpu+云提供商的基础模型企业成本肯定居高不下。
有国外媒体算过这样一笔账： 现在，购买一个使用英伟达h100 gpu的人工智能训练集群，成本约为10亿美元，其fp16运算能力约为20 exaflops（还不包括对矩阵乘法的稀疏性支持）。而在云上租用三年，则会使成本增加2.5倍。 这些成本包括了集群节点的网络、计算和本地存储，但不包括任何外部高容量和高性能文件系统存储。 购买一个基于hopper h100的八gpu节点可能需要花费近30万美元，其中还包括infiniband网络（网卡、电缆和交换机）的分摊费用。 同样的八gpu节点，在aws上按需租用的价格为260万美元，预留三年的价格为110万美元，在微软azure和谷歌云上的价格可能也差不多。 因此，如果openai能够以低于50万美元的单价（包括所有成本）构建系统，那么它的成本将减少一半以上，同时还能掌握自己的「算力自由」。 将这些费用削减一半，在投入资源不变的情况下，openai的模型规模就会扩大一倍；如果成本能够减少四分之三，则翻四倍。在模型规模每两到三个月翻倍的市场中，这一点非常重要。 所以长远来看，也许任何一个有野心的ai大模型公司，都不得不面对的一个最基本问题就是——如何尽可能的降低算力成本。 而摆脱「金铲子卖家」英伟达，使用自己的gpu，永远都是最有效的方法。
网友热议
对于openai和微软下场造ai芯片的做法，一些网友似乎持不同的意见，认为ai芯片是一个「陷阱」。
逼得openai等模型公司造硬件，一个最大的原因是其他芯片公司完全不给力，英伟达几乎没有竞争。 如果ai芯片是一个竞争充分的市场，openai这类的公司就不会自己下场做ai芯片。
而有些想法更加激进的网友认为，大语言模型未来将集成到芯片当中，人类可以用自然语言和计算机直接对话。所以设计芯片是走到那一步的自然选择。
三极插头的定义几作用
DS31256的初始化步骤
5G竞争趋于白热化，中企开始积极进行产业布局
中国移动董事长杨杰对5G全球的发展提出了四点建议
xenomai+linux双内核下的时钟管理机制
OpenAI和微软下场造AI芯片 首款自研AI芯片11月上线！
三星遭遇最严重的利润下滑 内存芯片市场成投资者的指望
AR初创公司Ubiquity6宣布完成2700万美元B轮融资
深度学习模型小型化处理的五种方法
基于4G物联网网关的二次供水泵站远程监控解决方案
人工智能版“薄雾君” 人工智能植物种类识别
带有A9-9820 APU的无名主板已经出现在全球速卖通上
挪亚检测认证与TÜV南德达成战略合作，携手深耕TIC行业
魅族千元机是最好的手机：魅蓝5S、魅蓝Note5，你更看好谁？
特朗普做梦都想创造就业机会 可还得过机器人这关
PLC的扫描工作过程
EMC干扰三要素？聊聊屏蔽和EMC的故事
新版荣耀MagicBook曝光新技术将让手机和电脑之间的互动更加灵活
集电极开路（OC）/漏极开路（OD）输出的结构
中芯国际已将明导国际Calibre产品认证DFM签核参考平台
微软自研ai芯片，11月上线！ 知名外媒the information独家爆料称，微软计划在下个月举行的年度开发者大会上，推出首款人工智能芯片。
同时，openai也在招聘能够帮助其评估和设计ai硬件的人员。
业内有一种说法，「卖h100比向沙漠里快要渴死的人卖水还要容易」。 不论是为了走出算力枯竭，更高效，低成本地开发自己的模型，还是为了摆脱被「利润率高达1000%」的h100盘剥。
微软和openai都在尝试「变硬」，努力戒掉对于英伟达的gpu依赖。 但是，根据业内人士爆料，英伟达对于已经推出自己芯片的公司，比如谷歌和亚马逊，会控制gpu的供给。 所以「芯片自研」的道路，是一个风险和收益都很高的选择，毕竟谁也不想未来被黄老板在gpu供给上进一步「卡脖子」。
微软自研ai芯片，追赶谷歌亚马逊
与英伟达的gpu类似，微软的芯片也是专为数据中心服务器设计，可用于训练和运行诸如chatgpt这类的大语言模型。
目前，不管是为云客户提供先进的llm支持，还是为自家的生产力应用提供ai功能，微软都需要依靠英伟达的gpu提供算力的加持。 而这款从2019年便开始研发的全新芯片，显然可以极大地减轻微软对英伟达gpu的依赖。 据知情人士称，微软和openai组成的联合团队，现在已经在对其进行测试了。
相比起早早入局的竞争对手，微软直到2019年才开始ai芯片的研发。 也是同年，微软宣布将向openai投资10亿美元，并要求他们必须使用微软的azure云服务器。 然而，当微软开始与openai进行更紧密地合作时发现，依靠购买gpu来支持这家初创公司、azure客户以及自家产品的成本，实在是太高了。 据知情人士透露，在开发athena期间，微软为了满足openai的需求，已经向英伟达订购了至少数十万块gpu。 早在，今年4月，就有消息透露了这款代号为athena的芯片的存在。
据称，微软希望这款代号为athena（雅典娜）芯片，能与一直供不应求的英伟达h100 gpu相媲美。 目前，亚马逊和谷歌已将人工智能芯片作为其云业务营销战略的重要组成部分。
其中，亚马逊在对anthropic的投资中规定，对方需要使用亚马逊的ai芯片，即trainium和inferentia。同时，谷歌云也表示，midjourney和 character ai等客户使用了自研的tpu。
微软虽然还在讨论是否要向azure云客户提供自研芯片，但该芯片在开发者大会上的首次亮相，可能预示着微软正在寻求吸引未来云客户的兴趣。 可以肯定的是，微软将借着athena的推出，极大缩短与另外两家巨头的距离——谷歌和亚马逊早已在自家的云服务器上大规模采用了自研的芯片。 此外，为了摆脱英伟达的「卡脖子」，微软还在与amd密切合作，开发即将推出的人工智能芯片mi300x。 不过，微软和其他云服务提供商普遍表示，自己并没有停止从英伟达购买gpu的打算。 但如果他们能说服云客户更多地使用自研芯片，那么从长远来看，这可以极大地节省开支。同时，也能帮助他们在与英伟达的谈判中获得更多筹码。
openai：这两家，我都不想要
对于openai来说，能同时减少对微软和英伟达芯片的依赖，显然是最好的。
据openai网站上的几则招聘信息显示，公司正在招聘能够帮助其评估和共同设计ai硬件的人员。 路透社也报道，openai正在计划下场生产自己的ai芯片。
此前，ceo sam altman曾将获得更多ai芯片作为公司的首要任务。 一方面，openai所需的gpu十分短缺，另外，运行这些硬件时产生的成本「令人瞠目结舌」。 如果算力成本一直居高不下，长远来看于整个ai行业来说可能并不是一个好消息。 毕竟如果掘金的「铲子」卖的比金子本身都贵，那么还会有人去做挖金子的人吗？ 根据stacy rasgon的分析，chatgpt每次查询大约需要4美分。如果chatgpt的查询量增长到谷歌搜索规模的十分之一，那么就将需要价值约481亿美元的gpu，并且每年需要价值约160亿美元的芯片来维持运行。 目前还不清楚openai是否会推进定制芯片的计划。 据业内资深人士分析，这将是一项投资巨大的战略举措，其中每年的成本可能高达数亿美元。而且，即使openai将资源投入到这项任务中，也不能保证成功。 除了完全的自研之外，还有一种选择是像亚马逊在2015年收购annapurna labs那样，收购一家芯片公司。
据一位知情人士透露，openai已经考虑过这条路，并对潜在的收购目标进行了尽职调查。 但即使openai继续推进定制芯片计划（包括收购），这项工作也可能需要数年时间。在此期间，openai还是将依赖于英伟达和amd等gpu供应商。 因为就算强如苹果，在2007年收购了p.a. semi和intristy，到2010年推出第一款芯片a4，也经历了3年的时间。 而openai，自己本身都还是一家初创公司，这个过程也许走得会更加艰难。 而且英伟达gpu最重要的护城河，就是它基于cuda的软硬件生态的积累。 openai不但要能设计出性能上不落后的硬件，还要在软硬件协同方面赶超cuda，绝对不是一件容易的事情。
但是，另一方面，openai做芯片也有自己独特的优势。 openai要做的芯片，不需要向其他巨头推出的芯片一样，服务于整个ai行业。 他只需满足自己对模型训练的理解和需求，为自己定制化的设计一款ai芯片。 这和谷歌、亚马逊这种将自己的ai芯片放在云端提供给第三方使用的芯片会有很大的不同，因为几乎不用考虑兼容性的问题。 这样就能在设计层面让芯片能更高效地执行transformer模型和相关的软件栈。
而且，openai在模型训练方面的领先优势和规划，能让它真正做到在未来把模型训练相关的硬件问题，用自己独家设计的芯片来解决。 不用担心自己的芯片在「满足自己需要」的性能上，相比与英伟达这样的行业巨头会有后发劣势。
都是成本的问题
设计自己的ai芯片，与英伟达直接「刚正面」如此之难，为什么巨头们还要纷纷下场？
最直接的原因就是，英伟达的gpu太贵了！ 加上云提供商在中间还要再赚一笔。这样，包括openai在内，使用英伟达gpu+云提供商的基础模型企业成本肯定居高不下。
有国外媒体算过这样一笔账： 现在，购买一个使用英伟达h100 gpu的人工智能训练集群，成本约为10亿美元，其fp16运算能力约为20 exaflops（还不包括对矩阵乘法的稀疏性支持）。而在云上租用三年，则会使成本增加2.5倍。 这些成本包括了集群节点的网络、计算和本地存储，但不包括任何外部高容量和高性能文件系统存储。 购买一个基于hopper h100的八gpu节点可能需要花费近30万美元，其中还包括infiniband网络（网卡、电缆和交换机）的分摊费用。 同样的八gpu节点，在aws上按需租用的价格为260万美元，预留三年的价格为110万美元，在微软azure和谷歌云上的价格可能也差不多。 因此，如果openai能够以低于50万美元的单价（包括所有成本）构建系统，那么它的成本将减少一半以上，同时还能掌握自己的「算力自由」。 将这些费用削减一半，在投入资源不变的情况下，openai的模型规模就会扩大一倍；如果成本能够减少四分之三，则翻四倍。在模型规模每两到三个月翻倍的市场中，这一点非常重要。 所以长远来看，也许任何一个有野心的ai大模型公司，都不得不面对的一个最基本问题就是——如何尽可能的降低算力成本。 而摆脱「金铲子卖家」英伟达，使用自己的gpu，永远都是最有效的方法。
网友热议
对于openai和微软下场造ai芯片的做法，一些网友似乎持不同的意见，认为ai芯片是一个「陷阱」。
逼得openai等模型公司造硬件，一个最大的原因是其他芯片公司完全不给力，英伟达几乎没有竞争。 如果ai芯片是一个竞争充分的市场，openai这类的公司就不会自己下场做ai芯片。
而有些想法更加激进的网友认为，大语言模型未来将集成到芯片当中，人类可以用自然语言和计算机直接对话。所以设计芯片是走到那一步的自然选择。
三极插头的定义几作用
DS31256的初始化步骤
5G竞争趋于白热化，中企开始积极进行产业布局
中国移动董事长杨杰对5G全球的发展提出了四点建议
xenomai+linux双内核下的时钟管理机制
OpenAI和微软下场造AI芯片 首款自研AI芯片11月上线！
三星遭遇最严重的利润下滑 内存芯片市场成投资者的指望
AR初创公司Ubiquity6宣布完成2700万美元B轮融资
深度学习模型小型化处理的五种方法
基于4G物联网网关的二次供水泵站远程监控解决方案
人工智能版“薄雾君” 人工智能植物种类识别
带有A9-9820 APU的无名主板已经出现在全球速卖通上
挪亚检测认证与TÜV南德达成战略合作，携手深耕TIC行业
魅族千元机是最好的手机：魅蓝5S、魅蓝Note5，你更看好谁？
特朗普做梦都想创造就业机会 可还得过机器人这关
PLC的扫描工作过程
EMC干扰三要素？聊聊屏蔽和EMC的故事
新版荣耀MagicBook曝光新技术将让手机和电脑之间的互动更加灵活
集电极开路（OC）/漏极开路（OD）输出的结构
中芯国际已将明导国际Calibre产品认证DFM签核参考平台