1.5T内存挑战英伟达！8枚芯片撑起3个GPT-4，华人AI芯片独角兽估值365亿
高端gpu持续缺货之下，一家要挑战英伟达的芯片初创公司成为行业热议焦点。
8枚芯片跑大模型，就能支持5万亿参数（gpt-4的三倍） 。
这是独角兽企业sambanova刚刚发布的新型ai芯片sn40l——
型号中40代表是他们第四代产品，l代表专为大模型（llm）优化：高达1.5t的内存，支持25.6万个token的序列长度。
ceo rodrigo liang表示，当前行业标准做法下运行万亿参数大模型需要数百枚芯片，我们的方法使总拥有成本只有标准方法的1/25。
sambanova目前估值50亿美元（约365亿人民币），累计完成了6轮总计11亿美元的融资，投资方包括英特尔、软银、三星、gv等。
他们不仅在芯片上要挑战英伟达，业务模式上也说要比英伟达走的更远：直接参与帮助企业训练私有大模型。
目标客户上野心更是很大：瞄准世界上最大的2000家企业。
1.5tb内存的ai芯片
最新产品sn40l，由台积电5纳米工艺制造，包含1020亿晶体管，峰值速度638teraflops。
与英伟达等其他ai芯片更大的不同在于新的三层dataflow内存系统。
520mb片上sram内存
65gb的高带宽hbm3内存
以及高达1.5tb的外部dram内存
与主要竞品相比，英伟达h100最高拥有80gb hbm3内存，amd mi300拥有192gb hbm3内存。
sn40l的高带宽hbm3内存实际比前两者小，更多依靠大容量dram。
rodrigo liang表示，虽然dram速度更慢，但专用的软件编译器可以智能地分配三个内存层之间的负载，还允许编译器将8个芯片视为单个系统。
除了硬件指标，sn40l针对大模型做的优化还有同时提供密集和稀疏计算加速。
他们认为大模型中许多权重设置为0，像其他数据一样去执行操作很浪费。
他们找到一种软件层面的加速办法，与调度和数据传输有关，但没有透露细节，“我们还没准备好向公布是如何做到这一点的”。
咨询机构gartner的分析师chirag dekate认为，sn40l的一个可能优势在于多模态ai。
gpu的架构非常严格，面对图像、视频、文本等多样数据时可能不够灵活，而sambanova可以调整硬件来满足工作负载的要求。
目前，sambanova的芯片和系统已获得不少大型客户，包括世界排名前列的超算实验室，日本富岳、美国阿贡国家实验室、劳伦斯国家实验室，以及咨询公司埃森哲等。
业务模式也比较特别，芯片不单卖，而是出售其定制技术堆栈，从芯片到服务器系统，甚至包括部署大模型。
为此，他们与togetherml联合开发了bloomchat，一个1760亿参数的多语言聊天大模型。
bloomchat建立在bigscience组织的开源大模型bloom之上，并在来自openchatkit、dolly 2.0和oasst1的oig上进行了微调。
训练过程中，它使用了sambanova独特的可重配置数据流架构，然后在sambanova datascale系统进行训练。
这也是这家公司最大被投资者热捧之外的最大争议点之一，很多人不看好一家公司既做芯片又做大模型。
给每家大企业打造150个大模型
在与the next platform网站交流时，ceo rodrigo liang表示：
用于大模型训练的公开数据已快耗尽，但对参数数量的追求还在不断增加。
各种大模型的性能相差只有几个百分点，这不是大家应该玩的游戏。
他认为大模型与生成式ai商业化的下一个战场是企业的私有数据，尤其是大企业。
这些企业坐拥大量的数据，但自己不知道其中大部分内容是什么。
对于企业私有大模型的形态，sambanova也有与众不同的观点。
他们认为最终企业内部不会运行一个gpt-4或谷歌gemini那样的超大模型，而是根据不同数据子集创建150个独特的模型，聚合参数超过万亿。
相当于把gpt-4等大模型内部的mixture of experts（专家混合）架构扩展到整个系统，称为composition of experts（专家合成）。
在企业运转的每个节点运行一个完整且经过专门调整的基础模型，分别用法律语料库、制造语料库、风险管理语料库、财富管理语料库、客户销售语料库、客户支持语料库等等不同数据训练。
这些专家模型之间通过一种软件路由或负载平衡器联在一起，收到推理请求后决定具体向哪个模型推送提示词。
这一策略与gpt-4和谷歌gemini等做法形成鲜明对比，巨头大多希望创建一个能泛化到数百万个任务的巨型模型。
分析师认为技术上可能谷歌的做法性能更强，但sambanova的方法对企业来说更实用。
没有任何一个模型或人能完整访问企业的所有数据，限制每个部门能访问的专家模型，就能限制他们能访问的数据。
斯坦福系芯片公司，华人工程师主力
sambanova成立于2017年，2020年之前都比较低调。
联创3人都是斯坦福背景，连产品系列名cardinal（深红色）都是斯坦福的昵称与代表颜色。
ceo rodrigo liang是前sun/甲骨文工程副总裁，也有人将这个名字解读为暗指甲骨文老对头ibm的deepblue（深蓝）。
另外两位联合创始人都是斯坦福教授。
cto kunle olukotun是电气工程教授，因多核芯片架构方面的研究而闻名，开发了首批支持线程级推测 (tls) 的芯片之一。
christopher ré是计算机科学副教授，重点研究方向机器学习和数据分析的速度和可扩展性。
此外团队中还有不少华人工程师。
从官网公开信息来看，sambanova的领导团队中，至少有3名华人。
jonathan chang，拥有uc伯克利的机械工程学士学位以及南加州大学的mba学位。
他在构建高增长方面拥有20多年的经验。加入sambanova之前，chang在特斯拉工作了近9年。
marshall choy，此前曾担任甲骨文公司系统产品管理和解决方案开发副总裁，监督了数十个行业的企业硬件和软件产品的上市。
penny li，在eda工具和微处理器设计方面拥有超过27年的经验。此前，她曾在ibm和甲骨文工作过。
如果去领英搜索还能发现更多华人团队成员。
目前sambanova包含sn40l芯片的人工智能引擎已上市，但定价没有公开。
根据rodrigo liang的说法，8个sn40l组成的集群总共可处理5万亿参数，相当于70个700亿参数大模型。
全球2000强的企业只需购买两个这样的8芯片集群，就能满足所有大模型需求。
西部数据加入著名全球灯塔网络 美光基金会承诺投入超过 100 万美元
华为畅享10 Plus无孔全视屏 打造全视野娱乐体验
同样是电子地图，高德地图与百度地图到底差在哪儿了？
采用AX22001微处理器与Wi-Fi模块实现无线温度传感器的设计
中国联通展现5G系列应用风采开启了5G智慧生活之旅
1.5T内存挑战英伟达！8枚芯片撑起3个GPT-4，华人AI芯片独角兽估值365亿
发光二极管和光电二极管的区别
基于S3C2440A微处理器和Linux操作系统实现对步进电机的控制
坚持“科技+本地化”塑造威洛博线性机械手百年品牌
2018年TOP15半导体厂商销售分析：三星销售第一，SK海力士增幅最高
一加8外观设计图曝光，前置单摄挖孔后置三摄设计
华为云连接CC，解决企业跨地区发展的网络难题
一种仅通过PCB制造工艺就能完成挤压螺母安装的方案
国家对申请照明产品范围及条件、申请企业条件等作出了规定
我们为什么要搞5G-A？和大家聊聊5G-A
数字新基建战略落地的建议
华为荣耀首次试水推智能电视 不走低价路线
电路设计的九段境界 看看自己现在处于什么段位
IGBT/IPM/DIPIPM定义及应用基础（1）
人工智能通过创造新就业岗位和改善当前岗位现状来大幅提升生产率
8枚芯片跑大模型，就能支持5万亿参数（gpt-4的三倍） 。
这是独角兽企业sambanova刚刚发布的新型ai芯片sn40l——
型号中40代表是他们第四代产品，l代表专为大模型（llm）优化：高达1.5t的内存，支持25.6万个token的序列长度。
ceo rodrigo liang表示，当前行业标准做法下运行万亿参数大模型需要数百枚芯片，我们的方法使总拥有成本只有标准方法的1/25。
sambanova目前估值50亿美元（约365亿人民币），累计完成了6轮总计11亿美元的融资，投资方包括英特尔、软银、三星、gv等。
他们不仅在芯片上要挑战英伟达，业务模式上也说要比英伟达走的更远：直接参与帮助企业训练私有大模型。
目标客户上野心更是很大：瞄准世界上最大的2000家企业。
1.5tb内存的ai芯片
最新产品sn40l，由台积电5纳米工艺制造，包含1020亿晶体管，峰值速度638teraflops。
与英伟达等其他ai芯片更大的不同在于新的三层dataflow内存系统。
520mb片上sram内存
65gb的高带宽hbm3内存
以及高达1.5tb的外部dram内存
与主要竞品相比，英伟达h100最高拥有80gb hbm3内存，amd mi300拥有192gb hbm3内存。
sn40l的高带宽hbm3内存实际比前两者小，更多依靠大容量dram。
rodrigo liang表示，虽然dram速度更慢，但专用的软件编译器可以智能地分配三个内存层之间的负载，还允许编译器将8个芯片视为单个系统。
除了硬件指标，sn40l针对大模型做的优化还有同时提供密集和稀疏计算加速。
他们认为大模型中许多权重设置为0，像其他数据一样去执行操作很浪费。
他们找到一种软件层面的加速办法，与调度和数据传输有关，但没有透露细节，“我们还没准备好向公布是如何做到这一点的”。
咨询机构gartner的分析师chirag dekate认为，sn40l的一个可能优势在于多模态ai。
gpu的架构非常严格，面对图像、视频、文本等多样数据时可能不够灵活，而sambanova可以调整硬件来满足工作负载的要求。
目前，sambanova的芯片和系统已获得不少大型客户，包括世界排名前列的超算实验室，日本富岳、美国阿贡国家实验室、劳伦斯国家实验室，以及咨询公司埃森哲等。
业务模式也比较特别，芯片不单卖，而是出售其定制技术堆栈，从芯片到服务器系统，甚至包括部署大模型。
为此，他们与togetherml联合开发了bloomchat，一个1760亿参数的多语言聊天大模型。
bloomchat建立在bigscience组织的开源大模型bloom之上，并在来自openchatkit、dolly 2.0和oasst1的oig上进行了微调。
训练过程中，它使用了sambanova独特的可重配置数据流架构，然后在sambanova datascale系统进行训练。
这也是这家公司最大被投资者热捧之外的最大争议点之一，很多人不看好一家公司既做芯片又做大模型。
给每家大企业打造150个大模型
在与the next platform网站交流时，ceo rodrigo liang表示：
用于大模型训练的公开数据已快耗尽，但对参数数量的追求还在不断增加。
各种大模型的性能相差只有几个百分点，这不是大家应该玩的游戏。
他认为大模型与生成式ai商业化的下一个战场是企业的私有数据，尤其是大企业。
这些企业坐拥大量的数据，但自己不知道其中大部分内容是什么。
对于企业私有大模型的形态，sambanova也有与众不同的观点。
他们认为最终企业内部不会运行一个gpt-4或谷歌gemini那样的超大模型，而是根据不同数据子集创建150个独特的模型，聚合参数超过万亿。
相当于把gpt-4等大模型内部的mixture of experts（专家混合）架构扩展到整个系统，称为composition of experts（专家合成）。
在企业运转的每个节点运行一个完整且经过专门调整的基础模型，分别用法律语料库、制造语料库、风险管理语料库、财富管理语料库、客户销售语料库、客户支持语料库等等不同数据训练。
这些专家模型之间通过一种软件路由或负载平衡器联在一起，收到推理请求后决定具体向哪个模型推送提示词。
这一策略与gpt-4和谷歌gemini等做法形成鲜明对比，巨头大多希望创建一个能泛化到数百万个任务的巨型模型。
分析师认为技术上可能谷歌的做法性能更强，但sambanova的方法对企业来说更实用。
没有任何一个模型或人能完整访问企业的所有数据，限制每个部门能访问的专家模型，就能限制他们能访问的数据。
斯坦福系芯片公司，华人工程师主力
sambanova成立于2017年，2020年之前都比较低调。
联创3人都是斯坦福背景，连产品系列名cardinal（深红色）都是斯坦福的昵称与代表颜色。
ceo rodrigo liang是前sun/甲骨文工程副总裁，也有人将这个名字解读为暗指甲骨文老对头ibm的deepblue（深蓝）。
另外两位联合创始人都是斯坦福教授。
cto kunle olukotun是电气工程教授，因多核芯片架构方面的研究而闻名，开发了首批支持线程级推测 (tls) 的芯片之一。
christopher ré是计算机科学副教授，重点研究方向机器学习和数据分析的速度和可扩展性。
此外团队中还有不少华人工程师。
从官网公开信息来看，sambanova的领导团队中，至少有3名华人。
jonathan chang，拥有uc伯克利的机械工程学士学位以及南加州大学的mba学位。
他在构建高增长方面拥有20多年的经验。加入sambanova之前，chang在特斯拉工作了近9年。
marshall choy，此前曾担任甲骨文公司系统产品管理和解决方案开发副总裁，监督了数十个行业的企业硬件和软件产品的上市。
penny li，在eda工具和微处理器设计方面拥有超过27年的经验。此前，她曾在ibm和甲骨文工作过。
如果去领英搜索还能发现更多华人团队成员。
目前sambanova包含sn40l芯片的人工智能引擎已上市，但定价没有公开。
根据rodrigo liang的说法，8个sn40l组成的集群总共可处理5万亿参数，相当于70个700亿参数大模型。
全球2000强的企业只需购买两个这样的8芯片集群，就能满足所有大模型需求。
西部数据加入著名全球灯塔网络 美光基金会承诺投入超过 100 万美元
华为畅享10 Plus无孔全视屏 打造全视野娱乐体验
同样是电子地图，高德地图与百度地图到底差在哪儿了？
采用AX22001微处理器与Wi-Fi模块实现无线温度传感器的设计
中国联通展现5G系列应用风采开启了5G智慧生活之旅
1.5T内存挑战英伟达！8枚芯片撑起3个GPT-4，华人AI芯片独角兽估值365亿
发光二极管和光电二极管的区别
基于S3C2440A微处理器和Linux操作系统实现对步进电机的控制
坚持“科技+本地化”塑造威洛博线性机械手百年品牌
2018年TOP15半导体厂商销售分析：三星销售第一，SK海力士增幅最高
一加8外观设计图曝光，前置单摄挖孔后置三摄设计
华为云连接CC，解决企业跨地区发展的网络难题
一种仅通过PCB制造工艺就能完成挤压螺母安装的方案
国家对申请照明产品范围及条件、申请企业条件等作出了规定
我们为什么要搞5G-A？和大家聊聊5G-A
数字新基建战略落地的建议
华为荣耀首次试水推智能电视 不走低价路线
电路设计的九段境界 看看自己现在处于什么段位
IGBT/IPM/DIPIPM定义及应用基础（1）
人工智能通过创造新就业岗位和改善当前岗位现状来大幅提升生产率