尽管提倡在整个行业范围内停止人工智能训练,但据报道,埃隆·马斯克 (elon musk)已经在 twitter 内启动了一个重大的人工智能项目。据business insider报道,该公司已经购买了大约 10,000 个 gpu,并从 deepmind 招募了 ai 人才,用于涉及大型语言模型 (llm) 的项目 。
以昇思为基,盘古生态引领中国ai未来
一位知情人士表示,马斯克的 ai 项目仍处于初始阶段。然而,根据另一个人的说法,获得大量额外的计算能力表明他致力于推进该项目。同时,生成人工智能的确切目的尚不清楚,但潜在的应用包括改进搜索功能或生成有针对性的广告内容。
目前,尚不清楚 twitter 采购了哪些具体硬件。然而,据报道,尽管 twitter 一直存在财务问题,但据报道 twitter 在这些计算 gpu 上花费了数千万美元,马斯克将其描述为“不稳定的财务状况”。这些 gpu 预计将部署在 twitter 剩余的两个数据中心之一,亚特兰大是最有可能的目的地。有趣的是,马斯克在 12 月下旬关闭了 twitter 在萨克拉门托的主要数据中心,这显然降低了公司的计算能力。
除了为其生成式 ai 项目购买 gpu 硬件外,twitter 还在招聘更多的工程师。今年早些时候,该公司从alphabet 的子公司ai research deepmind招募了工程师 igor babuschkin 和 manuel kroiss。至少从 2 月开始,马斯克一直在积极寻找 ai 行业的人才,以与 openai 的 chatgpt 竞争。
openai使用nvidia 的 a100 gpu 来训练其 chatgpt 机器人,并继续使用这些机器来运行它。到目前为止,nvidia 已经推出了 a100 的后继产品,其h100计算 gpu 在大约相同的功率下速度快了几倍。
twitter 可能会在其 ai 项目中使用 nvidia 的 hopper h100 或类似硬件,尽管我们在此进行推测。考虑到该公司尚未确定其 ai 项目的用途,因此很难估计它可能需要多少个 hopper gpu。
通常twitter 这样的大公司购买硬件时,他们会以特价购买,因为他们采购了数千台。与此同时,如果单独从 cdw 等零售商处购买,nvidia 的 h100 主板单价可能超过 10,000 美元,由此可以看出该公司可能为其 ai 计划在硬件上花费了多少。
chatgpt迈向商用,gpu需求上看3万颗
chatgpt近期掀起云端与ai产业话题,microsoft、google、百度等相继推出基于生成式ai衍生的产品服务,根据集邦(trendforce)最新报告「从aigc看云端ai应用趋势与挑战」,未来迈向商用将上看3万颗;在此热潮下, gpu及ai芯片相关供应链业者可望受惠。
不过,集邦指出,市场普及度和产品服务的功能优化仍待考验,且由于ai是以用户体验为核心,涉及个资及内容提供的正确性,因此下个发展阶段或将还会面临法规问题。
trendforce表示,生成式ai是透过gan、clip、transformer、diffusion等演算法、预训练模型、多模态等ai技术的整合,在既有数据或资料中寻找规律,并在资料汇整、社交互动、文案产出等领域带出高效的内容产出,以及与用户互动体验。现行市面上已有不少生成式ai之应用,较常见的产出类别包括文字、图像、音乐、编码等。
集邦表示,数据、算力、算法是深耕生成式ai不可或缺的三大关键,且产品服务易做但优化困难,因此,握有相关资源的云端大厂在发展上将更具优势。就厂商角度而言,由于chatgpt等生成式ai聊天机器人不仅能与用户自然对话,「类理解需求」的能力使其针对各式咨询能进一步提供建议,加上使用搜寻引擎已相当普遍,因此透过强化搜寻引擎已是各云端大厂的首要任务。
据trendforce调查,目前全球搜寻引擎市场以超过9成的google引擎为首,microsoft bing仅占3%,短期间不致造成威胁,但随着用户扩大、数据回馈与模型优化的循环,是否会产生服务差异甚或抢占广告商机,也是google不得不预防的潜在风险。
集邦表示,由于生成式ai必须投入巨量资料进行训练,为缩短训练就得采用大量高效能gpu。以chatgpt背后的gpt模型为例,其训练参数从2018年约1.2亿个到2020年已暴增至近1,800亿个,估gpu需求量预估约2万颗,未来迈向商用将上看3万颗。
集邦表示,生成式ai发展将成为趋势,将带动gpu需求显著提升,连带使相关供应链受惠,其中最大受益者是gpu芯片龙头的英伟达(nvidia),旗下可达到5 petaflops运算效能的dgx a100,几乎是目前用于大规模资料分析、ai加速运算的首选;此外,尚有推出mi100、mi200、mi300系列芯片的超微(amd)。
Medtec中国展强势集结领军企业,线上线下双保障直击医械供应链痛点
索尼计划克服物理VR的限制,研发一款使用无人机的VR游戏
5G毫米波技术与5G厘米波的对比,谁更厉害
OT-IT融合是一个需要分阶段实施、逐步提升层次的相当缓慢的过程
一种简便制备微米精度柔性印刷模板的通用方法
以昇思为基,盘古生态引领中国AI未来
TYPE-C接口的优势有哪些?
WhatsApp可能很快会让您仅用指纹登录WhatsApp Web
基于可编程总线带宽控制系统的分配方案研究
PAM2862应用电路
超声波与压感的融合将发掘触控屏以外的按键交互
袋子码放都在使用的全自动码垛机器人生产线
中兴通讯发挥‘端、网、云、平台’综合优势成为数字经济的筑路者
华海清科集成电路高端装备研发及产业化项目封顶
数字电路设计有哪些仿真验证流程
夏普商用数码复合机AR系列新品荣耀发布
工业X光机的功能及其应用领域介绍
看一看,数一数,制造一枚合格的芯片都需要哪些设备?
常用的区块链开发工具介绍
PC卡外挂光驱