zbo智博1919com

新闻中心 新闻中心

谷歌发大招:::第八代TPU首度拆分“训练”与“推理”双芯

4月23日新闻,,美国功夫周三,

作者:::叶阳筠
颁布功夫:::2026-05-14 12:50:58
阅读量:::36

谷歌发大招:::第八代TPU首度拆分“训练”与“推理”双芯

4月23日新闻,,美国功夫周三,,谷歌正式颁发其第八代张量处置单元(TPU)迎来重大战术调整:::初次将AI模型的“训练”与“推理”工作剥离,,交由两款相互独立的专有芯片处置。这两款新一代处置器预计于今年晚些时辰推向市场。

此举标志取谷歌在AI硬件领域对英伟达提议的新一轮竞争。

“为什么要走向算力专属化???”谷歌高级副总裁兼AI与基础设施首席技术官阿明·瓦达特(Amin Vahdat)在一篇官方博文中暗示,,“随着AI智能体的鼓起,,我们认定针对训练和推理需要别离提供专门优化的芯片,,将使整个技术生态受益!!

当前,,AI推理速度正成为大厂博弈的主题战场。今年3月,,英伟达大力宣传了即将推出的一款新芯片,,该芯片可能让模型急剧响利用户提问,,而这重要归功于英伟达在斥资200亿美元收购芯片草创公司Groq的买卖中所获得的技术。在此布景下,,只管谷歌仍是英伟达的重要客户,,但其正通过向云服务企业提供TPU,,构建代替性的算力规划。

事实上,,科技巨头亲自下场造芯、、、钻营算力自主已成行业共识。通过底层架构的深度定制,,企业可能最大化特定利用场景的运行效能。从苹果多年来在iPhone中集成的神经网络引擎(Neural Engine),,到微软今年1月迭代的第二代AI芯片,,再到Meta近期被曝出正与博通(Broadcom)联手研发多款AI处置器,,无一不印证了这一趋向。

在这场“造芯活动”中,,谷歌堪称先驱。该公司于2015年起头部署自研AI处置器,,并自2018年起通过云平台向外部客户提供算力服务。作为对比,,亚马逊AWS于2018年和2020年别离推出了专用于推理的Inferentia芯片与专用于训练的Trainium处置器。

投资银行D.A. Davidson分析师在去年9月的一份汇报中预估,,谷歌TPU业务与DeepMind AI部门的归并估值约为9000亿美元。

目前,,英伟达在AI算力市场仍占据绝对主导权。谷歌在这次颁布中未直接对标英伟达的同类产品,,但披露了自身的机能迭代数据:::在一致成本下,,新款训练芯片的机能是去年11月颁布的第七代TPU(代号Ironwood)的2.8倍,,新款推理芯片的机能则提升了80%。

值妥贴心的是,,在技术路线上,,业界正不谋而合地押注静态随机存取存储器(SRAM)。无论是英伟达即将推出的Groq 3 LPU,,还是本月刚提交IPO申请的AI芯片独角兽Cerebras,,均重度依赖该技术。谷歌这次推出的新款推理芯片TPU 8i也紧跟这一趋向,,其单颗芯片的SRAM容量高达384MB,,是上一代Ironwood的三倍之多。

Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)在博文中指出,,新架构的设计指标在于“提供重大的吞吐量(Throughput)与低延长(Latency),,从而以极高的成本效益支持数百万个AI智能体并发运行”。

终端利用方面,,谷歌披露其AI芯片的贸易化落地正在扩大。其中,,做市商城堡证券(Citadel Securities)已基于TPU开发量化钻研软件;美国能源手下属的17个国度尝试室正全面部署基于该芯片的“AI协同科学家”(Co-scientist)系统。此外,,AI草创公司Anthropic已承诺挪用规模达数吉瓦(Gigawatts)的谷歌TPU算力资源。(易句)

(本文由AI翻译,,网易编纂掌管校对)

 

文章点评

未查问到任何数据!!

颁发评论

◎欢迎参加会商,,请在这里颁发您的见解、、、互换您的概念。

最新文章

热点文章

随机推荐

【网站地图】