谷歌推出新AI芯片TPU v5e:训练性能提升2倍,推理性能提升2.5倍

来源:爱集微 #谷歌# #TPU#
1.4w

集微网消息谷歌公布了一系列新的人工智能技术和合作伙伴关系,旨在将更多不断发展的技术引入大型企业。谷歌还公开了定制人工智能芯片的新版本。

谷歌表示,Cloud TPU v5e现已推出预览版,并且是其内部张量(Tensor)处理单元的最新版本。谷歌表示,与2021年发布的TPU v4相比,对于大型语言模型和生成式AI模型,该芯片的每美元训练性能提升高达2倍,每美元推理性能提升高达2.5倍。TPU v5e的成本不到TPU v4的一半,使更多组织能够训练和部署更大、更复杂的AI模型。

谷歌称,“通过TPU v5e Pod平衡性能、灵活性和效率,允许最多256个芯片互连,总带宽超过400Tb/s和INT8性能达到100 petaOps。”

谷歌博客表示,新的TPU将提供八种不同的虚拟机配置,从一个TPU芯片到单个切片内超过250个TPU芯片。对于需要更多计算的客户,该公司正在推出“Multislice”,这是一种将模型交给数万个TPU芯片计算的服务。

“到目前为止,使用TPU的训练作业仅限于单个TPU芯片切片,TPU v4的最大作业切片大小为3072个芯片。”

“借助Multislice,开发人员可以在单个Pod内通过芯片间互连(ICI)或通过数据中心网络(DCN)跨多个Pod将工作负载扩展到数万个芯片。”

除了新的TPU之外,谷歌还表示,A3虚拟机(VM)将于9月全面上市,配备8个英伟达H100 GPU、双路第四代Intel Xeon可扩展处理器和2TB内存。这些实例最初于今年5月宣布,可以增加到26000个英伟达H100 Hopper GPU。但鉴于GPU持续短缺,目前尚不清楚谷歌将拥有多少个H100。

谷歌表示,生成式人工智能初创公司Anthropic是新TPU v5e和A3 VM的早期用户。虽然谷歌向这家初创公司投资了3亿美元,但它也是亚马逊AWS的忠实用户。

(校对/张杰

责编: 李梅
来源:爱集微 #谷歌# #TPU#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

孙乐

微信:tiannii520

邮箱:sunle@ijiwei.com

关注消费电子大类软硬件、晶圆、材料、存储、设备、触控、AI等前沿科技。


1480文章总数
2565.5w总浏览量
最近发布
  • 三星量产最快PM9E1 NVMe Gen 5 SSD,速度高达14.5GB/s

    09-20 16:30

  • 小鹏汽车核心业务迁移至阿里云倚天实例,节省20%算力成本

    09-20 15:53

  • 英特尔:不打算剥离Mobileye多数股权

    09-20 14:42

  • 中国台湾翻新建设两座12英寸晶圆厂,为创企提供先进制造工艺

    09-20 13:46

  • 竞争加剧,中国三大智能手机厂商将全面采用3nm芯片

    09-20 13:43

最新资讯
  • 传高通欲并购英特尔 专家:或对处理器业务感兴趣

    21分钟前

  • 全球首个真空噪声芯片!来自北京亦庄

    29分钟前

  • FF第二品牌推出 贾跃亭:为美国用户提供“两倍性能一半价格”爆款产品

    1小时前

  • 上汽大众回应南京工厂关闭:生产基地调整是必要的经营行为

    2小时前

  • 高通接洽英特尔谈收购?英特尔中国:对于传言不予置评

    2小时前

  • 乘联会崔东树:全国乘用车市场8月末库存315万台 新能源走势较好

    2小时前

关闭
加载

PDF 加载中...

天下网标王长葛百度网站优化咸宁品牌网站优化公司排名网站标题如何做优化筠连县网站seo优化排名网站怎么优化速来火5星放心广州公司网站关键词优化工具网站积分优化系统靠谱吗网站的优化 优帮云邹坞网站优化推广瑞昌seo网站优化网站 优化都用易 速达合肥网站优化工资待遇永城网站搜索引擎优化新乡外贸网站优化有哪些某网站优化毕业设计方案上海快速优化网站网站标签页优化是什么高安网站优化排名广东专业网站优化技巧张家界网站排名优化方案手机网站优化收费鹤壁优化网站排名哪家有实力桃源个人如何做网站优化南山区企业网站优化网站排名优化有明火15星菏泽比较好的传统行业网站优化广元做优化网站咨询苏州网站优化提供商成都规模大的传统行业网站优化潍坊网站优化铭盛信息香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

天下网标王 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化