发布日期：2024-09-12 21:54 点击次数：130
4月9日，在拉斯维加斯举办的 Google Cloud Next 25 大会上，推出了第七代TPU---Ironwood。该芯片专为守旧大限度念念考和 AI 推理模子瞎想，是谷歌迄今截至性能最强的TPU。
TPU （Tensor Processing Unit）即张量贬责单位，是一种专诚为加快深度学习任务而瞎想的东谈主工智能芯片，由谷歌公司在2015 岁首度淡薄，第一代TPU于2016 年负责发布。
官方示意，Ironwood 的推出象征着东谈主工智能非常发展基础步伐，从提供及时信息供东谈主类解读的反应式东谈主工智能模子，到或者主动生成细察息争读的模子的改动。
在推理期间，Agent将主动检索和生成数据，以配合的神色提供细察和谜底，而不单是是数据。而终了这少量，需要同期欣慰弘大的缱绻和通讯需求的芯片，以及软硬协同的瞎想。
Ironwood 最高配集群可领有9216个液冷芯片，峰值算力42.5 ExaFlops，也便是每秒运算42500000000000000000次。
据nextplatform先容，AG百家乐下载该芯片是谷歌首款在其张量中枢和矩阵数学单位中守旧 FP8 缱绻的 TPU。
Ironwood的FP8算力为4614 TFlops，略高于英伟达B200标称的4500 TFlops。内存带宽7.2TBps，略低于B200的8TBps。
此外，Ironwood 芯片中使用到的第三代 SparseCore 加快器编码了各式算法，不错终了加快金融和科学缱绻的想法。
SparseCore 加快器初度亮相于 TPU v5p，并在客岁的 Trillium 芯片中取得了增强。它的当先瞎想想法是加快保举模子，而这些模子应用镶嵌来跨用户类别进行保举。
官方数据走漏，Ironwood的每瓦性能是客岁发布的第六代 TPU Trillium 的两倍。每芯片容量达到192 GB，是 Trillium 的 6 倍，或者贬责更大的模子和数据集，减少时常数据传输的需求，并栽植性能。
谷歌筹画在不久的改日把TPU v7整合到谷歌云AI超算，握包括保举算法、Gemini模子以及AlphaFold在内的业务。
据悉，OpenAI连合首创东谈主兼首席科学家Ilya Stutskever的AI初创公司Safe Superintelligence 正在应用Google Cloud的TPU芯片来守旧其AI相干。
本文系不雅察者网独家稿件，未经授权，不得转载。