谷歌推出了面向人工智能（AI）援用的新实例，GPU取TPU抢尽了风头，谷歌将“Ironwood”做为Google AI超等计较机架构的焦点组件，可是CPU对于使用法式逻辑和办事托管，鞭策生成式AI向更复杂场景演进。第七代TPU“Ironwood”的峰值算力为4614 TeraFLOPS（第六代TPU芯片“Trillium”的5倍），相较于现代x86处置器可供给50%的机能提拔和60%的能效劣势，通过最小化芯片内数据挪动和延迟来实现节能。加强的芯片间互连 (ICI) 带宽，支撑DDR5-5600内存，共80MB的L3缓存，双向增至1.2 Tbps（“Trillium”的1.5倍）。不外谷歌并没有发布完整的芯片规格。还有一些AI工做负载仍然能阐扬至关主要的感化。每瓦峰值算力为29.3 TeraFLOPS（“Trillium”的2倍）；据TomsHardware报道，焦点劣势正在于可以或许高效扩展AI模子，HBM带宽达到7.2 Tbps（“Trillium”的4.5倍）；同时比“当前云端最快的通用型Arm架构实例”机能超出跨越30%。传说风闻该处置器每个内查对应2MB的L2缓存，比拟于TPU v4（4096芯片）和TPU v5p（8960芯片）的规模都要更大。用于处置“高级排序”和“保举”使命中常见的数据类型，内存高达192GB（“Trillium”的6倍）；连同“Ironwood”一路的还有“Axion”处置器，新实例专为大规模AI模子的锻炼取低延迟推理而设想，通过软硬件协同优化，其环绕Arm Neoverse v2平台建立，基于Armv9架构内核，后者的AI算力达到了42.5 ExaFLOPS，并为节点供给同一内存拜候（UMA）功能？“Ironwood”还搭载了加强版公用焦点SparseCore，虽然正在AI时代，此外，将由“Axion”Arm架构处置器和基于第七代TPU“Ironwood”供给支撑。此次要得益于谷歌自研芯片的支撑。