Google推出第八代TPU:TPUv8ax专注训练、TPUv8x面向推理

Google推出第八代TPU:TPUv8ax专注练习、TPUv8x面向推理

Google最新一代自研人工智能基础设施正在吸引越来越多外部客户关注,该公司据悉已经开发出两款全新第八代张量处理单元(TPU),分别面向大模型训练和大规模推理两大场景。新一代产品中,TPUv8ax“Sunfish”主要用于训练如Gemini等大型模型,而TPUv8x“Zebrafish”则针对云端大规模模型推理进行优化,形成一套分工明确的内部加速平台。