谷歌推出TPU 8i和TPU 8t以支援代理AI工作負載
谷歌發布了兩個新的張量處理單元：tpu 8i用於快速推理和自主代理，tpu 8t利用海量記憶體池訓練複雜模型。這些晶片支援多步推理和規劃工作流。谷歌表示該基礎設施將把高響應性的代理ai帶給大眾。
谷歌推出了两款專門設計的張量處理單元（TPU），適用於代理時代。TPU 8i 優先考慮自主代理所需的推理速度，這些代理需要推理、規劃和多步驟執行，而 TPU 8t 則通過在單個大記憶體池中運行複雜模型來優化訓練。這些晶片與谷歌的全棧基礎設施整合，以實現高度響應的代理 AI。