TPU突圍，谷歌積極推銷自研芯片

據報道，谷歌近來接觸了一批主要購買英偉達芯片的小型云服務供應商，商談在他們的數據中心里同時部署谷歌芯片。知情人士稱，谷歌已經有所進展，與總部位于倫敦的 Fluidstack 達成協議，在其紐約的一處數據中心托管谷歌 TPU。

谷歌也曾試接觸過其他云服務商，包括有「英偉達親兒子」之稱的 CoreWeave。谷歌的談判表明其正試圖接近那些「背靠英偉達扶持」的新興云服務供應商。與谷歌、亞馬遜這樣的大型云服務公司不同，這些新興企業幾乎只使用英偉達的芯片，而且更愿意采購多種英偉達產品。英偉達已向其中的許多公司注資，并優先供應眼下最搶手的芯片。

據悉，谷歌談妥 Fluidstack 的方式很簡單粗暴——如果 Fluidstack 無法承擔建造紐約數據中心的費用，谷歌同意作為「后備擔保」來介入，并提供最高 32 億美元的資金支持。

目前尚不清楚為何谷歌積極向外部數據中心推銷自研芯片。要知道在此之前，谷歌基本不對外出售自研 TPU。Capvision 此前數據顯示，谷歌 TPU70%-80% 的算力用于內部業務場景使用，剩余 20%-30% 以自建租賃方式供外使用。

有分析認為，或許是由于谷歌自建數據中心速度難以追上芯片需求增長，或可能是希望通過其他云服務商為自家 TPU 尋找更多新客戶。如果是第二種原因，那么谷歌無異于更直接地在與英偉達展開競爭。分析指出，第二種做法類似于云服務商租賃英偉達 GPU 的模式，英偉達主要是向這些云服務商銷售芯片，而谷歌擴大部署 TPU，自然會導致這些數據中心中的英偉達 GPU 數量減少。

谷歌下代 TPU 性能暴增 16 倍

近日，谷歌詳細披露第七代 TPU 架構「Ironwood」超級計算平臺，主要聚焦在單個 Superpod 的硬件構成與架構設計。

據介紹，單個 Ironwood Superpod 集成 9216 枚芯片，每片配備 192GB、帶寬 7.4TB/s 的高帶寬存儲，峰值算力高達 4614TFLOPs。相較之下，2022 年發布的 TPU v4 集成 4096 枚芯片、配備 32GB HBM，峰值算力 275 TFLOPs，而 2023 年發布的 TPU v5p 集成 8960 枚芯片，配備 95GB HBM，峰值算力 459 TFLOPs，這意味著 Ironwood Superpod 單芯片性能較 TPU v4 提升超過 16 倍。

在物理布局上，Ironwood 沿用過去三代的 3D Torus（立方環網）拓撲，每個邏輯單元為 4×4×4 節點陣列，即 64 芯片，封裝于單個機架。而一個 Superpod 包含 144 個機架，還配備光學交換機機箱以實現跨模塊互連，以及用于液冷的冷卻分配單元（CBU）機架，互連方面為提高靈活性與可擴展性，采用 PCB 走線、銅纜和光纖的混合方式。

在機架設計上，頂部設有泄漏檢測盤以監控液冷系統，下方是供電模塊，具備兩路電源域，將 416V 交流電經整流轉換為直流電。整套系統支持液冷散熱，滿載運行功率可超過 100kW。

谷歌 TPU 需求正在上升

據報道，谷歌的第六代 Trillium TPU 芯片自去年 12 月向外部客戶開放后需求強勁。分析師預計，第七代 Ironwood TPU 的需求將顯著上升。谷歌的 TPU 芯片算力最高可達 42.5 exaflops（百億億次浮點運算），并已大幅提升高帶寬內存容量。這些芯片成本效率也顯著提升，這是吸引更多前沿實驗室關注的主要原因之一。

初創公司 Anthropic 此前雖在小規模上使用 TPU，但分析師指出，該公司近期正在招聘 TPU 內核工程師，這可能意味著他們正考慮從使用 Amazon Web Services 提供的 Trainium 芯片轉向 TPU。Trainium 是亞馬遜為 AI 訓練設計的芯片，該公司已對 Anthropic 投資 80 億美元。

分析師還指出，馬斯克的 xAI 公司也對購買 TPU 表現出興趣，部分原因在于今年「JAX-TPU 工具支持的顯著改進」。JAX 是谷歌開發的一個高性能計算 Python 庫，能夠讓程序在 TPU 上高效運行。直到最近，JAX 生態系統還限制了 TPU 在 Google 外部大規模部署的可能性。

今年 6 月，OpenAI 啟動了一項重要戰略調整：將租用谷歌云平臺 TPU，為其核心產品 ChatGPT 提供關鍵運算支持。這是 OpenAI 首次在核心業務場景中規模化引入非英偉達芯片，也標志著打破了英偉達長期以來的壟斷地位。