AIチップ競争の戦線がハードウェアからソフトウェアへと広がっている。グーグルが社内だけで使っていたTPUの核心技術を外部に公開したためだ。
グーグルは、自社のAIチップTPU向け推論最適化ライブラリ「TPU Raiden（レイデン）」を開発者共有サイトのGitHubでオープンソース公開した。誰でも無料で使って修正できるApacheライセンスだ。半導体分析会社セミアナリシスは、9日（現地時間）に公開の事実を初めて伝え、「グーグルがTPUソフトウェアを次第に外部へ開放している」と指摘した。
◆ AIの回答を作る核心技術を公開した
まず用語を整理すると、TPUはグーグルがAI計算専用に直接設計した半導体だ。エヌビディアのGPUと同じ役割を担う競争チップである。推論とは、学習を終えたAIが実際に質問を受けて答えを生成する段階を指す。チャットボットが返答するその瞬間が推論であり、世界のデータセンター費用の大半がここで使われる。
レイデンの役割は、その推論過程における物流だ。AIが質問を読みながら作った一時的な記憶、いわゆるKVキャッシュをチップ間で素早く移動させる。
1台のコンピューター内でチップ同士が直接やり取りする機能、ネットワークの向こう側にある別の機器へ送る機能、今は使わない記憶を一般メモリーへ退避させる機能まで含まれている。グーグルは、まだ開発中の初期版であり、正式サービス向けではないと説明した。
◆ 厨房の分業のように動くAI推論
レイデンの価値は、最近のAIサービスが動く仕組みと深く関わっている。AIが答えを作る過程は二つに分かれる。
質問全体を一度に読み込む段階と、答えを一文字ずつ書き進める段階だ。読む作業は計算量が多く、書く作業はメモリーを多く使うというように性質が異なるため、近年の大規模サービスではこの二つの作業を別々のチップ群に分担させる。
まるで厨房の分業のような構造だ。食材の下ごしらえ担当と調理担当を分ければ、それぞれの仕事に合った道具で速度を上げられる。だが、下ごしらえ担当が整えた食材を調理台へ素早く渡せてこそ、分業の利点が生きる。AIでその食材に当たるのがKVキャッシュで、それを運ぶ役割を担うソフトウェアがレイデンだ。
エヌビディア陣営には、同じ役割を担う「NIXL」がすでに定着している。企業がAIサービスを動かす際に広く使う公開ツールであるvLLMなどに、標準で組み込まれている。レイデンがこうしたツールに統合されれば、エヌビディア機器でサービスを運用していた企業が、大きな改修なしに同じ作業をTPUへ移せる道が開かれる。
◆ チップは売らなくても生態系は開く
グーグルはTPUをチップ単体で販売したことがない。利用するにはグーグルクラウドを経由する必要があり、TPUをうまく動かすソフトウェアも、検索やGeminiなど自社サービスに合わせて社内にとどめてきた。流れが変わったのはここ1年ほどだ。グーグルはAnthropicにTPU100万個を供給する契約を結び、モデル競争の最大のライバルであるOpenAIまでも、一部の作業でTPUを使い始めた。
外部顧客が増えた分、公開された道具が必要になったという計算が、開放の背景にあると分析される。チップ性能が優れていても、扱えるエンジニアや文書、ツールがなければ企業は慣れたエヌビディアから離れない。見慣れず文書もない技術に縛られたくないというのが、TPU導入を阻んでいた代表的な反論であり、レイデン公開はその壁を崩す一歩とみられている。
限界も指摘される。レイデンはTPU専用であり、TPUを借りて使う顧客でなければ利用する機会がない。開発者コミュニティで、船を持ち込んだ人だけが使える舵輪のようだという皮肉が出るのはそのためだ。エヌビディアは、自社GPUがなお一世代先を行っており、あらゆるAIモデルをどこでも動かせる唯一のプラットフォームだと主張してきた。
韓国の半導体業界とも無関係ではない構図だ。TPUのようなAIアクセラレーターにも高帯域幅メモリー（HBM）が大量に使われるため、演算チップ競争がエヌビディアの独走から多極化しても、メモリー需要は続くとの見方が出ている。どの陣営が先行しても、演算チップの隣にはメモリーが必要だからだ。
10年にわたって積み上げられたエヌビディアのソフトウェア生態系を、グーグルが一つずつ公開する戦略で追い越せるかが、残る注目点だ。AIチップの勝負は性能表の競争を越え、開発者にどれだけ使いやすくできるかの争いへ移っているという評価が出ている。
写真提供：ソリューションニュース画面キャプチャ