- Googleが第6世代のAI用チップ「Trillium」を発表
- ピーク性能は旧モデルの4.7倍、高エネルギー効率を実現
- サーバーポッドで256チップを連携、拡張性と速度を兼ね備える
Googleはカリフォルニア州マウンテンビューで開かれたイベントにおいて、AIとの競争における最新兵器である第6世代のテンソル処理ユニット、「Trillium（トリリウム）」を発表しました。旧モデルTPUv5より性能がピーク時で4.7倍高まり、エネルギー効率でも67%の向上が見られます。
また、内部バンド幅、チップ間接続速度も倍増し、32GBの次世代高帯域幅メモリ（HBM）を搭載することで、処理能力とメモリ容量が大幅に強化されました。Googleはこれらの特徴により、新世代の大規模言語モデルであるGeminiに代わるAIモデルの運用が可能になると伝えています。
Trilliumチップは、サーバーポッドで最大256チップを組み合わせることが可能であり、それぞれのチップは光ネットワーキングを通じて高速に通信することができます。これにより、より大きなAIモデルのスケーラビリティを確保しています。
この新チップはGoogleの独自CPU「Axion」と組み合わさる設計で、AIモデルの推論や訓練に最適化されたソフトウェアスタックとツールが付随しています。あらゆるAIの消費とスケジューリングモデルに対応するため、計算、ネットワーク、ストレージ、ソフトウェアを融合した「ハイパーコンピューターAIスーパーコンピューター」のデザインが採用されています。
Google CloudにおいてもこのTrilliumチップは提供される予定ですが、利用可能日については明らかにされていません。高価なGPUクラウドサービスに対する魅力的な選択肢となることが期待されます。
おい、これ新しいAIチップって何がすごいの？ どうやって使うのさ？
新しいAIチップはね、性能が今までの4.7倍になって、電力の効率もとても良くなったの。それに、たくさんのチップを一緒に使えば、もっと大きなAIモデルも扱えるようになるんだよ。使い方としては、AIの学習や推論をすごく速くできるから、たとえば翻訳や画像認識などがとても効率的になるんだ。Google Cloudで使えるようになるんだって。
Googleの新しいAIチップ「Trillium」は、性能が前のモデルのほぼ5倍になっていて、電力効率も67%向上してるんだ。
さらに、このチップはたくさん繋げて、大きなAIモデルを動かせるように設計されてる。
32GBの高帯域幅メモリを搭載して、内部バンド幅やチップ間接続速度も倍になったから、これまでよりはるかに大規模なAIの運用が可能になる。
Google Cloudでも使われる予定で、高いパフォーマンスを求めるAI分野で注目されているよ。