Cerebras CS-3と他チップで分散システム

みなさん、こんにちは
CerebrasプリセールスエンジニアのNakadaです。
生成AIの高速推論を実現するCerebras社のCerebras Cloudが好調です。さまざまなオープンソースLLMが利用可能で、最近ではGemma4 31Bも利用可能となり、Cerebrasとしては初のマルチモーダルモデル実装となります。日本語でも利用でき、マルチモーダルモデルの高速推論が体験できますので、是非検討いただければと思います。今回は、Cerebras社がリリースしているAIアクセラレータ CS-3と他社のAIアクセラレータを組み合わせた分散システムについて紹介します。

■AMDとの技術提携

2026年7月23日、AMD社とCerebras社は、AMD HelioラックスケールソリューションとCerebras CS-3システムを組み合わせた、新しい分散型AI推論ソリューションを提供するための技術提携を発表しました。このソリューションは、最先端のAIアプリケーションに必要な超低遅延を実現し、推論スループットと効率を劇的に向上するよう設計されるそうです。また、Cerebras社は自社のデータセンターにAMD Heliosを導入する計画で、このソリューションは2026年後半にCerebras Cloud上で最初に利用可能になる予定です。

■2つのシステムを組み合わせた分散推論システム

AMD HeliosラックスケールソリューションとCerebras CS-3システムは、一つの分離型推論ワークフローとして動作します。AMDはAMD Instinct GPUを実装して、高性能でスケーラブルなスループットエンジンを提供し、CerebrasはWafer-Scale Engineテクノロジーで、超高速かつ超低遅延のデコードとトークン生成を提供するそうです。これら2つのAIアクセラレータを組み合わせることで、1ワットあたりのトークン数（T/s/W）が最大5倍向上すると見込まれています。現在、Cerebras CloudではCerebras CS-3システムの構成で、Gemma4 31Bの生成パフォーマンスが1,500 Tokens/secと公表されていますので、今回の分散システムが適用されると更にパフォーマンスが良くなることになります。「1ワットあたりのトークン数（T/s/W）が最大5倍」とのことなので、単純に1,500 Tokens/secの5倍(7,500 Tokens/sec)になるわけではありませんが、マルチモーダルモデルで大きな画像情報をインプットしても即座に回答が生成されると想像しています。

■なぜ、分散させると速くなる？

今回、AMDと提携しCerebras Cloudで実装予定となりましたが、実は2例目になります。1例目は別のブログ「CerebrasがAWSとの協業を発表」に記載させていただいたAWS Trainium + CS-3のソリューションとなります。この中でもお話させていただいたように「推論分離」という手法が重要になります。現在の生成AIで利用されているLLM(大規模自然言語モデル)はTransformerというAI技術が利用され、その中のデコーダが利用されています。このデコーダは、LLM推論を行う際に、大まかに「入力プロンプト処理（プリフィル）」と「出力生成（デコード）」の2つの処理になりますが、この2つの処理を分離して、それぞれの処理に得意なAIアクセラレータを利用するというのが、この「推論分散」になります。

この2つの処理特性のイメージとしては以下の図になりますが、プリフィル処理は並列で処理できるので、計算負荷が高く中程度のメモリ帯域幅を必要としてします。一方でデコード処理は前のデータを元に順次トークンを生成していく逐次処理となっていて、計算負荷は低いものの、メモリ帯域幅を多く必要とします。

このように、入力プロンプト処理（プリフィル）と出力生成（デコード）はそれぞれ異なる特性があるので、それぞれ異なるAIアクセラレータを適切に実装することで、生成パフォーマンスも最大限に向上させることができます。

■最後に

今回はAMD HeliosラックスケールソリューションとCerebras Wafer-Scale Engineの組み合わせにより推論分散システムについてお話をさせていただきました。1種類のGPUまたはAIアクセラレータを利用するのではなく、組み合わせて更に高速するという今回の技術は今後の生成AIの基盤システムで注目されるかもしれません。

最後に、このブログをお読みになり、LLMおよびAIアクセラレータ製品、高速推論等にご興味がある方は当社までお問い合わせいただければ幸いです。