Zettascale

Zettascaleは、低消費電力で密な計算と不規則計算を両立するAIシリコンとXPUチップを開発。プロトタイプからクラスタ規模まで対応。

概要

Zettascaleは、探索に重点を置いたワークロード向けに、XPUチップを含むAIシリコンを開発しています。同社は、このハードウェアを、テキストを生成するだけではないAIシステムのための基盤として位置づけています。つまり、アイデアを提案し、それをシミュレーションし、候補を現実と照らして検証し、その結果を次のサイクルの改善に活用するという考え方です。

サイトでは、Grasshopperを最初のXPUとして紹介しており、現在はFPGA上でプロトタイプ化されています。またMonolithは、XPUをより大きなマシンへ接続する開発中のクラスターとして示されています。公開ページ全体では、この製品はAIの学習と推論に向けたエネルギー効率の高い再構成可能なデータフロー・チップとして位置づけられており、データ移動の最小化、密な計算と不規則計算の両方のサポート、広い精度範囲への対応が強調されています。

主な機能

エネルギー効率の高いAIハードウェア

同社によると、XPUチップは、テキスト生成だけでなく探索指向の計算に重点を置き、あらゆるAIワークロードをごく少ないエネルギーで実行できるように設計されています。

データ移動の削減

Grasshopperは最初のXPUのFPGAプロトタイプとして紹介されており、AIにおける大きなエネルギーコストとされるデータ移動を最小化するよう設計されています。

混在ワークロードのサポート

このアーキテクチャは、1つのマシン内で密なワークロードと不規則なワークロードの両方をサポートし、行列中心の計算と疎で条件分岐のある実行の両方に対応できると説明されています。

広い精度範囲

thesisページでは、ハードウェアはfp8からfp64までの精度範囲をカバーすべきだとされ、低精度の学習だけでなく、より高精度な科学計算も可能になります。

クラスタ規模の探索ワークフロー

Monolithは、1つのチップのように動作するクラスターとして提示されており、探索ループの中で学習、シミュレーション、検証をまとめて支援することを意図しています。

再構成可能なデータフロー設計

公開ページでは、製品は再構成可能なデータフロー・チップを中心に位置づけられており、AIの学習と推論の両方のワークロードに適応できるアーキテクチャを示しています。

適した用途

探索指向のAI研究
候補を提案し、結果をシミュレーションし、検証までを1つの探索ループで行う必要があり、テキスト応答の提供だけにとどまらないAIシステムを構築している場合に適しています。
混在計算のAIワークロード
密な線形代数と、疎または不規則な実行を組み合わせるワークロード向けです。単一の固定アクセラレータでは対応範囲が狭すぎ、汎用GPUでは容量を無駄にしうる場合に適しています。
省エネルギー重視の学習と推論
エネルギー使用量が重要で、データ移動が大きなコストになるプロジェクト向けです。特に、データフロー指向の設計から恩恵を受ける場合に適しています。
科学計算・シミュレーション中心の作業
ワークフローの一部でより高い精度の計算が必要な研究グループ向けです。たとえば、低精度のテンソル演算以上のものが必要な科学計算やシミュレーション中心の工程に適しています。
クラスター化された探索パイプライン
複数のXPUを1つの論理マシンとして接続し、学習、シミュレーション、検証を行うチーム規模のシステム向けです。

Pros and Cons

Pros

密な演算と不規則な実行の両方を対象にしており、1種類のワークロードパターンだけを最適化しているわけではありません。
fp8からfp64までの精度範囲をうたっており、学習と科学計算の両方に関連します。
AIハードウェアにおける重要なエネルギーコストであるデータ移動の削減を中心に据えています。
単一XPUの概念から、Monolithが1つのチップのように動作するクラスタ規模の運用へ拡張しています。

Cons

公開サイトには、詳細なセットアップ文書、統合情報、プラットフォーム互換性に関する情報がありません。
価格、プラン構成、購入条件は公開ページに掲載されていません。
ハードウェアは開発中として説明されているため、一部の製品機能は出荷済み機能ではなくロードマップ上のものに見えます。

FAQ

Zettascaleは何をしていますか？

Zettascaleは、AIトレーニングと推論向けのエネルギー効率に優れた再構成可能なデータフロー・チップを開発しています。サイトでは、このハードウェアは汎用的な消費者向けアプリではなく、探索指向のAIワークロード向けに位置づけられています。

Grasshopperとは何ですか？

サイトでは、Grasshopperは最初のXPUであり、FPGA上でプロトタイプ化されていると説明されています。AIにおける主要なエネルギーコストだと同社が述べるデータ移動を最小化する手段として紹介されています。

Monolithは何に使われますか？

Monolithは、複数のXPUを接続して1つのチップのように動作させる開発中のクラスターとして説明されています。想定されるワークフローは、学習、シミュレーション、検証を1台のマシンで行う探索ループです。

Zettascaleの価格設定はどうなっていますか？

公開ページには、製品価格、料金プラン、セルフサービスの購入フローは表示されていません。pricingのURLは、製品の価格ページというより会社ページとして機能しているようです。

どのようなセットアップや統合がサポートされていますか？

ソースでは、密な計算向けのハードウェア、fp8からfp64までの広い精度範囲、不規則な実行が強調されています。ソフトウェア統合、セットアップ手順、プラットフォーム互換性の詳細は記載されていません。

Quick Facts

カテゴリー: AIシリコン
主な製品: XPUチップ
プロトタイプ: Grasshopper
クラスターシステム: Monolith
会社ドメイン: exalaboratories.com
本社: アメリカ合衆国カリフォルニア州サンフランシスコ