# FuriosaAI エンタープライズ推論向けAIアクセラレーターとサーバー - Findings24: - ウェブサイト: - カテゴリー: AI推論プラットフォーム, AIモデルデプロイメント ## FuriosaAIとは？ FuriosaAIはデータセンター向け推論用AIアクセラレータを設計しており、主力製品として RNGD、パッケージ化された導入オプションとして NXT RNGD Server を提供しています。同社はこのハードウェアを、コンピュータビジョン、生成AI、LLM、エージェント系ワークロード向けの高性能かつ電力効率の高い実行基盤として位置づけています。 製品群の中心は Tensor Contraction Processor アーキテクチャで、FuriosaAI はこれを tensor contraction に最適化したハードウェアとソフトウェアのアプローチだと説明しています。サイトでは、エンタープライズおよびクラウド環境での導入を強調しており、空冷データセンター、オンプレミス環境、マネージド環境、コロケーション施設での利用に対応し、コンパイル、最適化、本番展開を支援するソフトウェアスタックが備わっています。 ## FuriosaAIでできること ### 最新ワークロード向け推論アクセラレータ RNGD は、エンタープライズおよびクラウド推論向けのFuriosaAIのフラッグシップアクセラレータとして紹介されており、LLMおよびマルチモーダル展開をサポートします。 ### tensor contraction を重視したアーキテクチャ このプラットフォームは Tensor Contraction Processor アーキテクチャを採用しており、FuriosaAI は固定の matmul プリミティブではなく、tensor contraction を中心に構築されていると説明しています。 ### 電力効率の高い展開オプション RNGD は 180W の電力プロファイル、NXT RNGD Server は空冷データセンター向けに 3 kW の消費電力目標として説明されています。 ### 推論ソフトウェアツールチェーン Furiosa Software は、LLM推論およびエージェント系ワークロード向けに、コンパイル、最適化、本番展開のワークフローを提供します。 ### クラウドネイティブおよびフレームワークのサポート Furiosa はコンパイル、量子化、実行、LLM 配信のツールを提供し、torch.compile 連携、vLLM 互換インターフェース、OpenAI 互換 API サーバー、コンテナ、Kubernetes プラグインに対応します。 ### エンタープライズ展開機能 RNGD は BF16、FP8、INT8、INT4 演算に対応します。仕様には SR-IOV による最大8つの仮想インスタンス、ECC メモリ、ハードウェアの信頼の基点を用いたセキュアブートが記載されています。ハードウェアの演算対応は、すべての SDK 版で全量子化方式が利用可能であることを意味しません。 ## 利用シーン ### エンタープライズLLM推論 RNGD または NXT RNGD Server を展開先として使用し、電力密度とラックの稼働率が重要なデータセンターで高スループットの LLM 推論を実行します。 ### マルチモーダルモデルの提供 サイトで低レイテンシ実行と本番対応のソフトウェアサポートが強調されているクラウドまたはエンタープライズ環境にマルチモーダルモデルを展開します。 ### ハードウェア評価と導入計画 本番展開に移行する前に、Furiosa Access Program を通じてアクセラレータを評価、統合、認定します。 ### 空冷アプライアンス展開 NXT RNGD Server を使用して、オンプレミス、マネージド、またはコロケーション環境向けに推論を空冷アプライアンスとしてパッケージ化します。 ### コンパイラ主導の本番展開 Furiosa のソフトウェアスタックを使用して、PyTorch 2.x とクラウドネイティブツールを用いたモデルのコンパイル、最適化、配信を行います。 ## よくある質問 ### RNGDは何に使われますか？ FuriosaAIは、RNGDをエンタープライズおよびクラウド推論向けのAIアクセラレータとして位置づけています。ソースでは、高性能なLLMおよびマルチモーダル展開機能をサポートし、NXT RNGD Serverはエージェント系システム向けの3 kW推論アプライアンスとして説明されています。 ### 展開に利用できるソフトウェアサポートは何ですか？ Furiosa はコンパイル、量子化、実行、LLM 配信のツールを提供し、torch.compile 連携、vLLM 互換インターフェース、OpenAI 互換 API サーバー、コンテナ、Kubernetes プラグインに対応します。 ### 導入前にハードウェアをどのように評価できますか？ 世界各地のチームは、専用 NXT RNGD ベアメタルサーバーまたは OpenAI 互換 API の評価アクセスを申請し、性能、遅延、消費電力、アプリ互換性を検証できます。申請が必要であり、無制限の無料プランではありません。 ### Webサイトに価格は掲載されていますか？ 価格は公開されていません。ハードウェア構成と見積もりについては FuriosaAI にお問い合わせください。 ## クイック情報 - **カテゴリ**: AIアクセラレータ / 推論ハードウェア - **主な製品**: RNGD PCIe と NXT RNGD Server - **アーキテクチャ**: Tensor Contraction Processor (TCP) - **主な利用者**: エンタープライズおよびクラウドの推論チーム - **展開**: オンプレミス、マネージド環境、コロケーション、空冷データセンター - **ソースドメイン**: furiosa.ai