Cisco UCS X シリーズ M7 ブレードサーバー / 第 5 世代インテル Xeon・プロセッサーによる生成的 AI 推論

詳細

インテル® Xeon® スケーラブル・プロセッサーと Cisco Nexus® を搭載した Cisco UCS® に基づくソリューションは、ジェネレーティブ AI を大規模に導入するための魅力的でスケーラブルな基盤を提供します。このアーキテクチャでは、次の組み合わせが提供されます。

• 最適なパフォーマンス: Cisco UCS は、特殊な AI アクセラレーターと最適化されたソフトウェア フレームワークを備えた インテル Xeon スケーラブル・プロセッサーを搭載し、推論パフォーマンスとスケーラビリティーを大幅に向上させます。Cisco Nexus 9000 スイッチは、高帯域幅、低遅延、輻輳管理メカニズム、テレメトリを提供し、AI/ML アプリケーションの厳しいネットワーキング要件を満たします。
• バランスのとれたアーキテクチャー: Cisco UCS は、推論パイプライン全体にとって重要な、ディープラーニングと非ディープラーニングの両方のコンピューティングに優れています。このバランスのとれたアプローチにより、全体的なパフォーマンスとリソース使用率が向上します。
• オンデマンドのスケーラビリティ: Cisco UCS は、生成的 AI 推論のニーズに合わせてシームレスに拡張できます。Cisco Intersight® を使用して、モデルの進化とワークロードの増加に合わせて、サーバの追加または削除、メモリ容量の調整、および自動化された方法でのリソースの設定を行うことができます。

Cisco UCS X シリーズ モジュラ システム、および C240 および C220 ラック サーバは、第 5 世代 インテル Xeon スケーラブル プロセッサをサポートしているため、データセンターまたはエッジで、モジュラ フォーム ファクタまたはラック フォーム ファクタのいずれかを使用して推論を実行するオプションがあります。