Cisco UCS / 第 5 世代および第 4 世代 インテル Xeon プロセッサーによる生成的 AI 推論オペレーション

詳細

第 5 世代 インテル® Xeon® プロセッサーと Cisco Nexus を搭載した Cisco UCS は、ジェネレーティブ AI を大規模に導入するためのスケーラブルな基盤です。このアーキテクチャは以下を提供します。

• 最適なパフォーマンス: Cisco UCS は、特殊な AI アクセラレーターと最適化されたソフトウェア フレームワークを備えた インテル Xeon スケーラブル・プロセッサーを搭載し、推論パフォーマンスとスケーラビリティーを大幅に向上させます。
• バランスのとれたアーキテクチャー: Cisco UCS は、推論パイプライン全体にとって重要な、ディープラーニングと非ディープラーニングの両方のコンピューティングに優れています。このバランスのとれたアプローチにより、全体的なパフォーマンスとリソース使用率が向上します。
• オンデマンドのスケーラビリティ: Cisco UCS は、生成的 AI 推論のニーズに合わせてシームレスに拡張できます。Cisco Intersight を使用して、モデルの進化とワークロードの増加に合わせて、サーバの追加または削除、メモリ容量の調整、および自動化された方法でのリソースの設定を行うことができます。

データセンターまたはエッジで、モジュール式またはラック・フォームファクターのいずれかを使用して推論を実行するオプションがあります。