Cascade Lake

2017年7月にインテル® Xeon® Platinum 8180 プロセッサーで推論のスループットが 2 倍に向上 ベースライン: インテルによるテスト結果 (2017年7月11日時点) プラットフォーム：2 ソケット・インテル® Xeon® Platinum 8180 プロセッサー @ 2.50GHz (28 コア)、HT 無効、ターボ無効、スケーリング・ガバナーは intel_pstate ドライバーから「performance」に設定、384GB DDR4-2666 ECC RAM 搭載。CentOS Linux* リリース 7.3.1611 (コア)、Linux カーネル 3.10.0-514.10.2.el7.x86_64。SSD: インテル® SSD DC S3700 シリーズ (800GB、2.5 インチ SATA 6Gb/s、25nm、MLC)。パフォーマンスを測定した環境変数: KMP_ AFFINITY='granularity=fine, compact‘, OMP_NUM_THREADS=56, CPU Freq set with cpupower frequency-set -d 2.5G -u 3.8G -g performance Caffe: (http://github.com/intel/caffe/), revision f96b759f71b2281835f690af267158b82b150b5c.推計は “caffe time --forward_only” コマンドで、トレーニングは “caffe time” コマンドで測定。「ConvNet」トポロジーには、合成データセットを使用。その他のトポロジーについては、データをローカルストレージに保存し、トレーニング前にメモリーにキャッシュ。トポロジーの仕様の詳細は、以下のサイトをご覧ください。https://github.com/intel/caffe/tree/master/models/intel_optimized_models (ResNet-50、および https://github.com/soumith/convnet-benchmarks/tree/master/caffe/imagenet_winners (ConvNet のベンチマークとファイルは新しい Caffe prototxt 形式にアップデートされていますが、機能は同等です) インテル® C++ コンパイラー (バージョン 17.0.2 20170213)、インテル® マス・カーネル・ライブラリー (インテル® MKL) スモール・ライブラリー (バージョン 2018.0.20170425)。Caffe は「numactl -l」で実行。

インテル® Xeon® Platinum 8280 プロセッサーとインテル® ディープ・ラーニング・ブースト (インテル® DL ブースト) で推論のスループットが 14 倍に向上: インテルによるテスト結果 (2019年2月20日時点)。2 ソケット・インテル® Xeon® Platinum 8280 プロセッサー、28 コア HT 有効、ターボ有効 メモリー総容量 384 GB (12 スロット / 32GB / 2933 MHz)、BIOS: SE5C620.86B.0D.01.0271.120720180605 (ucode: 0x200004d)、Ubuntu 18.04.1 LTS、カーネル 4.15.0-45-generic、SSD 1x sda インテル® SSDSC2BA80 SSD 745.2GB、nvme1n1 インテル® SSDPE2KX040T7 SSD 3.7TB、ディープ・ラーニング・フレームワーク: インテル® Optimization for Caffe* バージョン: 1.1.3 (コミットハッシュ: 7010334f159da247db3fe3a9d96a3116ca06b09a)、ICC バージョン 18.0.1、MKL DNN バージョン: v0.17 (コミットハッシュ: 830a10059a018cd2634d94195140cf2d8790a75a、モデル https://github.com/intel/caffe/blob/master/models/intel_optimized_models/int8/resnet50_int8_full_conv.prototxt、BS=64、合成データ、4 インスタンス / 2 ソケット、データタイプ: INT8 vs. インテルによるテスト結果 (2017年7月11日時点): 2S インテル® Xeon® Platinum 8180 CPU @ 2.50GHz (28 コア)、HT 無効、ターボ無効、スケーリング・ガバナーは intel_pstate ドライバーから「performance」に設定、384GB DDR4-2666 ECC RAM 搭載。CentOS Linux* リリース 7.3.1611 (コア)、Linux カーネル 3.10.0-514.10.2.el7.x86_64。SSD: インテル® SSD DC S3700 シリーズ (800GB、2.5 インチ SATA 6Gb/s、25nm、MLC)。パフォーマンスを測定した環境変数: KMP_AFFINITY=’granularity=fine, compact‘, OMP_NUM_THREADS=56, CPU Freq は cpupower frequency-set -d 2.5G -u 3.8G -g performance。Caffe: (https://github.com/intel/caffe/)、バージョン f96b759f71b2281835f690af267158b82b150b5c。推計は “caffe time --forward_only” コマンドで、トレーニングは “caffe time” コマンドで測定。「ConvNet」トポロジーには、合成データセットを使用。その他のトポロジーについては、データをローカルストレージに保存し、トレーニング前にメモリーにキャッシュ。トポロジーの仕様の詳細は、以下のサイトをご覧ください。https://github.com/intel/caffe/tree/master/models/intel_optimized_models/resnext_50、インテル® C++ コンパイラー (バージョン 17.0.2 20170213)、インテル® MKL スモール・ライブラリー (バージョン 2018.0.20170425)。Caffe は「numactl -l」で実行。

この表はインテル社内でテストした OS の一覧であり、表に記載された OS のリリースバージョンを対象とする OS ベンダーのサポート状況を表すものではありません。OS のリリースバージョンとそのサポートについては、各 OS ベンダーにお問い合わせください。一部のソフトウェア・パッチは今後、OS ベンダーに報告され、OS の新しいリリースバージョンに反映される可能性があります。またその場合、プラットフォーム・サポートの拡張が必要になることがあります。

インテルがサポートを提供する対象は、記載の OS 上で使用するインテルのツール、パッチ、ユーティリティーに限られます。ご使用の OS のサポートについては、各 OS ベンダーにお問い合わせください。