メインコンテンツへスキップ
サポート・ナレッジベース

複数のプロセスを実行すると、OpenVINO™推論時間が短縮されます。

コンテンツタイプ: 製品情報 & ドキュメント   |   記事 ID: 000058227   |   最終改訂日: 2023/06/06

環境

UbuntuOpenVINO 2021.2

詳細

推論時間は、2 つのプロセスを実行して同じモデルを推論する場合に 2 倍になります。

  • OpenVINO™を使用してモデルを推論します。
  • 推論時間は、1 つのプロセスを実行すると約 300 ミリ秒です。
  • 2 つのプロセスを使用する場合、両方のプロセスの推論時間は 600ms になります。

解決方法

  1. main.cpp スクリプトに次のコマンドを追加します。

    ie.SetConfig({ { CONFIG_KEY(CPU_BIND_THREAD), "NO" } }, "CPU")

  2. デモを構築します。

追加情報

  • KEY_CPU_BIND_THREAD構成のデフォルト値は YES です。
  • Linux* では、2 つのプロセスが同じ CPU コアにバインドされ、推論時間が 2 倍になります。
  • KEY_CPU_BIND_THREAD構成を Windows* と Linux* の両方で CPU コアからバインド解除スレッドを推論しない に設定します。

CPU プラグインの コンフィグレーション・パラメーター の詳細については、サポートされているコンフィグレーション・パラメーターを参照してください。

関連製品

本記事は、2 製品に適用します。

製造中止品

エッジ向けインテル® デベロッパー・クラウド

免責条項

このページのコンテンツは、元の英語のコンテンツを人力翻訳および機械翻訳したものが混在しています。この内容は参考情報および一般的な情報を提供するためものであり、情報の正確さと完全性を保証するものではありません。インテルは不正確な翻訳があった場合でもいかなる責任を負いません。このページの英語版と翻訳の間に矛盾がある場合は、英語版に準拠します。 このページの英語版をご覧ください。