インテル® CPU 上での LLaMA2 の最適化と実行

ダウンロード
791610
2023-10-24
Public

詳細

このホワイトペーパーでは、インテル® CPU プラットフォーム上で実行される llama.cpp (オープンソースの LLaMA モデル推論ソフトウェア) 上で、ハードウェア・プラットフォーム固有の最適化を実行して、LLaMA2 LLM® モデルの推論速度を向上させる方法を示します。