github

スポンサーリンク

llama.cppのベンチマーク補助ツールできました

llama-bench-helperllama.cpp 向けのベンチマーク補助 CLI です。モデルの入手、速度計測、品質確認を、予め設定した内容で回し、結果を出力します。githubリポジトリ:llama-bench-helper ででき...
スポンサーリンク