grokによると、A19 proを利用したLlama 3.1 8B（4-bit量子化）をローカル実行した場合の生成速度の推定は、25-35 tokens per secondとのこと。