とりあえず、うちのM2 Pro Mac miniでもFlexGenをいれてチャットボットと日本語で会話するところまではやってみた。

大規模言語モデルのダウンロードはまたあとでやろう