M2 MacBook AirにFlexGen,OPT-6.7Bをインストール中。1.3Bは動いた。初めてのローカルLLM。だいたい15秒くらいで返してくれた
なぜこの手順が必要でしょうか?mstdn.guruはあなたが登録されているサーバーではないかもしれないので、まずあなたのサーバーに転送する必要があります。 アカウントをお持ちではないですか?こちらからサインアップできます
mstdn.guru