Alpaca-LoRAの7BモデルのFinetuningは8時間で完了して、実際にllama.cppで動作する事まで確認だん。13Bはざっと13時間位で出来そうだが、30BはやはりRTX3090はVRAM不足で駄目でした...
なぜこの手順が必要でしょうか?mstdn.guruはあなたが登録されているサーバーではないかもしれないので、まずあなたのサーバーに転送する必要があります。 アカウントをお持ちではないですか?こちらからサインアップできます
mstdn.guru