`ollama run hf.co/SakanaAI/TinySwallow-1.5B-Instruct-GGUF`でWindows上のOllamaであっさりTinySwallowが動いた。Ryzen7 2700uだとGPUアクセラレーションは聞かなくてCPUオンリーだけど、そもそもラズパイで動くほど軽いモデルだから問題なさそう。
1.5Bだとあんまり賢くはないよね。
なぜこの手順が必要でしょうか?mstdn.guruはあなたが登録されているサーバーではないかもしれないので、まずあなたのサーバーに転送する必要があります。 アカウントをお持ちではないですか?こちらからサインアップできます
mstdn.guru