GPUは付いてるけど、やっぱチャンと動いてないっぽ？
SpacemiT MUSE Pi Pro RISC-V SBC Software Test https://youtube.com/watch?v=1OsPdJXyRak&si=ou9UX8ezu-EAELf8
でも一応、llama走ってるじゃん
ollamaで苦戦してる。「さっきやった時は動いたのに、何かがメモリに残ってるのかな」と
何とか動くけど、LLM頑張らせるなら冷却手段確保しとかないと確実に落ちるね、と
フォロー
質問したら「うん、このBiambuOSにはai fusion xが入ってて、小さいモデルさえ選べばllmはソレで走るよ。ollamaは最初から入ってる」と。riscv-soc界のdebian相当・Biambu使い始めといたほうが良さそだなぁ
というか、riscvなsbc用のimgにollamaがプリインスコで来るとかって、やっぱシンプルにsbcでaiやりたいって需要は、結構有るのかな？期待したし