一瞬ときめいたけど、ジックリ待てばpi4でも動きます・・とかいう夢のような話ではなさそw
OpenAI's nightmare: Deepseek R1 on a Raspberry Pi https://youtube.com/watch?v=o1sN1lB76EA&si=UAZiPxCTqGu63gLR
いや、そうでもなさそ?この人は16GBRAMpi5に(画像AI用)pihatを装着して試したけど、ollamaはpihatを認識せず、つまり本体のCPUのみで動いてると。しかも、RAM消費もモデルのDB容量の5.4GBを超えて来ないらしい。遅くてイイなら、8GBRAMpi4でも?ダメかな?
https://youtu.be/-vK3Lv_Ow3o?si=HikmsV5wAJZ1erZb
https://youtu.be/ptRkk_jzvZw?si=FTH3WnSFadD_eUC2
Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。
いや、そうでもなさそ?この人は16GBRAMpi5に(画像AI用)pihatを装着して試したけど、ollamaはpihatを認識せず、つまり本体のCPUのみで動いてると。しかも、RAM消費もモデルのDB容量の5.4GBを超えて来ないらしい。遅くてイイなら、8GBRAMpi4でも?ダメかな?
https://youtu.be/-vK3Lv_Ow3o?si=HikmsV5wAJZ1erZb