フォロー

20bモデルもわりと軽快に動きますね
私はメモリー32GBのミニPC(GPUはRTX3060 12GB)でOllama上で動かすのでGGUF形式に変換されたモデルを使ってます
huggingface.co/unsloth/gpt-oss 

LM Studioなどで動かすならおーきしんさんのリンクのでいいと思います
右上の黒枠の「Use this model」をクリックして使いたいサービスが載ってればそれを選ぶとターミナルからDLするコマンドラインがコピペされます

mstdn.guru/@auxin/114982871695

ログインして会話に参加
グルドン

Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。