20bのならOllamaでも動くかな? GGUF版ってまだ出てないのかあとで調べなきゃだ RP
OpenAIが2つのオープンウェイトLLM「gpt-oss-120b」と「gpt-oss-20b」についてのモデルカード(厳密には論文というより技術文書)を公開。
小さい方の20bモデルが大きい方の120bモデルの6分の1のサイズしかないのに、多くの分野で健闘する性能を発揮しています。
「推論レベル」を低・中・高の3段階で調整でき、20bモデルでも数学の問題を解く時には、平均で2万トークン以上の長い思考過程を書いて答えにたどり着きます。
(続く)
GGUFあったわ、とりあえず落として手がすいてから使ってみる
https://huggingface.co/unsloth/gpt-oss-20b-GGUF