ローカルで動かす時は量子化の度合いが強くても、元のパラメータ数が出来るだけ大きいものを選んだ方が明らかに性能ええな。。
Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。