フォロー

当時奮発してメモリ64GBのM1 MaxのMacBook Proを買ったおかげで
今いろいろなLLMをローカルで動かして試す事ができてはいるのですが
M1 Maxは10Tok/Secくらいしか性能が出ないので
CLINEのような処理が重いエージェントは流石に使い物にならない・・・・
ローカルでバンバンAIを動かすなんてどう考えても
想定された使い方じゃ無いので当たり前と言えば当たり前なんですが

ログインして会話に参加
グルドン

Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。