フォロー

MacBook Proでこの精度のLLMが動くといろいろ応用できそうです

MacBook Proでllm-jp-3-13b-instruct-4bitをMLXと共に試してみる|noguchi-shoji
note.com/ngc_shj/n/n25e2933f18

· · Tootle for Mastodon · 0 · 0 · 2
ログインして会話に参加
グルドン

Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。