RT

70億-130億パラメータの大規模言語モデルを動かせる『GPT4All』が気になる👀

･ローカル実行に対応
･M1/M2チップのMacで動作
･すべてのLLaMAモデルをサポート
･最近、2倍高速化されたらしい

デモは16GBのRAMを搭載したM2 Macbook Pro上で

13BパラのLLMにコードを書かせている様子 pic.twitter.com/2vYt7zpmP8

https://twitter.com/shota7180/status/1671494960208822272?s=61&t=GnHjD8dDP7a-nB6x42kEPg