展開が早い。RT
【重要】ついに大規模言語モデルがStable Diffusionのように個人のハードウェアで動く時代に
https://simonwillison.net/2023/Mar/11/llama/
Georgi Gerganov氏のllama.ccpにより、先日発表されたGPT-3、Chinchilla、PaLM級のLLaMAモデルがMacBookで実行可能に。なんと既にM1 Max64GBで65Bモデルの実行が確認されてる
https://twitter.com/Yamkaz/status/1635070761823268864
Macbook M1 Max64GBでLLaMA 65Bモデルが動いている様子
https://twitter.com/lawrencecchen/status/1634507648824676353
https://twitter.com/Yamkaz/status/1635071266943275009