いけともさんの動画　https://youtube.com/watch?v=8hSjKu3FajY&si=LtCSbj4oG_cu4gCb&t=1441
でiPhoneローカルで動くgemma-3、いわゆるSLMを入れて動かしてみました

まずappsutoreでPocketPalを入れて
動画画面に出てたgemma-3-270m-it-F16. を頼りに
HuggingFaceからgguf-org が出してるモデルに辿り着きました。

動かしてみるとiPhone11でもいけともさんと同じ質問に十分なレスポンスで帰ってくるのが確認できました。