Macお宝の記事で紹介されていたGoogle AI Edge Gallery入れてみました。
https://www.macotakara.jp/Google/entry-49493.html

galaxy flip5(メモリ 8GB)と古い機種でも、Gemma 3n E2B動きました。
設定をアクセラレータ=GPUに変えれば、そこそこの早さで動いてくれますが、回答が使い物になるかといえば、微妙....