フォロー

それはそれとしてドリキンさんはGoogle Playストア以外から実行ファイルのダウンロードを許容できるだろうか・・・?

理由はドリキンさんが実行したヤツはおそらくワーキングメモリが足りてないので、ARMアーキテクチャへ極力最適化コンパイルし性能を限界まで引き出しつつ、ワーキングメモリの制限を取っ払って実行することを想定しているから

具体的にはF-Droidから「Termux」をダウンロードしインストール(理由:Google PlayストアのTermuxはあまりにも何でも出来すぎてアップデート時にGoogleの審査が通らなかったという騒動があり最新版はF-Droidに在る)

ローカルLLM実行環境として設定の自由度が高い「llama.cpp」をTermux上でCPUとGPUの最適化をしてコンパイル

まだ上記は試してないのでcmakeをどうするのかとかそこまでしっかり考えてない

· · SubwayTooter · 0 · 0 · 0
ログインして会話に参加
グルドン

Mastodon は、オープンなウェブプロトコルを採用した、自由でオープンソースなソーシャルネットワークです。電子メールのような分散型の仕組みを採っています。