- **オンデバイスモデルの特性**:
- 30億のパラメータを持つ大規模言語モデル。
- 要約、抽出、分類などの用途に最適化されている。
- 世界知識や高度な推論には向いていない。
- タスクをより小さなピースに分割する必要がある。
- コンテンツタグ付けのような特定の用途向けに、特化されたアダプターが提供されている。
- モデルは継続的に改善される。
- **Guided Generationの詳細**:
- 構造化されていない自然言語の出力を、アプリのビューにマッピングする際の課題を解決。
- `@Generable`と`@Guide`という2つの新しいマクロを提供。
- Guided Generationは、構造的な正確性を保証する。
https://youtu.be/mJMvFyBvZEk?si=2fScKmViPidWNv_8