Apple Foundation Modelsフレームワーク

* LLMのレスポンスは自然言語であるため、構造化されたデータとして扱うための「ガイドデッド ジェネレーション」機能が紹介されました。これは、モデルの出力を構造化し、安全に扱うための機能。

* 「ジェネラブル」マクロで出力したい情報の構造体を定義し、プロパティごとに「ガイド」マクロでモデル向けの指示を追加することで、構造化された出力を得る。

* 「ツール コーリング」機能により、モデル以外の情報源と連携し、その結果をモデルの出力に組み合わせることが可能。例えば、都市名から緯度経度を取得し、天気情報を取得するような連携。

* セッションはステートフルであり、過去のやり取りを記憶しますが、コンテキストウィンドウの制限がある。
https://www.youtube.com/live/bnbJdbeADQ8?si=GHZ5ZvYJ1rjNydsa