ハルシネーションと謝罪については、私も蔵書の検索システムを作っているときに似たことを経験しました。

山田祥平のRe:config.sys
AIの自白と謝罪、そして自嘲
https://pc.watch.impress.co.jp/docs/column/config/2078323.html