これを使ってCAPTCHA承認とかがすり替えられるとかあると厄介だと思った。

「マルウェア入り画像」で生成AIにサイバー攻撃 入力すると回答結果をハック、悪意サイトへの誘導も https://www.itmedia.co.jp/news/articles/2307/28/news069.html