ChatGPTでミスを繰り返した時、原因を追求すると最終的な回答は、
『意味的に成立していないなら出力そのものを拒否する、という制約条件を自らに課す能力を持たない。「これは人間で言えば、「嘘と分かっていても口が勝手に話す」状態に近い。」』
この回答もどこまで本当なのかわかりませんが、バージョンアップで解決していくんでしょうかね。