shi3zさんの表現が体感として最も秀逸
「AIはソフトウェア計算機」
与えられた何らかの入力へ対し、計算処理を加えて何らかを出力するのがAI
このShi3zさんの表現へ対してボクは理解を深めてもらうために表現を追加しています
「AIは計算機であるからこそ計算の意味を知らない」
我々人間は計算する際には何らかの理由を持って居り、例えば50円の買い物を2個するとき「50 + 50 = 100」もしくは「50 * 2 = 100」ですよね
我々人間は50や100がモノの価値や通貨だと理解していますが、計算機は価値や通貨だと知らないのです。入力の意味を知らなくても計算できますから
AIはなぜ人間がそのパラメータやプロンプト、オプションを選択・入力したのか理解してません。理解しなくても計算できるからです
そしてこの理解が無い限り、AIは人間の完全な代替となり得ず、計算の意味を知らないことこそがAIの最大の欠点と言えます
これが多分不安の一因かなぁと思います