オックスフォード大・AI学部長さん曰く、
* **論理的推論や問題解決は「第一原理」からではない:**
話者は、LLMが論理的推論や問題解決を「第一原理」(根本的な原則)から行っているわけではないと断言しています。これは、LLMが「次の単語予測」というアーキテクチャに基づいて設計されているためであり、データ量や計算能力を増やしても、根本的なアーキテクチャが変わらない限り、真の論理的推論能力を獲得できるとは考えにくいという見解を示しています。
https://youtu.be/7-UzV9AZKeU?si=vG3Zih8pB3_0VniB