少しひねった計算問題や論理パズルをAIに尋ねると、もっともらしい顔でさらりと間違った答えを返してくることがあります。ところが、同じ問題でも「途中の考えも書いて」と一言添えるだけで、正解する確率がぐっと上がる——そんな現象が知られています。この「答えだけでなく、答えにたどり着くまでの考えの道筋を書かせる」やり方が 思考の連鎖(Chain-of-Thought、CoT) です。
CoTは、いまの推論モデルやプロンプトエンジニアリングの土台になっている考え方です。この記事では、思考の連鎖とは何か、なぜ途中式を書かせるだけで賢くなるのかを、Googleの研究などをもとに非専門家向けに整理します。
なぜ必要か:一気に答えようとすると間違える
LLM(大規模言語モデル)は本来、入力された文章に続く言葉を予測しているだけです。そのため、複数の手順を踏まないと解けない問題が苦手でした。AI用語集を提供するUltralyticsは、従来のモデルが多段階の問題でつまずきやすい理由を「入力から出力へ一度に直接マッピングしようとするため」3と説明しています。人間にたとえれば、筆算もメモもせず、頭の中だけで暗算して答えを口走るようなものです。簡単な問題なら当たりますが、手数が増えると途中で破綻します。
そこで考え出されたのが、AIにあえて「途中の考え」を文章として出力させるという発想です。Ultralyticsは思考の連鎖を「複雑な推論タスクを中間的な論理ステップに分解することで、大規模言語モデルが解けるようにするプロンプト技術」3と定義しています。答えを急がせる代わりに、考える過程そのものを紙に書き出させるイメージです。
仕組み:答えの前に「途中の考え」を書かせる
思考の連鎖を最初に体系立てて示したのが、Googleの研究者らによる2022年の論文「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」です1。この論文は、CoTを「中間推論ステップの連鎖(a chain of thought)を生成させることで、大規模言語モデルが複雑な推論を行う能力を大幅に向上させる」手法だと報告しています1。
具体的なやり方はシンプルです。AIに問題を解かせるとき、お手本として見せる例の中に、最終的な答えだけでなく「こう考えて、こう計算して、だからこの答えになる」という推論の途中経過を一緒に書いておきます。すると、AIはその形式をまねて、本番の問題でも途中の考えを順番に出力しながら答えにたどり着くようになります。
この方法の利点は、新しいAIを訓練し直す必要がない点にあります。CoTはモデルのアーキテクチャを変えたりファインチューニングをやり直したりせず、プロンプトに含める例の書き方を変えるだけで効果を発揮します1。Ultralyticsは、こうして中間推論を明示的に書かせることで「モデルが自己修正する機会が増え、結論に至った過程が透明化される」3と整理しています。途中で道筋を一歩ずつ確かめながら進むため、一気に答えるより間違いに気づきやすくなる、というわけです。
効果:100分の1の手間で精度が跳ね上がる
思考の連鎖が注目されたのは、その効果が数値ではっきり示されたからです。Googleの論文では、5400億(540B)パラメータの大規模言語モデルに、思考の連鎖を含むお手本をわずか8個見せてプロンプトしただけで、小学校レベルの文章題を集めた数学ベンチマーク「GSM8K」で当時の最高精度を達成し、検証器つきでファインチューニングしたGPT-3すら上回ったと報告されています1。膨大なデータで追加学習させる代わりに、たった8個の例で考え方を見せるだけで、専用に訓練したモデルを超えたのです。この効果は算術だけでなく、常識を使った推論や記号的な推論など、複数の領域で確認されています1。
さらに踏み込んだのが、東京大学の松尾豊氏らも著者に名を連ねる2022年の論文「Large Language Models are Zero-Shot Reasoners」です2。この研究は、お手本を一つも見せなくても、プロンプトの最後に 「Let’s think step by step(順を追って考えてみよう)」 という一文を付け加えるだけで、AIの推論性能が上がることを示しました23。お手本を見せるやり方を「フューショットCoT」と呼ぶのに対し、こちらは例ゼロで効くため「ゼロショットCoT」と呼ばれます。
その効果も大きく、論文ではOpenAIのモデル(text-davinci-002)で、多段階の算術文章題を集めたMultiArithの正答率が17.7%から78.7%へ、先述のGSM8Kが10.4%から40.7%へ跳ね上がったと報告されています2。たった一文の呪文のような指示が、AIの中に眠っていた推論能力を引き出した形です。この結果は、推論する力がモデルの中にもともと潜在していて、「いかに引き出すか」が鍵だったことを示唆しています。
推論モデルやプロンプトとの関係
思考の連鎖は、二つの形でいまのAIに根づいています。
一つは、私たちが日常的にAIを使うときのプロンプトエンジニアリングです。難しい質問をするときに「途中の考えも書いて」「順を追って説明して」と添えるだけで、答えの質が上がりやすくなります。これは特別な技術ではなく、誰でもすぐ試せる思考の連鎖の応用です。
もう一つが、推論モデルへの発展です。OpenAIのo1やo3に代表される推論モデルは、ユーザーがいちいち指示しなくても、答える前に内部で長い思考過程を展開してから結論を出すように作られています。ユーザーから見える形は違っても、「答える前にまず考える道筋を生成する」という発想の根っこは、思考の連鎖と地続きだと考えられます。
限界:万能の魔法ではない
思考の連鎖は強力ですが、万能ではありません。途中の考えがもっともらしく書かれていても、その推論自体が間違っていれば、結局は誤った結論にたどり着きます。AIが筋の通った理屈を並べながら事実と異なる内容を述べるハルシネーションは、途中式を書かせても完全には防げません。また、思考の連鎖が明確な効果を示すのは主に十分に大きなモデルであり、答えが一目で決まるような単純な問いでは、わざわざ途中経過を書かせる意味は薄くなります。
それでも、「答えを急がせず、考える過程を言葉にさせる」という思考の連鎖の発想は、AIの推論能力を引き出す最も基本的で再現性の高い方法の一つです。AIがなぜ「考えて」答えられるようになったのかをさらに知りたい方は、答える前に内部で思考を展開する推論モデルや、指示の出し方で答えの質を変えるプロンプトエンジニアリングとあわせて読むと、対話型AIの賢さの仕組みが立体的に見えてきます。
Sources
- Chain-of-Thought Prompting Elicits Reasoning in Large Language Models - Wei et al.(Google)によるCoT論文(2022年1月)
- Large Language Models are Zero-Shot Reasoners - Kojima et al.によるゼロショットCoT(「Let’s think step by step」)論文(2022年5月、NeurIPS 2022)
- Chain-of-Thought Prompting - Ultralyticsによる用語解説