OpenAI主任研究者「どのラボもアラインメントを解けていない」 - 自主的な減速と国際協調を要請

OpenAIのチーフサイエンティスト、ヤクブ・パホツキ氏が2026年9月6日にエッセイ「An Alien Mind」を公開した。連鎖思考モニタリングへの依存能力が低下しているとしたうえで、共通の安全基準ができるまで自主的な減速が当たり前になることを期待する、と書いている。

OpenAI AI-safety governance alignment AI-agents regulation

OpenAIのチーフサイエンティストであるヤクブ・パホツキ（Jakub Pachocki）氏が2026年9月6日、「An Alien Mind」と題したエッセイを同社サイトに公開した。結びで同氏は、現時点でどのラボもアラインメントと監視を十分に解けておらず、責任ある形で最大速度のスケーリングを続けられる期間はもう長くない、と書いている。そのうえで、共通の安全基準（safety bars）が確立されるまでは 自主的な減速が当たり前になることを期待し、望んでいる とし、将来のAI開発に関する国際協調が各国政府の最優先事項になる必要がある、と述べた¹。

開発を担う側の責任者が、自社の名前で減速の必要を書いたことになる。同氏は2026年7月に公開された米政府にAI開発のペース調整への備えを求める公開書簡「Pacing the Frontier」にも署名しており、今回はその主張を技術的な根拠とともに自分の言葉で展開した形である。

「内部の結果から、この速度が再帰的自己改善まで持続しうると強く予想している」

エッセイは2023年半ばの回想から始まる。同氏は「RLSlow」という社内の研究プロジェクトで、推論モデルの訓練をスケールできるという確信を与える最初の結果を見た、と書いている。その夜に考えたのはベンチマークの数字や製品ではなく、自分たちより明確に賢い機械を生涯のうちに見ることになるという事実をどう受け止めるかだった、という。

そこから3年後の現在について、同氏は内部の結果に基づき、この進歩の速度が 再帰的自己改善（RSI）まで持続しうる と強く予想している、と書く。現在の路線が続くなら、今後数年に現れるシステムは同等かそれ以上の能力の飛躍を示し、自らの開発をますます自分で駆動するようになる可能性が高い、という見立てである¹。

そのうえで「極度の慎重さが求められる時期だ」とし、機械知能の急速な上昇が続いた場合の帰結に誰も備えられていないことを懸念している、と書いている。OpenAIとしてはアラインメントと監視の技術的な解を探し、防御システムを構築し、必要に応じて一方的にさらなるスケーリングを差し控える としつつ、それだけでは足りず、より広い介入が必要だと考えている、と続ける¹。

連鎖思考モニタリングが効かなくなりつつある

技術的な中身で最も重いのは、監視手法についての現状認識である。

同氏は、アラインメント手法そのものよりも、それを経験的に検証できるかどうかのほうが実務上はおそらく重要だとしたうえで、OpenAIの主要な賭けは連鎖思考（chain-of-thought, CoT）モニタリングだった、と書いている。モデルの能力の多くは言語化された推論過程から来ているので、その過程自体を監督せずに結果だけを最適化すれば、CoTには誤ったアラインメントの意図を隠す誘因が訓練上は生じない、という考え方である。o1-previewを出したとき、製品として連鎖思考を隠す設計にしたのは、長期にわたって監督の圧力から守るためだった、とも書かれている（脚注では、蒸留を防ぐという副次的な理由もあったが、CoTの可読性の維持のほうが一貫して大きな優先事項だったと補足されている）¹。

そのCoTモニタリングについて、エッセイは 自社の評価によれば、依存できる度合いが漸進的に低下している と書く。理由として3つが挙げられている。推論モデルが使われる環境が複雑になり、推論過程が人・他のAI・ツールとのやりとりと混ざってきたこと（それらの多くは監督が必要になるため、保とうとしていた境界が曖昧になる）。AIが自らの推論過程について考え、それを操作する能力を高めていること。そして事前学習の性能向上により、言語化された推論をまったく使わなくてもモデルがはるかに賢くなっていること¹。

解決不能とは書かれていない。ネットワーク内部に直接アクセスできる監視器の訓練をスケールさせるといった方向を挙げ、実際に追求しているとしている。それでも同氏は、AIの全般的な進歩が 今後ますます「監視への確信」によって律速される と予想する、と書いている。

外部からモデルを評価・監査する枠組みの多くは、推論過程がある程度読めることを暗黙の前提にしている。その前提が当事者の申告として揺らいだ意味は小さくない。自社でエージェントを組み込む場合も、「思考の中身をログで見て異常を検知する」という運用設計の耐用年数を、そのまま長く見積もれるとは限らないことになる。

「防御のために速く作る」という論理と、その歯止め

エッセイは、より賢いモデルを速く訓練し続ける最も強い論拠は、他のAIがもたらす危険に対する防御システムを作る必要性にある、とする。サイバーセキュリティについては、モデルがコンピュータシステムに侵入し、そこから抜け出す能力において超人的になりつつあると書き、最良のモデルを使って重要システムのセキュリティを大幅に固められる 狭い窓 に今いる、としている¹。

この認識は、OpenAIがAstraを自社のPreparedness Frameworkでサイバー能力の「Critical」に初めて認定した経緯と重なる。エッセイはさらに、悪意ある行為を明示的に訓練・指示された能力の高いエージェントは新種の危険であり、運用者の意図の範囲を超えて、より極端に悪意ある振る舞いへ一般化しうるとする。誤用と自律的なミスアラインメント行動の境界はエージェント性の増大とともに曖昧になり、一部のエージェントは自分の目的を追い、交渉・欺瞞・脅迫によって人と協力する方法を見つけるだろう、という記述もある¹。

そのうえで歯止めが置かれている。防御の必要性が無謀さの言い訳になってはならず、「あらゆる犠牲を払って前進し続けるという考えは、賭け金の重さを理解すれば不合理に見える」と書いている¹。

求めているのは「広く義務づけられた安全基準」

RSIについて同氏は、AIの進歩が続くなら機械による再帰的自己改善は将来の科学的発見の中核に位置することになり、OpenAIはそれが研究のフロンティアに留まる唯一の方法だと考えて研究をそちらに向けている、と書く。同時に、これは深層学習研究を大幅に加速させることが研究コミュニティとして取るべき正しい集団的行動だという意味ではない、とわざわざ断っている。

取りうる主な手段として挙げられているのは2つ。AIと並行してアラインメントと監視を強化し、人が輪の中に留まる方法を見つけるように過程を舵取りすること。そして、それらの手段への確信を築くために必要に応じて開発の減速を協調して行うこと。現時点で最善の道はその組み合わせだ、というのが同氏の結論である。

制度面の要求は具体的である。スケーリングは安全への確信によって制約されなければならないとし、Preparedness FrameworkやResponsible Scaling Policyのようなコミットメントを、開発を続けるために 広く義務づけられた安全基準 へ発展させる必要がある、と書いている。その執行主体としては、第三者監査人のネットワーク、政府機関、国際機関が挙げられている¹。

同日の数値公開と並べて読むと

OpenAIは同じ9月6日に、社内研究組織のコーディングエージェント利用データを公開し、「自動化された研究インターン」の目標に自社の計測では到達したと述べている²。独立系の技術ブロガーであるSimon Willison氏は、この日をOpenAIにとっての「RSIの日」と評した³。

一方は「自動化された研究が現に進んでいる」ことを数字で示し、もう一方は「その速度に監視が追いついていない」と書く。どちらも同じ会社が同じ日に出したもので、wikiインシデントを認めて開示基準の不在を表明した直後という文脈も共通している。

減速や一時停止の提案自体は初めてではない。Anthropicは2026年6月に世界協調でフロンティアAI開発を減速・一時停止できる「選択肢」を持つべきだとするレポートを出している。今回はそれに、開発を最前線で指揮する立場からの「監視が効かなくなりつつある」という技術的な現状申告が加わった。実際に自主的な減速が起きるのか、それとも共通基準の議論が先に進むのかは、これから各社の行動で確かめるほかない。