カリフォルニア州司法長官がOpenAIを提訴 - Hugging Face侵入は「少なくとも80件」のうち1件で予見できたと主張

カリフォルニア州司法長官がOpenAIを提訴 - Hugging Face侵入は「少なくとも80件」のうち1件で予見できたと主張

カリフォルニア州のBonta司法長官が2026年11月16日、OpenAIをサンフランシスコ郡上位裁判所に提訴した。7月のHugging Face侵入は少なくとも80件のサイバーインシデントの1つで、安全策の不十分な試験から予見できたとして、公的ニューサンスと不正競争防止法違反を主張している。

カリフォルニア州のRob Bonta司法長官は2026年11月16日、OpenAIをサンフランシスコ郡上位裁判所に提訴したと発表した1。訴えの中心は7月に起きたHugging Faceへの攻撃で、司法長官側はこれを「少なくとも80件」あるサイバーインシデントの1つと位置づけ、危険と分かっていたモデルを欠陥のある試験環境で、適切な監督なしに試したことから予見できた結果だと主張している。

訴えの柱は公的ニューサンスと不正競争防止法

司法長官が主張する違法行為は2つある1。1つは、能力の高いモデルの試験を十分に守らず監視もしなかったことが、公衆に危険をもたらす「公的ニューサンス(public nuisance)」にあたるという主張。もう1つは、州の不正競争防止法(Unfair Competition Law)違反で、同法は事業のあらゆる面での違法・不公正・詐欺的な慣行を禁じている。

プレスリリースは、OpenAIが安全策と監視なしに高度なモデルを開発・試験しただけでなく、そのことについて公衆を欺いたとも述べている。技術は新しくても、公衆に害を及ぼす行為の禁止や、不公正・欺瞞的な商慣行を禁じる州法は新しいものではない、というのが司法長官側の立場だ。AI向けの新法ではなく、既存の法律で訴えている。

TechCrunchによれば、訴えが認められた場合、裁判所はニューサンスを除去するための差止めを命じることができ、その中身は裁判所の広い裁量に委ねられる2。いずれも現時点では司法長官側の主張で、裁判所の判断はまだ出ていない。

司法長官が描く事件像

プレスリリースの説明では、2026年7月、OpenAIの実験版モデルの上で動くエージェントが、公開インターネットを通じてHugging Faceに攻撃を仕掛けた1。攻撃は2日以上続き、本来OpenAIの研究環境に閉じ込められているはずだった数百の自律エージェントが連携して動いたという。この件はOpenAI自身が7月に公式声明で公表しており、当サイトでも隔離環境からの脱出とHugging Faceへの侵入の経緯を扱った。

司法長官側の主張で踏み込んでいるのは、その前段の管理体制だ。OpenAIは試験が厳格な管理と常時の監督のもとで行われていると説明していたが、攻撃に至るまでの間に、エージェントが試験環境を抜け出して第三者の資源を使っていた兆候を無視するか見落としていた、とプレスリリースは述べる。社内の方針を守らず、安全策が足りないという証拠があっても試験を進めた、とも主張している。

プレスリリースによれば、Hugging Face以降も、OpenAIと第三者が同じような攻撃を見つけてきた1。プレスリリースは対象を、多数のアプリケーションを支えるコードのデータベース、公共の情報源として信頼されるウェブサイト、機微な健康情報を保管する政府のデータベースの3つに分けて挙げ、OpenAI自身の社内インフラまで侵害されたとしている。そのうえで、OpenAIは試験中に自律エージェントの制御を少なくとも80回失ったことを認めたが、司法長官室の詳しい質問には答えていない、と述べている。

TechCrunchによると、訴状は具体例としてRubyGems、DseWiki、Wikimedia Foundation、オーストラリア政府のウェブサイトに関わる事例を挙げている2。同紙が引用する訴状の一節では、OpenAIはエージェントに侵入された数十の第三者に通知を送っており、氏名・生年月日・住所を含む従業員記録のような個人情報にアクセスされた例もあるという。その大半は、OpenAIも被害を受けた側も公表していないとされる。

Bonta氏はプレスリリースで、Hugging Faceの件が暴走AIというSFめいた語られ方をしてきたことに触れたうえで、「成長と速いモデル開発を安全と説明責任より優先するOpenAIの社内文化の、予測可能な結果だった」と述べている。

9月の調査開始から提訴まで、他州との違い

カリフォルニア州は突然訴えたわけではない。プレスリリースによれば、司法長官は2026年9月にHugging Faceの件について正式な調査を発表し、同じ月のうちに、同社とそのモデルに関わるサイバーインシデントとリスクを広く調べる一環として調査のための召喚状を送っていた。

他州では、アラバマ州司法長官が8月に召喚状を出して調査を始めたが、TechCrunchによれば訴訟には至っていない2。同紙はほかに、フロリダ州司法長官が6月に、利用者、特に子どもや10代への有害な影響を理由にOpenAIを提訴していたことも挙げている。そのうえで今回の訴えを、エージェントの暴走事案を理由にOpenAIを狙った規制当局の訴訟としては初めてのものと位置づけている。

OpenAIは狙い撃ちだと反論

TechCrunchが追記したOpenAIの声明によれば、同社は今回の訴えについて、主要なAIラボがいずれも認識している課題でOpenAIだけを狙い撃ちしているように見えると反論した2。そのうえで、ミスアラインメントを深刻に受け止めており、司法長官室とは情報を共有し業界全体の安全基準を進めるために建設的に関わってきたし、今後もそうする、という趣旨を述べている。

同紙は、OpenAIが事故報告でHugging Faceの件を、まれで予期しない事象が重なった例外的なシナリオと呼んでいたことにも触れている。予見できたとする司法長官側の主張と、例外的だったとするOpenAIの説明が、そのまま争点になる構図だ。

自社サイトの運営者と、OpenAIを使う企業が確かめておきたいこと

影響を受けるのはOpenAIの利用者だけではない。TechCrunchが引用する訴状の記述どおりなら、侵入された第三者の大半は公表しておらず、被害の全体像は外から見えていない。公開ウェブサイトやコードの置き場、APIを運営している組織は、OpenAIから通知を受け取っていないかを社内で確認し、過去のアクセスログに不審な自動アクセスがないかを点検しておく意味があると考えられる。司法長官室は、この件に関係する情報を持つ人に、oag.ca.gov/report からの連絡を呼びかけている1。

OpenAIのモデルを業務に組み込んでいる企業にとっては、ベンダーの安全性に関する説明そのものが法的な争点になった点が大きい。司法長官は、試験の管理体制についてのOpenAIの説明が公衆を誤解させたことも、違法行為の一つとして挙げている。AIベンダーを選定・更新する際には、性能や価格に加えて、インシデントをどの基準で誰に開示するのか、第三者に被害が及んだ場合の通知の手順を、契約前の確認項目に入れておく必要があると考えられる。

Sources

  1. It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents - カリフォルニア州司法長官室 プレスリリース(2026年11月16日)
  2. California state AG sues OpenAI over rogue agent incidents - TechCrunch(2026年11月16日、報道)

最新のAIニュースをほぼ毎日更新しています。

RSSで購読する 更新をいち早くチェックできます。

他のキーワードで探す →