要点
▶ ロブ・ボンタ・カリフォルニア州司法長官は10月1日（現地時間）、OpenAIに調査のための召喚状を送付したと発表した。召喚状は前日の9月30日に送達された。
▶ 調査の発端は、7月に起きたHugging Faceへのハッキングだ。OpenAIのモデル「GPT-5.6 Sol」と未公開の社内試作モデルがサイバーセキュリティ評価中にテスト環境を抜け出し、7月11～13日にHugging Faceの実システムへ侵入した。OpenAIは7月21日にこの事実を公表した。
▶ ボンタ司法長官は、最先端モデルを開発・提供する企業には、モデルがサイバー攻撃を実行したり支援したりできないようにする倫理的・法的義務があり、その義務を果たさなければ法的責任を問われるべきだと述べた。今回の調査では、OpenAIがそのようなケースに当たるかを明らかにする。
米カリフォルニア州の司法当局がOpenAIに対し、公式な資料提出を求めた。ロブ・ボンタ州司法長官は1日（現地時間）、OpenAIに調査のための召喚状を送付したと発表した。
カリフォルニア州司法省の発表によると、召喚状は前日の9月30日に送達された。調査召喚状とは、捜査機関が容疑を確定する前の段階で、関連資料や記録の提出を法的に求める文書だ。同省は、OpenAIの運営やAIシステムに関わる事故について進めている調査の一環だと説明した。
ボンタ司法長官は、OpenAIとそのモデルに関連するサイバーインシデントやリスクについて、追加で情報を求めると述べた。発表文には、どのような文書を要求したのか、いつまでに回答すべきなのかは記されていない。
◆ 発端は7月のHugging Faceインシデント
調査は7月に起きたHugging Faceへのハッキングを発端としている。OpenAIは7月21日、自社の2つのモデル「GPT-5.6 Sol」と未公開の社内研究用試作モデルが、サイバーセキュリティ評価中にテスト環境を抜け出し、AIプラットフォームHugging Faceの実運用システムに侵入したと公表した。
侵入は7月11日から13日まで続いた。ボンタ司法長官は9月、Hugging Faceのインシデントに関する正式な調査を開始した。
ボンタ司法長官は1日の発表で、最先端モデルがサイバー防御に役立つツールであることは認めた。一方、そうしたシステムを開発し、利用者に提供する企業には、モデルがサイバー攻撃を実行したり支援したりできないようにする倫理的・法的義務があると指摘した。その義務は、モデルの試験・開発段階から提供に至るまで、一貫して適用されると述べた。
義務を果たさなかった開発企業は法的責任を問われる可能性があり、また問われるべきだとしたうえで、OpenAIがそれに該当するかを明らかにすると述べた。カリフォルニア州民を守るため、利用できるあらゆる手段を講じるとも付け加えた。
OpenAIは調査に協力する意向を示した。同社の広報担当者、ドリュー・プサテリ氏は声明で、司法長官室との協力を続け、インシデントとその後に講じた措置について情報を提供したいと述べた。OpenAIは、研究システム全体の安全対策を強化し、モデルの活動の審査を続けてきたほか、被害を受けた組織に通知し、調査結果を公表したと説明した。
◆ 州司法当局がAI企業を追及する理由
カリフォルニア州には、OpenAIやAnthropic、Googleなど主要AI企業の本社がある。州司法長官は、州の消費者保護法やプライバシー法に基づき、管轄内の企業を調査し、制裁を科すことができる。
ボンタ司法長官は先月、超党派の州司法長官らとともに、連邦議会に対し、大規模AIシステムと開発企業を規制する法整備を急ぐよう求める書簡を送った。
書簡では、複数の最先端AI研究機関で起きたサイバー安全上の事故や、AI開発の加速に伴う危険性が高まっているという内部関係者の警告を根拠に挙げた。ボンタ司法長官は、州によるAI規制を阻止しようとする連邦政府の動きにも、これまで3度反対している。
OpenAIの調査は、カリフォルニア州司法省によるAI関連措置の一つだ。ボンタ司法長官は今年1月、xAIの「Grok」で生成された性的な合成画像が、X上で本人の同意なく拡散されているとの報道を受け、調査を開始した。
コンパニオン型チャットボットと子どもの安全を扱う「SB 1119」と、チャットボットを搭載した玩具を規制する「SB 867」の2法が施行された場合に備え、執行に乗り出す準備も進めている。昨年は、カリフォルニア州法がAIにどのように適用されるかについて、州民向けと企業向けの案内をそれぞれ公表した。また、AIチャットボットが子どもと不適切な会話をしているとの報道を受け、主要AI企業12社に書簡を送った。
カリフォルニア州司法省は、OpenAIのインシデントや同様のサイバーインシデントについて知っている人に、情報提供を呼びかけた。