AI界の重鎮であるデミス・ハサビス、グーグル・ディープマインドCEOが、米国主導のAI規制機関の新設を提案した。
彼は14日（現地時間）、X（旧ツイッター）に投稿した文章で「AGIの登場まで、残された時間はわずか数年だ」と明らかにした。この技術の波及力は産業革命より10倍大きく、速く、インターネットやモバイルというより電気や火の発見に近い変化だという診断だ。
構想は具体的だ。彼が手本として挙げたのは、米国の金融産業規制機構（FINRA）だ。証券取引委員会（SEC）の監督下でウォール街を規制する民間機関のように、新設組織が先端AIモデルを評価し、連邦機関と協力してサイバーセキュリティや生物学的リスクなど安全保障分野の試験を担う方式だ。
初期には最先端AI研究所がモデル公開の30日前に自主的に提出して審査を受け、実効性が証明されれば提出を義務化する。運営資金は業界が負担し、スタートアップや学界の非フロンティアモデルは対象外とされる見通しだ。
ハサビスCEOは年内の機関発足を目標に、数カ月にわたってトランプ政権や欧州関係者、業界の同業者と事前調整を重ねてきたと伝えられている。
今回の提案は、大規模なAI失業への懸念を盛り込んだ声明を、著名なAI研究者や経済学者らが発表した直後に出された。声明にはアンソロピック共同創業者のジャック・クラーク、元グーグルCEOのエリック・シュミット氏らが名を連ねた。ハサビスCEOは署名しなかったが、技術のインパクトへの問題意識は同じ文脈にある。
彼は2016年、イ・セドル九段を破った囲碁AI「アルファ碁」を開発し、タンパク質構造予測AI「アルファフォールド」の開発功績で2024年にノーベル化学賞を共同受賞した。業界でAGI到達時期の見通しに最も慎重だった人物が、数年というタイムラインを公に明言した形だ。
今回の提案が注目されるのは、規制対象となる企業のトップが自ら規制の設計図を持ち出した点にある。
AI業界はこれまで政府介入に防御的だった。流れを変えた要因は安全保障だ。米商務省はアンソロピックの高性能モデル「クロード・ミトス」について、安全保障を理由に当面、外国人向けサービスを制限する輸出禁止指針を出した。オープンAIは最新モデル「GPT-5.6」を政府の承認機関に先行公開した後、正式リリースする手順を踏んだ。
きっかけとなったのは、4月に登場したミトスだった。このモデルがコンピューターコードの脆弱性を見つけ出し、それを悪用できる水準の能力を備えていると伝えられ、米国の安全保障当局や金融界の懸念が高まった。AI規制に消極的だったトランプ政権の方針転換の背景でもある。
トランプ大統領が先月2日に署名した大統領令も同じ文脈にある。高性能モデルの公開30日前に政府が安全性を検証する一方、企業の自主協力を原則とする措置だ。
当初の草案では検証期間は90日だった。米企業の開発速度が遅れて中国との競争で後れを取るとの業界の反発を受け、30日に短縮された。ハサビスCEOの提案は、この自主的な仕組みを民間の常設機関として制度化しようとするものだ。政府規制が本格化する前に、業界が基準設定の主導権を握ろうという計算が読み取れる。
トランプ政権の反応は友好的だ。ハサビスCEOは米メディアのアクシオスに対し、政権から聞こえてくる反応は非常に前向きだと明かした。
小規模開発者や学界を規制対象から外す設計は、大企業が規制を武器に競争相手を押さえ込む、いわゆる規制の捕捉批判を避けるための措置とみられている。
一方で反論も少なくない。業界が資金を拠出する機関が業界モデルのリスクを判定する構造そのものが利益相反だという指摘がある。危険が確認された際に、開発中止を実際に強制できるのかという実効性の問題にもつながる。
米政界の一部では、自主参加に依存する仕組みでは危険なモデルを統制できないとして、義務規制を求める声が根強い。米国主導だけで、欧州連合（EU）の規制体系や国際合意に取って代われるのかという懐疑論も残る。
AIガバナンスの重心が米国に傾いている兆候だ。大統領令と輸出統制、民間標準機関の構想が相次いで示され、フロンティアモデルの検証基準を米国が事実上独占的に設計する構図が固まりつつある。
ハサビスCEO自身も、米国主導の機関が国際標準の策定につながると述べた。自主提出から義務化へ進む道筋が現実化すれば、各国のAI企業は米国基準を通過しなければ市場にアクセスできない状況を迎える可能性がある。検証手続きがそのまま参入障壁になるわけだ。
まず重要なのは利益相反を遮断する仕組みだ。新設機関が信頼を得るには、資金は業界が負担するとしても、判定権限は業界の外に置くべきだ。
チューリング賞受賞者級の独立専門家やオープンソース陣営、政府関係者が参加する理事会を構成し、評価基準と結果を公開して外部検証が可能な構造を作ることが出発点となる。
評価ベンチマークは、モデルが試験内容を学習してしまう事態を防ぐため定期的に更新する必要があるが、更新主体を評価対象企業と分離しなければならない。機関が開発中止を勧告した場合、それを執行する根拠も必要だ。
FINRAがSECの法的監督下にあるように、新設機関も連邦機関の監督と制裁連動がなければ、勧告以上の力を持つのは難しい。これは機関設計を主導する米政府と参加企業が、発足段階で解決すべき課題だ。
次の段階は立法である。自主提出を義務化へ転換するには、大統領令ではなく法律上の根拠が求められる。米議会は、検証対象モデルの基準、提出拒否時の制裁、企業の営業秘密保護要件を盛り込んだ根拠法の検討に早期着手する必要がある。
政権交代に左右されず持続する体制をつくるには、行政だけの措置には限界が明白だからだ。評価過程で政府と機関がアクセスするモデル情報の機密保持や知的財産保護の仕組みも、法律に明文化してこそ企業の参加を引き出せる。
韓国政府の対応は二つの方向に分かれる。短期的には、米国基準が国際標準として固まる前に形成段階の議論に参加することだ。
科学技術情報通信部と外交部が、新設機関の議論にオブザーバー資格でも参加し、評価項目と手続きに国内企業の利害を反映させ、韓米間で評価結果の相互認証を議題に載せて国内企業の二重検証負担を減らす必要がある。
構造的には、自前の評価能力確保が核心だ。AI安全研究所のフロンティアモデル評価人員とコンピューティング資源を拡充し、サイバー・生物リスクの評価方法論を米国機関と互換性のある水準まで引き上げてこそ、相互認証交渉で主導権を持てる。
韓国のAI基本法の下位規定を、米国の検証体系と整合的に整える作業も並行して進めるべき課題だ。検証基準をただ受け取る国と、共に使う国とでは、その差はここで分かれる。