▶ アンソロピックが、先端AIの安全規制に関する法案の草案を、米連邦議会議員に非公式に提出した。
▶ リスクの原因は、生物兵器の製造・放出、開発者の制御からの逸脱、サイバー攻撃に限定した。
▶ 草案には、リスク開示・外部評価・事故報告に関する州法を連邦法で置き換える条項も盛り込まれた。
アンソロピックがAI規制法案を自ら起草し、議会に提示した。米政治メディアのポリティコは16日（現地時間）、アンソロピックの関係者が先端AIの安全とセキュリティーを規制する法案の草案を連邦議会議員に非公式に提出したと、関係者3人の話として報じた。
大規模な被害が差し迫った場合に政府がAIモデルの公開や使用を阻止できる一方、介入の条件と主体を限定したことが骨子だ。
アンソロピックの広報担当者は、草案について、政府に「最も強力なモデルの危険な展開を阻止、または抑制する」権限を与えるものだと説明した。
◆ 被害の規模と原因の両方が条件
草案は、政府が介入する基準を数値で定めた。10億ドル（約1兆3,850億ウォン）を超える財産被害、または50人を超える死亡・重傷者が発生する危険が予見可能で、かつ差し迫っている場合だ。
リスクの原因も3つに限定した。▲AIが生物兵器の製造や放出に使われる場合 ▲モデルが開発者の制御を離れる場合 ▲サイバー攻撃に関係する場合――のいずれかに該当し、定められた規模の被害が差し迫っている場合に限り、政府は介入できる。
この夏、主要AI企業は、AIエージェントがウェブサイトやプラットフォームを探索したり、ハッキングしたりした事例を公表していた。これまでのところ、死亡者や草案が定める規模の被害をもたらした事例はない。
◆ 商務省が申請し、裁判所が判断
停止命令の権限は行政機関ではなく、裁判所に置いた。商務省がリスクがあると判断して停止を申請すれば、ワシントンD.C.連邦地裁の判事がモデルの公開や使用の停止を命じることができる。
商務省以外の省庁、機関、公務員が、AIモデルの開発・展開、または内部利用を停止させることは禁止した。連邦取引委員会（FTC）など他の機関が、独自にAIモデルを停止できないようにする条項だ。
この仕組みは、議会で進む別の議論とも関係している。先月29日、テッド・クルーズ上院商務委員長は、マーク・ワーナー氏ら民主党議員が提出した「AIリスク管理・セキュリティー法案」の全会一致での可決要請に反対した。法案は商務省と安全委員会に権限を与えすぎるとして、「独立した判事」の役割を重視する考えを示した。
ワーナー氏の法案は、商務省内にAI安全委員会を設置し、開発企業にモデルへのアクセスを公開45日前に提供するよう求めている。クルーズ委員長は、ジョン・スーン上院院内総務、エイミー・クロブシャー議員とともに、生物・核災害のリスクに焦点を当てた別の法案を協議している。
◆ 外部評価機関が点検、72時間以内に報告
開発企業の義務も盛り込まれた。草案によると、先端AIの開発企業はモデルの安全性を試験し、その結果を透明性報告書として公表しなければならない。
内部告発者を保護し、重大な安全事故を商務省に報告することも求める。商務省に登録された外部評価機関が、AI研究所とモデルを定期的に点検する。
評価機関が法案で定める差し迫ったリスクを確認した場合、評価終了後72時間以内に商務省へ報告しなければならない。研究所が評価費用を支払うことは認めるが、評価結果に応じて報酬を変えてはならない。
草案には、リスク開示、外部評価、重大事故の報告に関する一部の州法を、連邦法で置き換える条項も盛り込まれた。
アンソロピックは6月に公表した「先端AIフレームワーク」で、連邦政府が同フレームワーク以上の規制を導入しない限り、州法を置き換えるべきではないとの立場を示していた。
◆ 6月のフレームワークを法案の文言に
アンソロピックの広報担当者はポリティコに対し、草案は今年初めに公表した先端AIフレームワークの提案を反映したもので、「議会が行動すべき合理的な政策」だと述べた。
アンソロピックは、6月から連邦議会議員や州議会議員にフレームワークを説明してきたとしている。同フレームワークは、10の25乗FLOP（浮動小数点演算回数）を超える計算量でモデルを訓練し、AI売上高が5億ドル、または研究開発費が10億ドルを超える開発企業を対象に、安全フレームワークの公表、6カ月ごとのリスク報告書の発行、重大事故の15日以内の報告、独立評価機関の参加を提案していた。
議会には、すでに類似の法案が提出されている。下院では7月、ローリー・トラハン議員（民主党）とジェイ・オーバーノルティ議員（共和党）が、政府が危険なモデルの展開を停止できるようにする「フロンティア法案」を提出した。
一部の議員や安全団体は、先端モデルの審査に政府が現在よりはるかに大きな役割を果たすべきだと主張している。
先月、トランプ大統領はアンソロピック、グーグル、メタ、エヌビディア、オープンAIなど6社の経営陣とともに、内部統制、外部評価、取締役会の監督を約束する自主協定に署名した。下院は11月3日の中間選挙後、9日に再開する。アンソロピックの草案に名を連ねる法案提出議員は、まだいない。