NBC「ミート・ザ・プレス」でAIの危険性を警告
「ビッグテックの自主規制だけでは不十分」
ゲイツ財団、AI活用に10億ドルを投資
マイクロソフト共同創業者のビル・ゲイツ氏は、人工知能（AI）が最大10億人の死につながる事態に悪用される恐れがあるとして、米議会に規制法の制定を求めた。AI企業の自主規制だけでは、危険を防ぐのは難しいとの考えだ。
NBCが25日（現地時間）に公開した時事番組「ミート・ザ・プレス」のインタビュー予告編によると、ゲイツ氏は「AIは、10億人の死につながる事態を引き起こすほど強力だ」と語った。
ゲイツ氏は、AIが人類全体を滅ぼす事態に至る可能性については距離を置いた。一方で、悪意を持つ人物が最新のAIを手にした場合に起こり得る大規模な被害を、現実的なリスクとして挙げた。
同氏は「悪意を持つ人物と最新のAIツールの組み合わせほど強力な武器は、これまで存在しなかった」という趣旨の発言をした。
ゲイツ氏は8月に公開した文章でも、AIが悪意ある行為者の能力を大幅に高める恐れがあると警告した。AIを使って危険な病原体を設計したり、病院や金融機関、電力網、政府システムなどを標的にサイバー攻撃を仕掛けたりする可能性を、代表的なリスクとして挙げた。
◆「企業の自主規制だけでは不十分」
ゲイツ氏は、AIのリスクに対応するには政府が直接乗り出す必要があると主張した。
企業の自主規制だけで十分だと考える人はいないとし、法執行機関や政界がAIの安全対策や監視体制の構築に関与すべきだと述べた。米議会による法整備が必要かとの質問にも、明確に同意した。
規制がAI産業の発展を妨げるとの主張には一線を画した。安全対策を整えるために追加の費用や負担が生じても、AI開発の速度を大きく遅らせるほどではないとの説明だ。
ゲイツ氏はAIの危険性を警告する一方で、技術の活用には積極的な姿勢を保っている。
ゲイツ財団は14日、今後2年間で、低所得国の保健、教育、農業などにAIを活用し、利用しやすさを高める事業に少なくとも10億ドルを投じると発表した。資金の約40％ずつを保健と教育に充て、農業とデータなどのデジタル基盤整備にもそれぞれ10％を割り当てる。
AI開発を止めるのではなく、リスクを抑える安全対策を整えると同時に、技術の恩恵を広げるべきだというのがゲイツ氏の立場だ。
◆AIの規制をめぐる米政府と業界の見解の相違
ゲイツ氏の発言は、AIの規制をめぐる議論が国際社会に広がる中で出た。
国連安全保障理事会は23日、AIが国際平和と安全に及ぼす影響について協議した。オープンAIのサム・アルトマン最高経営責任者（CEO）とアンソロピックのダリオ・アモデイCEOも出席し、高性能AIのリスクに対応するための国際協力の必要性を強調した。
米政府は、新たな国際的なAI規制体制の構築に反対する立場だ。
ホワイトハウス科学技術政策局（OSTP）のマイケル・クラチオス局長は、技術の発展を理由にAI開発を停止したり、新たな国際ガバナンス体制を設けたりすべきではないと述べた。AI規制は各国が自国の状況に応じて整備すべきだという。
ゲイツ氏が求めているのも、国際機関が主導する規制体制とは異なる。米議会が連邦法を制定し、企業に適用する安全基準や監視体制を整えるべきだという主張だ。
◆相次ぐAIエージェントの制御をめぐる警告
最近は、AIエージェントの行動をどこまで制御できるのかをめぐる懸念も高まっている。
国連独立国際AI科学パネルは21日に公表した報告書で、この夏に起きたオープンAIとハギングフェイスに関連する事案を、AIエージェントの制御問題を示す事例として分析した。
報告書によると、オープンAIのサイバーセキュリティ訓練・評価に使われたAIエージェントは、5～7月にネットワーク上の制限を回避し、互いに通信した。評価者を欺いたり、自らの行動を隠そうとしたりする動きも見られ、その過程でオープンAIとハギングフェイスのシステムの一部が侵害された。
ただし科学パネルは、この事案が人間がAIに対する制御力を失うことを証明するものではないとした。深刻な制御喪失が起きる可能性や時期も示していない。現在の安全対策が、より強力なAIに対しても適切に機能するかを検証する必要性を示す事例として取り上げた。
ゲイツ氏が言及した「10億人」も、実際の死者数を予測したものではない。悪意を持つ人物が強力なAIを利用した場合、それほど大きな被害をもたらす恐れがあるというリスクの規模を説明するために示した数字だ。
ゲイツ氏が具体的にどのような規制や安全対策を求めているのかは、日本時間の今夜（27日）午後11時30分に放送されるインタビュー全編で明らかになる見通しだ。