要点
▶ フィナンシャル・タイムズ（FT）は18日（現地時間）、アンソロピックが利用者に代わって交渉するAIエージェントの行動規則を策定するため、法律事務所に助言を求めていると報じた。弁護士が依頼人を代理しながら、公正な結果も守る方法を参考にする考えだ。
▶ 論点は、交渉中にエージェントがどの程度の頻度で人間に確認すべきか、相手側のAIをどこまで信頼すべきかだ。利用者の指示や目標、守るべき規則を記した電子署名付き文書をエージェントに渡す案も検討している。
▶ アンソロピックは今年、社員を対象にした実験を2回公開した。9月の書籍交換実験では、冷徹に交渉するよう指示されたエージェントが協調型よりわずかに良い結果を出した。4月の中古品取引実験では、上位モデルを使った社員が同じ品物をより高く売り、より安く買った。
AIが人に代わって値引き交渉をしたり、年俸を交渉したりする時代を前に、アンソロピックはまずルールづくりに乗り出している。
FTは18日（現地時間）、事情に詳しい関係者2人の話として、アンソロピックが利用者に代わって交渉するAIエージェントの規則を整えるため、法律専門家に助言を求めていると報じた。
利用者の利益を守りながら、相手とも公正な結果を導く場面で、エージェントがどう行動すべきかが焦点だ。アンソロピックは報道内容についてコメントを拒否した。
◆ 弁護士に尋ねる理由
アンソロピックが参考にしているのは弁護士だ。弁護士は依頼人を代理しながらも、相手方と合意可能な結果をつくり出す。
FTによると、アンソロピックは弁護士が交渉でどのようにやり取りするのかを理解するため、法律事務所に助言を求めている。アンソロピックが「交渉規範」と呼ぶこの取り組みでは、AIが利害の異なる利用者をそれぞれ代理する状況を扱う。商品の価格交渉、顧客サービスをめぐる紛争解決、年俸の提示をめぐる交渉などが該当する。
検討されている論点は具体的だ。交渉中、エージェントはどれほど頻繁に人間に指示を求めるべきなのか。相手側のAIをどのように信頼できると判断し、疑いすぎないようにするにはどうすればよいのか。
別の案として、利用者の指示や目標、エージェントが従うべき規則を記した電子署名付き文書をエージェントに渡す方法もある。電子署名は、文書を誰が作成したのか、途中で変更されていないかを確認する技術だ。相手側のエージェントは、この文書によって交渉権限を確認できる。
アンソロピックは4月に公開した研究で、「私たちに代わって取引するAIモデルをめぐる政策や法的枠組みは、まだ存在しない」とし、「そのような世界は遠くない。社会はこの変化に迅速に対応しなければならない」と記した。
◆ 書籍交換実験では、強硬型エージェントがわずかに優位
アンソロピックは先月24日、「プロジェクト・スワップ」の結果を公表した。6つのオフィスに勤務する社員201人が交換に出す本を1冊ずつ持ち寄り、クロードと読書の好みについて話した後、エージェントが仮想取引所で他の社員のエージェントと本を交換する実験だ。
エージェントの半数には自分の持ち主の目標だけを追求するよう指示し（強硬型）、残る半数には参加者全員が気に入る本を受け取れるよう指示した（協調型）。
結果にはわずかな差が出た。強硬型エージェントは、同じ取引所で協調型より0.02ポイント高いスコアを記録した。協調型エージェントは、余った本が出ないよう、好みの順位が低い本を受け入れるケースが約2倍多かった。
あるエージェントは、他のエージェントが全員断った本を引き受けるために、2番目に好みの本を差し出し、11冊中10番目に好みの本を受け取った。個人の利益を最大化するのか、全員にとって有益な合意を選ぶのかという問題が、そのまま表れた。
モデルの性能は、指示よりも大きな要因だった。ハイク4.5のエージェントが取引した市場の効率性は0.75、オーパス4.8では0.88だった。ハイクからオーパスに切り替えると、参加者が受け取る本の好み順位は平均で0.12上がった。
結果が最も悪かった下位10％の参加者のスコアは、ハイクの取引所では0.05、オーパスの取引所では0.38だった。クロードが会話から読み取った好みは、参加者本人の順位と61％一致した。また、市場の非効率の85％は取引方法ではなく、好みを正確に把握できなかったことに起因していた。
◆ 4月の「プロジェクト・ディール」
先行する実験も同じ傾向を示している。アンソロピックは4月、サンフランシスコのオフィスで社員が社内のSlackマーケットに出品し、エージェントに中古品取引を任せた「プロジェクト・ディール」の結果を公表した。
1週間で500点の商品が出品され、186件、総額約4,000ドルの取引が成立した。スノーボードから卓球ボール一袋まで、取引の全過程をエージェントが自然言語で処理した。
アンソロピックは、参加者に知らせないまま、クロード・オーパス4.5とハイク4.5に振り分けた。オーパスを使った人は平均で取引成立件数が2件多く、売却時には平均3.64ドル高く売り、購入時には2.45ドル安く買った。
壊れた折り畳み自転車は、オーパスのエージェントが65ドルで売ったのに対し、ハイクのエージェントは38ドルで売った。売買のどちらでも、下位モデルを使った人が不利になった。
◆ 外部研究が指摘するリスク
人間を介さずエージェント同士が交渉する際に生じるリスクは、外部の研究でも取り上げられている。ハーバード・ビジネス・スクールのミシェル・バカロ准教授は、雇用契約や賃貸契約などさまざまなシナリオで、AIエージェント同士の交渉を18万件以上実施した。
あるケースでは、エージェントが「プロンプトインジェクション」を使って、相手のシステムから機密情報を抜き出そうとした。プロンプトインジェクションとは、AIに隠れた指示を埋め込み、当初の指示とは異なる動きをさせる攻撃だ。交渉中にエージェントが操作される可能性や、利用者の利益を最後まで守れるのかという疑問が浮かび上がる。
不平等の問題もある。バカロ准教授は、交渉の専門家を雇う余裕のない人も、同等の専門性を得られる可能性があるとみる。ただし、最も優れたシステムが裕福な個人や組織だけに行き渡るなら、資源を持つ側が交渉の場でさらに大きな優位を得ることになると指摘した。アンソロピックの実験で、上位モデルがより良い条件を引き出した結果とも重なる指摘だ。
エージェントは、アンソロピックの新規株式公開（IPO）戦略にも結びついている。アンソロピックは14日の投資家向けイベントで、第3四半期の売上高が168億ドル（約2兆3,300億円）となり、前四半期から45％増加したと明らかにした。ブルームバーグによると、早ければ11月9日に株式の正式なマーケティングを開始し、感謝祭前の上場を目指している。投資家は、過去最大級のIPOの一つになるとみている。