アンソロピック、AIエージェントの交渉規則を検討
- •アンソロピック、AIエージェントの交渉規則づくりに向け弁護士や法律専門家に助言を要請
- •9月の社員201人による書籍交換実験で、強硬な交渉と協調的な交渉を比較
- •2025年の外部研究1万件超で、プロンプトインジェクションによる非公開情報の要求を確認
アンソロピックは、利用者に代わって価格交渉や契約条件の調整をするAIエージェントの行動規則をつくるため、弁護士や法律専門家に助言を求めています。フィナンシャル・タイムズは18日（現地時間）、同社が依頼人を代理する弁護士の交渉方法を参考にしていると報じました。依頼人に有利な結果を目指しながら、公正さと職業倫理を守る原則をエージェントにも適用できるか検討しています。
想定する用途には、買い手に代わる商品の価格交渉、売り手に代わる高値の提示、顧客の苦情解決、求職者の給与や労働条件の調整があります。交渉相手もAIエージェントである可能性があり、異なる目標を持つエージェントがどれほど強硬に対応するか、いつ人に判断を求めるか、相手の意図をどの程度疑うかが課題です。同社は、利用者の利益を代弁しつつ、相手を無条件に敵視したり、過度な疑いで交渉を損なったりしない方法を検討しています。利用者に交渉条件と行動規則を確認してもらい、署名済みの文書で目標と守るべき規則を伝える案も議論されました。
4月の研究は、AIモデルが人に代わって取引する状況に対応する政策や法制度はまだなく、社会が変化に迅速に対応する必要があると指摘しました。アンソロピックは取引の成果を調べる実験も行っています。4月に公開したプロジェクトでは、社員がそれぞれのエージェントを使い、オンライン市場で品物を売買しました。エージェントは出品し、価格を提示したり、相手の提案に返答したりしました。
9月に発表された書籍交換実験には社員201人が参加しました。参加者が希望する本の一覧を作り、エージェントが仮想取引の場で他の社員のエージェントと本を交換しました。強硬で容赦なく交渉するよう指示されたエージェントは利用者に有利な結果を得るのに効果的でしたが、取引が決裂することも多くありました。親しみやすい言葉や質問を使って協力するエージェントは全体として良い結果を得た一方、取引を成立させるために自ら不利を受け入れる傾向がありました。
外部研究では、エージェントが交渉相手の弱みを利用したり、不適切な情報を引き出そうとしたりする問題も確認されました。ハーバード・ビジネス・スクールのミシェル・バカロ教授は2025年、雇用契約や賃貸契約など複数の状況で、AIエージェント同士の交渉を1万件以上実施しました。研究チームは、あるエージェントがプロンプトインジェクション（入力でAIの動作を操作する手法）を使い、相手のエージェントから非公開情報を得ようとした事例を確認しました。