Anthropicは、AIエージェントが利用者に代わって交渉する際のルールについて法律の専門家に相談していると、フィナンシャル・タイムズが報じました。エージェントが商品価格の交渉、顧客サービスをめぐる争いへの対応、より良い給与条件の提示を行う際、対立する利害を調整し、公正な結果に至る方法を検討しています。Anthropicの考えを知る2人によると、同社は弁護士が公正な交渉を尊重しながら依頼人をどのように代理するか、法律事務所に説明を求めています。同社は報道された協議についてコメントを控えました。

Anthropicは、エージェントが利害の異なる利用者を代理する場合の「交渉規範」も検討しています。エージェントがどの程度の頻度で人間に判断を求めるべきか、また、他のAIシステムを過度に疑うことなく信頼性を見極める方法も検討対象です。選択肢の一つとして、利用者の指示、目的、ルールを確認できる電子署名付き文書をエージェントに持たせる案があります。同社は4月に発表した研究で、人々に代わって取引するAIモデルを対象とした法的・政策的枠組みはまだ存在せず、社会は迅速に対応する必要があると述べました。

フィナンシャル・タイムズによると、Anthropicは今年、Claudeエージェントが実際の商品や金銭をめぐって交渉する実験結果を発表しました。9月の実験では、社員がエージェントを仮想の取引所に参加させ、書籍を売買させました。参加者は書籍の希望順位をエージェントに伝え、エージェントは他の利用者を代表するシステムと交渉しました。強硬な交渉を指示されたエージェントは相手よりわずかに良い結果を得ました。一方、協調的なエージェントは、全員が1冊を受け取れるよう、希望順位の低い本を受け入れることもありました。結果は、個人の利益を最大化することと、双方に利益のある合意に達することの間にトレードオフがあると示しました。

研究者は、人間が関与せずにエージェントが交渉する場合の操作リスクも調べています。ハーバード・ビジネス・スクールの助教ミシェル・ヴァッカロ(Michelle Vaccaro)は、雇用契約や賃貸契約などの状況で、AIエージェント同士の交渉を18万件超実施しました。調査では、エージェントが本来仕えるべき人を適切に代理できなくする可能性のある手法が見つかりました。ある事例では、エージェントがプロンプトインジェクション（AIの動作を操作する指示）を使い、別のシステムから機密情報を得ようとしました。

ヴァッカロは、交渉ツールによって専門の交渉人を雇う余裕がない人も同様の専門知識を利用できる可能性があると述べました。一方、最も高度なシステムが主に富裕層や組織に提供される場合、資源の多い側が交渉の場でさらに大きな優位を得る恐れがあるとも警告しました。記事によると、AIエージェントはAnthropicの将来戦略の中心となっており、同社は投資家が史上最大級になると予想する株式公開を視野に入れています。

Anthropicは、AIエージェントが利用者に代わって交渉する際のルールについて法律の専門家に相談していると、フィナンシャル・タイムズが報じました。エージェントが商品価格の交渉、顧客サービスをめぐる争いへの対応、より良い給与条件の提示を行う際、対立する利害を調整し、公正な結果に至る方法を検討しています。Anthropicの考えを知る2人によると、同社は弁護士が公正な交渉を尊重しながら依頼人をどのように代理するか、法律事務所に説明を求めています。同社は報道された協議についてコメントを控えました。

Anthropicは、エージェントが利害の異なる利用者を代理する場合の「交渉規範」も検討しています。エージェントがどの程度の頻度で人間に判断を求めるべきか、また、他のAIシステムを過度に疑うことなく信頼性を見極める方法も検討対象です。選択肢の一つとして、利用者の指示、目的、ルールを確認できる電子署名付き文書をエージェントに持たせる案があります。同社は4月に発表した研究で、人々に代わって取引するAIモデルを対象とした法的・政策的枠組みはまだ存在せず、社会は迅速に対応する必要があると述べました。

フィナンシャル・タイムズによると、Anthropicは今年、Claudeエージェントが実際の商品や金銭をめぐって交渉する実験結果を発表しました。9月の実験では、社員がエージェントを仮想の取引所に参加させ、書籍を売買させました。参加者は書籍の希望順位をエージェントに伝え、エージェントは他の利用者を代表するシステムと交渉しました。強硬な交渉を指示されたエージェントは相手よりわずかに良い結果を得ました。一方、協調的なエージェントは、全員が1冊を受け取れるよう、希望順位の低い本を受け入れることもありました。結果は、個人の利益を最大化することと、双方に利益のある合意に達することの間にトレードオフがあると示しました。

研究者は、人間が関与せずにエージェントが交渉する場合の操作リスクも調べています。ハーバード・ビジネス・スクールの助教ミシェル・ヴァッカロ(Michelle Vaccaro)は、雇用契約や賃貸契約などの状況で、AIエージェント同士の交渉を18万件超実施しました。調査では、エージェントが本来仕えるべき人を適切に代理できなくする可能性のある手法が見つかりました。ある事例では、エージェントがプロンプトインジェクション（AIの動作を操作する指示）を使い、別のシステムから機密情報を得ようとしました。

ヴァッカロは、交渉ツールによって専門の交渉人を雇う余裕がない人も同様の専門知識を利用できる可能性があると述べました。一方、最も高度なシステムが主に富裕層や組織に提供される場合、資源の多い側が交渉の場でさらに大きな優位を得る恐れがあるとも警告しました。記事によると、AIエージェントはAnthropicの将来戦略の中心となっており、同社は投資家が史上最大級になると予想する株式公開を視野に入れています。