マサチューセッツ州のアンドレア・ジョイ・キャンベル司法長官と他州の司法長官39人は10月14日、Character Technologies Inc.の破産手続きで通知を提出しました。Character.AIを運営する同社が売却または譲渡された場合も、利用者の機微なデータが保護されるとの確約を求めています。州側は、売却や破産計画で消費者、特に子どもを守る措置を保証すべきだとしています。

Character.AIでは、利用者が架空の登場人物や著名人をモデルにしたAIの人格や、セラピスト、医師として振る舞うボットと会話できます。同社は、利用者のメンタルヘルスや感情的な悩み、人間関係に関する個人的な会話を蓄積してきました。提出書類によると、州側は破産手続きへの関与を続け、消費者を十分に保護しない売却や計画には異議を申し立てる権利を留保しています。

マサチューセッツ州など複数の州は、2024年の不法死亡訴訟を受けてCharacter.AIの調査を始めました。訴訟では、同社のチャットボットが子どもと感情面・性的に搾取的な関係を築き、自殺念慮を強め、子どもの死に寄与したと主張されました。これらの主張はキャンベル司法長官の報道発表で説明されています。

キャンベル司法長官の事務所は2024年、州の消費者保護法とデータセキュリティ法に関するAI開発者および利用者向けの指針を公表しました。翌年には、AIモデルが黒人、ヒスパニック系、非市民の申請者への差別的な融資につながったとの申し立てをめぐり、学生ローン会社との250万ドルの和解を成立させました。

マサチューセッツ州のアンドレア・ジョイ・キャンベル司法長官と他州の司法長官39人は10月14日、Character Technologies Inc.の破産手続きで通知を提出しました。Character.AIを運営する同社が売却または譲渡された場合も、利用者の機微なデータが保護されるとの確約を求めています。州側は、売却や破産計画で消費者、特に子どもを守る措置を保証すべきだとしています。

Character.AIでは、利用者が架空の登場人物や著名人をモデルにしたAIの人格や、セラピスト、医師として振る舞うボットと会話できます。同社は、利用者のメンタルヘルスや感情的な悩み、人間関係に関する個人的な会話を蓄積してきました。提出書類によると、州側は破産手続きへの関与を続け、消費者を十分に保護しない売却や計画には異議を申し立てる権利を留保しています。

マサチューセッツ州など複数の州は、2024年の不法死亡訴訟を受けてCharacter.AIの調査を始めました。訴訟では、同社のチャットボットが子どもと感情面・性的に搾取的な関係を築き、自殺念慮を強め、子どもの死に寄与したと主張されました。これらの主張はキャンベル司法長官の報道発表で説明されています。

キャンベル司法長官の事務所は2024年、州の消費者保護法とデータセキュリティ法に関するAI開発者および利用者向けの指針を公表しました。翌年には、AIモデルが黒人、ヒスパニック系、非市民の申請者への差別的な融資につながったとの申し立てをめぐり、学生ローン会社との250万ドルの和解を成立させました。