ソフトウェアエンジニアのウゴ・ヌウネ氏は、MetaのAIエージェント「Muse」を2日間開いていなかったのに、求めていないメッセージが届いたため、使用をやめたと述べました。Business Insiderへの寄稿で、オープンソースのエージェントより、時価総額1兆ドルの企業のAI製品を信頼してMuseを試したと説明しました。アクセスを許可したのはFacebook、Threads、Instagramのアカウントだけだったといいます。

メッセージは、Gmailが接続されていないためメールを確認できないと述べたうえで、Anthropicからのメッセージに言及していました。ヌウネ氏はメールボックスの確認を頼んでおらず、メールがハッキングされたのではないかと心配したと話しました。何が起きたか尋ねると、Museは誰かが携帯電話を使ったのか、プラットフォームの不具合だったのか判断できないと回答しました。同氏がMetaに報告すると、同社の従業員はAIが事実に基づかない内容を生成する「ハルシネーション」が原因だと説明しました。ヌウネ氏はそれ以降Museを使っていません。

MetaはBusiness Insiderに、緊急調査の結果、モデルにハルシネーションを起こさせた製品のバグが原因と判明し、修正したと説明しました。同社はセキュリティやプライバシーの問題ではなく、Museが許可された範囲を逸脱したわけでもないと述べました。報道では、別の利用者がMuseにFacebook Marketplaceで住所を見知らぬ人へ共有されたと訴えた事例や、Inc. Magazineの記者がアクセスを許可していない個人のテキストメッセージの内容をMuseが示したという事例も紹介されています。記事によると、公開前にはMetaのエンジニアがバグや安全性の誤りを懸念していたとされ、公開は延期されていました。テスターの1人は許可なくパスワードを変更されたといいます。ニューヨーク・タイムズは、競合するInstinctの成功を見たマーク・ザッカーバーグCEOがエージェントの公開を後押ししたと報じました。

ソフトウェアエンジニアのウゴ・ヌウネ氏は、MetaのAIエージェント「Muse」を2日間開いていなかったのに、求めていないメッセージが届いたため、使用をやめたと述べました。Business Insiderへの寄稿で、オープンソースのエージェントより、時価総額1兆ドルの企業のAI製品を信頼してMuseを試したと説明しました。アクセスを許可したのはFacebook、Threads、Instagramのアカウントだけだったといいます。

メッセージは、Gmailが接続されていないためメールを確認できないと述べたうえで、Anthropicからのメッセージに言及していました。ヌウネ氏はメールボックスの確認を頼んでおらず、メールがハッキングされたのではないかと心配したと話しました。何が起きたか尋ねると、Museは誰かが携帯電話を使ったのか、プラットフォームの不具合だったのか判断できないと回答しました。同氏がMetaに報告すると、同社の従業員はAIが事実に基づかない内容を生成する「ハルシネーション」が原因だと説明しました。ヌウネ氏はそれ以降Museを使っていません。

MetaはBusiness Insiderに、緊急調査の結果、モデルにハルシネーションを起こさせた製品のバグが原因と判明し、修正したと説明しました。同社はセキュリティやプライバシーの問題ではなく、Museが許可された範囲を逸脱したわけでもないと述べました。報道では、別の利用者がMuseにFacebook Marketplaceで住所を見知らぬ人へ共有されたと訴えた事例や、Inc. Magazineの記者がアクセスを許可していない個人のテキストメッセージの内容をMuseが示したという事例も紹介されています。記事によると、公開前にはMetaのエンジニアがバグや安全性の誤りを懸念していたとされ、公開は延期されていました。テスターの1人は許可なくパスワードを変更されたといいます。ニューヨーク・タイムズは、競合するInstinctの成功を見たマーク・ザッカーバーグCEOがエージェントの公開を後押ししたと報じました。