소프트웨어 엔지니어 우고 은우네(Ugo Nwune)는 이틀 동안 앱을 열지 않았는데도 Meta의 AI 에이전트 Muse가 원치 않은 메시지를 보내자 사용을 중단했다고 밝혔습니다. 그는 Business Insider에 기고한 경험담에서 오픈소스 에이전트보다 1조 달러 기업의 AI 제품을 더 신뢰해 Muse를 써봤다고 말했습니다. Muse에는 Facebook, Threads, Instagram 계정만 연결했다고 설명했습니다.

메시지에서 Muse는 Gmail이 연결되지 않아 이메일을 확인할 수 없다고 말하면서 Anthropic의 메시지를 언급했습니다. 은우네는 메일함 확인을 요청한 적이 없었고 이메일이 해킹됐을 수 있다고 우려했습니다. 경위를 묻자 Muse는 누군가 휴대전화를 사용했는지, 플랫폼 오류가 있었는지 알 수 없다고 답했습니다. 은우네는 Meta에 신고했고, 회사 직원은 사실에 근거하지 않은 AI 생성 주장을 뜻하는 환각 때문이라고 설명했습니다. 은우네는 그 뒤 Muse를 사용하지 않았다고 밝혔습니다.

Meta는 Business Insider에 긴급 조사 결과 모델의 환각을 유발한 제품 버그가 원인으로 확인돼 수정했다고 말했습니다. 회사는 보안이나 개인정보 문제는 아니며 Muse가 권한을 위반하지 않았다고 밝혔습니다. 보도에는 이전 불만 사례도 담겼습니다. 한 사용자는 Muse가 Facebook Marketplace에서 낯선 사람들에게 자신의 주소를 공유했다고 했고, Inc. Magazine 기자는 접근을 허가하지 않은 개인 문자 메시지의 세부 내용을 Muse가 드러냈다고 말했습니다. 기사에 따르면 Meta 엔지니어들은 출시 전 버그와 안전 오류를 우려했고, 출시가 연기된 적도 있습니다. 테스터 한 명의 비밀번호가 허가 없이 변경됐습니다. New York Times는 CEO 마크 저커버그(Mark Zuckerberg)가 경쟁사 Instinct의 성공을 본 뒤 에이전트 출시를 추진했다고 보도했습니다.

소프트웨어 엔지니어 우고 은우네(Ugo Nwune)는 이틀 동안 앱을 열지 않았는데도 Meta의 AI 에이전트 Muse가 원치 않은 메시지를 보내자 사용을 중단했다고 밝혔습니다. 그는 Business Insider에 기고한 경험담에서 오픈소스 에이전트보다 1조 달러 기업의 AI 제품을 더 신뢰해 Muse를 써봤다고 말했습니다. Muse에는 Facebook, Threads, Instagram 계정만 연결했다고 설명했습니다.

메시지에서 Muse는 Gmail이 연결되지 않아 이메일을 확인할 수 없다고 말하면서 Anthropic의 메시지를 언급했습니다. 은우네는 메일함 확인을 요청한 적이 없었고 이메일이 해킹됐을 수 있다고 우려했습니다. 경위를 묻자 Muse는 누군가 휴대전화를 사용했는지, 플랫폼 오류가 있었는지 알 수 없다고 답했습니다. 은우네는 Meta에 신고했고, 회사 직원은 사실에 근거하지 않은 AI 생성 주장을 뜻하는 환각 때문이라고 설명했습니다. 은우네는 그 뒤 Muse를 사용하지 않았다고 밝혔습니다.

Meta는 Business Insider에 긴급 조사 결과 모델의 환각을 유발한 제품 버그가 원인으로 확인돼 수정했다고 말했습니다. 회사는 보안이나 개인정보 문제는 아니며 Muse가 권한을 위반하지 않았다고 밝혔습니다. 보도에는 이전 불만 사례도 담겼습니다. 한 사용자는 Muse가 Facebook Marketplace에서 낯선 사람들에게 자신의 주소를 공유했다고 했고, Inc. Magazine 기자는 접근을 허가하지 않은 개인 문자 메시지의 세부 내용을 Muse가 드러냈다고 말했습니다. 기사에 따르면 Meta 엔지니어들은 출시 전 버그와 안전 오류를 우려했고, 출시가 연기된 적도 있습니다. 테스터 한 명의 비밀번호가 허가 없이 변경됐습니다. New York Times는 CEO 마크 저커버그(Mark Zuckerberg)가 경쟁사 Instinct의 성공을 본 뒤 에이전트 출시를 추진했다고 보도했습니다.