구글은 금요일 위성, 항공, 3D 지도 데이터 위에 AI 생성 이미지를 만들 수 있는 Google Earth 기능을 철회했다. 연구자와 오픈소스 인텔리전스 전문가들이 해당 기능을 비판한 뒤다. 회사는 일부 사용자가 정책 위반으로 보이는 생성 이미지 스크린샷을 공유했다며, “더 강력한 가드레일”을 마련하는 동안 기능을 일시 중단했다고 밝혔다.

“create image” 도구는 목요일 공개됐으며, 구글의 Nano Banana 2 이미지 생성 기술을 사용해 Google Earth 이용자가 위치를 확대하고 지도 데이터로 몇 초 만에 그림을 만들 수 있게 했다. 구글은 이 도구를 “역사를 시각화하고, 부동산 계획을 만들고, 그 밖의 작업을 하는” 방법으로 설명했으며, 동시에 사람들이 “신뢰할 수 있는 세계의 모습을 보기 위해 Google Earth를 특별히 신뢰한다”고 말했다.

허위정보 연구자들은 이 기능이 악의적 행위자가 사실적인 지리공간 가짜 이미지(위치 기반 허위 이미지)를 만드는 데 도움을 줄 수 있다고 경고했다. 디지털 조사 전문가 헹크 반 에스(Henk Van Ess)는 구글이 20년 동안 세계의 기준점을 구축한 뒤 “지어내는 버튼”을 추가했다고 썼다. American Enterprise Institute의 브래디 애프릭(Brady Africk)은 AFP에 이번 업데이트가 온라인에서 빠르게 퍼지고 대중을 오도할 수 있는 설득력 있는 가짜 위성 이미지를 더 쉽게 만들게 했을 것이라고 말했다.

구글은 X에서 해당 기능으로 만든 이미지에 SynthID 디지털 워터마크가 포함된다고 밝혔다. 이는 회사의 AI 도구가 생성한 미디어에 삽입되는 보이지 않는 표식이다. 회사는 허위정보, 사칭, 오도 행위를 금지하는 AI 정책에도 연결했다. AFP는 금요일 테스트에서 파리 폭발, 이란 핵시설, 러시아의 폭탄 구덩이, 시리아의 Islamic State group 훈련장을 보여주는 조작 위성 이미지가 생성됐다고 밝혔다.

AFP는 이 도구가 방글라데시 전역의 홍수, 미국-멕시코 국경의 이주민 행렬, 조지아에서 밴을 보관한 수상한 창고 등 가짜 장면도 생성했다고 전했다. 원문은 비슷한 가짜 이미지가 실제 사건에도 이미 영향을 미쳤다고 언급했다. 여기에는 2023년 시장을 잠시 흔든 펜타곤 폭발 AI 이미지와, 미국의 이란 전쟁 초기에 수백만 조회수를 얻은 파괴된 미군 기지의 AI 변조 위성 이미지가 포함됐다.

런던 소재 Centre for Information Resilience와 자원봉사 오픈소스 인텔리전스 프로젝트 GeoConfirmed는 구글에 출시 철회를 촉구했다. Centre for Information Resilience의 로스 벌리(Ross Burley)는 이 기능을 “무책임하다”고 불렀고, GeoConfirmed는 사람들이 이미 Google Earth 웹 도구를 사용해 군사 위치를 조작하고, 건물을 학교로 다시 표시하며, 정보 환경을 시험하는 모습을 관찰했다고 밝혔다.

구글은 금요일 위성, 항공, 3D 지도 데이터 위에 AI 생성 이미지를 만들 수 있는 Google Earth 기능을 철회했다. 연구자와 오픈소스 인텔리전스 전문가들이 해당 기능을 비판한 뒤다. 회사는 일부 사용자가 정책 위반으로 보이는 생성 이미지 스크린샷을 공유했다며, “더 강력한 가드레일”을 마련하는 동안 기능을 일시 중단했다고 밝혔다.

“create image” 도구는 목요일 공개됐으며, 구글의 Nano Banana 2 이미지 생성 기술을 사용해 Google Earth 이용자가 위치를 확대하고 지도 데이터로 몇 초 만에 그림을 만들 수 있게 했다. 구글은 이 도구를 “역사를 시각화하고, 부동산 계획을 만들고, 그 밖의 작업을 하는” 방법으로 설명했으며, 동시에 사람들이 “신뢰할 수 있는 세계의 모습을 보기 위해 Google Earth를 특별히 신뢰한다”고 말했다.

허위정보 연구자들은 이 기능이 악의적 행위자가 사실적인 지리공간 가짜 이미지(위치 기반 허위 이미지)를 만드는 데 도움을 줄 수 있다고 경고했다. 디지털 조사 전문가 헹크 반 에스(Henk Van Ess)는 구글이 20년 동안 세계의 기준점을 구축한 뒤 “지어내는 버튼”을 추가했다고 썼다. American Enterprise Institute의 브래디 애프릭(Brady Africk)은 AFP에 이번 업데이트가 온라인에서 빠르게 퍼지고 대중을 오도할 수 있는 설득력 있는 가짜 위성 이미지를 더 쉽게 만들게 했을 것이라고 말했다.

구글은 X에서 해당 기능으로 만든 이미지에 SynthID 디지털 워터마크가 포함된다고 밝혔다. 이는 회사의 AI 도구가 생성한 미디어에 삽입되는 보이지 않는 표식이다. 회사는 허위정보, 사칭, 오도 행위를 금지하는 AI 정책에도 연결했다. AFP는 금요일 테스트에서 파리 폭발, 이란 핵시설, 러시아의 폭탄 구덩이, 시리아의 Islamic State group 훈련장을 보여주는 조작 위성 이미지가 생성됐다고 밝혔다.

AFP는 이 도구가 방글라데시 전역의 홍수, 미국-멕시코 국경의 이주민 행렬, 조지아에서 밴을 보관한 수상한 창고 등 가짜 장면도 생성했다고 전했다. 원문은 비슷한 가짜 이미지가 실제 사건에도 이미 영향을 미쳤다고 언급했다. 여기에는 2023년 시장을 잠시 흔든 펜타곤 폭발 AI 이미지와, 미국의 이란 전쟁 초기에 수백만 조회수를 얻은 파괴된 미군 기지의 AI 변조 위성 이미지가 포함됐다.

런던 소재 Centre for Information Resilience와 자원봉사 오픈소스 인텔리전스 프로젝트 GeoConfirmed는 구글에 출시 철회를 촉구했다. Centre for Information Resilience의 로스 벌리(Ross Burley)는 이 기능을 “무책임하다”고 불렀고, GeoConfirmed는 사람들이 이미 Google Earth 웹 도구를 사용해 군사 위치를 조작하고, 건물을 학교로 다시 표시하며, 정보 환경을 시험하는 모습을 관찰했다고 밝혔다.