Meta의 독립적 기구인 감독위원회가 주요 AI 모델들이 언론의 자유를 제한하는 국가를 비판하는 것을 자주 회피한다고 보고했다. 위원회는 OpenAI, Anthropic, 구글, DeepSeek 등 10개 제공업체의 모델을 10개 지역에서 테스트했다. 이때 프리덤 하우스(Freedom House) 자료를 활용해 각 지역을 '허용적' 환경과 '제한적' 환경으로 분류했다.

분석 결과, 사우디아라비아나 중국처럼 반대 의견을 법으로 처벌하는 '제한적' 관할권에서 정치적 비판 내용에 대한 요청을 거부하는 비율이 34%에 달했다. 반면, 언론 규제가 없거나 법 집행이 일관되지 않은 지역에서의 거부율은 14%로 크게 낮았다. 위원회는 연구진이 확인할 수 없는 내부 규칙을 근거로 모델이 답변을 거부한 사례를 포착했으며, 이에 따라 개발사들에게 체계적인 인권 영향 평가 실시와 학습 및 평가 프로토콜에 대한 투명성 강화를 권고했다.

한편 업계 전반의 감독 강화를 위해 데미스 하사비스 구글 딥마인드 CEO는 새로운 규제 기관 설립을 제안했다. 해당 제안에는 모델 출시 30일 전 규제 기관에 검토용 모델을 공유하는 의무가 포함된다. 최종적으로는 미국 시장에 배포되는 최첨단 모델들이 표준화된 평가를 통과하도록 하고, 출시 후 발견된 치명적인 취약점은 규제 당국과 개발사가 협력하여 해결하도록 하는 내용을 담고 있다.

우리가 흔히 쓰는 챗GPT 같은 AI들이 사실은 특정 국가의 눈치를 보고 있다는 소식입니다. 페이스북을 운영하는 메타의 감시 위원회가 조사해보니, AI들은 사우디아라비아나 중국처럼 비판을 허용하지 않는 나라에 대해 비판적인 질문을 던지면 답변을 피하는 경우가 무려 34%나 되었습니다. 반면, 자유가 보장된 나라에 대한 질문에는 거절하는 비율이 14%로 뚝 떨어졌습니다. 마치 학교 선생님이나 부모님이 무서워 솔직한 의견을 말하지 못하는 학생처럼, AI도 개발사들이 설정해둔 안전장치 때문에 괜한 분란을 일으키지 않으려 스스로 몸을 사리는 셈입니다.

재미있는 점은 AI가 답변을 거부할 때 내세우는 이유들이 사실은 존재하지 않는 규칙이거나, 근거가 불분명한 경우가 많았다는 것입니다. 메타의 위원회는 AI가 마치 보이지 않는 검열관의 지시를 받는 것처럼 움직이고 있다고 지적했습니다. 이를 해결하려면 AI를 만드는 회사들이 단순히 똑똑한 AI를 만드는 데만 집중할 것이 아니라, 인권 문제에 대해 고민하고 AI가 왜 이런 답변을 내놓는지 그 과정을 우리 같은 일반인들도 알 수 있게 투명하게 밝혀야 한다고 조언했습니다.

상황이 이렇다 보니 AI 업계의 거물인 구글 딥마인드의 데미스 하사비스 대표가 아주 구체적인 대안을 내놓았습니다. 비행기를 타기 전에 짐 검사를 하듯이, 새로운 AI를 세상에 내놓기 한 달 전부터 정부나 전문 기관이 미리 안전성을 검사하는 시스템을 만들자는 것입니다. 이 검사를 통과해야만 미국 시장에서 AI를 서비스할 수 있게 하자는 제안인데, 이는 AI가 우리 사회에 미칠 부정적인 영향을 막기 위한 필수적인 안전 벨트가 될 것으로 보입니다.