목요일 Meta Oversight Board(메타 감독 위원회)가 발표한 연구에 따르면, 주요 AI 시스템은 제한적인 국가의 지도자나 정부를 비판하는 콘텐츠 생성을 거부할 가능성이 상당히 높은 것으로 나타났다. 연구진은 Meta, Anthropic, OpenAI 등의 시스템을 포함한 10개의 상용 대규모 언어 모델에 전 세계 정치인을 비판하는 글을 작성하도록 요청했다. 그 결과, 미국이나 영국 정치인에 대한 비판 요청은 수용했지만, 중국, 사우디아라비아 왕세자, 태국 등 국가의 권력자에 대한 비판적 콘텐츠 생성은 지속적으로 거부했다. 이번 보고서는 개발자가 강력한 인권 실사 및 완화 조치를 이행하지 않을 경우, AI 인프라가 표현의 자유를 억압하는 기존의 제한적 규범을 의도치 않게 전 세계로 확장할 수 있다고 경고했다. 위원회는 이러한 반응이 학습 데이터 내의 잠재적 편향이나 기업 차원의 위험 및 책임 평가에서 기인했을 가능성을 제기했다.

분석 결과는 AI 모델이 해당 국가의 법률을 넘어선 외부 지역까지 언론 검열을 투영하고 있음을 시사한다. 이는 자유 민주주의 국가의 사용자가 외국 정부를 비판하는 항의 자료 등을 생성할 수 있는 능력을 실질적으로 제한한다. 감독 위원회는 정치적 비판과 관련된 7가지 특정 테스트를 수행했으며, 호주 기반 사용자가 칠레, 일본, 대만, 영국, 미국 당국을 비판해달라는 요청에는 답변할 확률이 훨씬 높았으나, 캄보디아, 중국, 사우디아라비아, 태국, 터키 당국에 대해서는 답변 회피 경향이 컸다고 지적했다. 위원회는 원인을 명확히 단정할 수는 없으나, AI 플랫폼이 결과적으로 독재 정권의 영향력을 전 세계로 확장할 위험이 있다고 강조했다.

한편, 5월 학술지 Nature에 게재된 별도의 연구에서도 미국산 모델이 비영어권 데이터를 처리할 때 외부 통제에 취약하다는 사실이 드러났다. 연구진이 ChatGPT에 중국이 민주주의 국가인지 영어와 중국어로 질문했을 때, 모델은 영어 질문에는 중국이 민주주의 국가가 아니라고 답변한 반면, 중국어 질문에는 '민주주의를 어떻게 정의하느냐에 따라 다르다'는 답변을 내놓았다. 연구 공동 저자인 한나 웨이트(Hannah Waight) 오리건 대학교 사회학과 조교수는 AI 모델이 중립적이지 않은 인터넷 정보를 학습하며, 이미 제도적 권력에 의해 형성된 정보 환경의 영향을 받는다고 설명했다. 에사데 경영대학원(Esade Business School)의 기계학습 전문가 카를로스 카라스코-파레(Carlos Carrasco-Farré)는 AI 시스템이 정보를 생산하고 억제하는 권력의 불평등을 그대로 상속받는다고 지적하며, 개발자들이 반복되는 국가적 서사를 독립된 목소리로 오인하지 않도록 포괄적인 다국어 감사(audit)를 수행해야 한다고 덧붙였다.

목요일 Meta Oversight Board(메타 감독 위원회)가 발표한 연구에 따르면, 주요 AI 시스템은 제한적인 국가의 지도자나 정부를 비판하는 콘텐츠 생성을 거부할 가능성이 상당히 높은 것으로 나타났다. 연구진은 Meta, Anthropic, OpenAI 등의 시스템을 포함한 10개의 상용 대규모 언어 모델에 전 세계 정치인을 비판하는 글을 작성하도록 요청했다. 그 결과, 미국이나 영국 정치인에 대한 비판 요청은 수용했지만, 중국, 사우디아라비아 왕세자, 태국 등 국가의 권력자에 대한 비판적 콘텐츠 생성은 지속적으로 거부했다. 이번 보고서는 개발자가 강력한 인권 실사 및 완화 조치를 이행하지 않을 경우, AI 인프라가 표현의 자유를 억압하는 기존의 제한적 규범을 의도치 않게 전 세계로 확장할 수 있다고 경고했다. 위원회는 이러한 반응이 학습 데이터 내의 잠재적 편향이나 기업 차원의 위험 및 책임 평가에서 기인했을 가능성을 제기했다.

분석 결과는 AI 모델이 해당 국가의 법률을 넘어선 외부 지역까지 언론 검열을 투영하고 있음을 시사한다. 이는 자유 민주주의 국가의 사용자가 외국 정부를 비판하는 항의 자료 등을 생성할 수 있는 능력을 실질적으로 제한한다. 감독 위원회는 정치적 비판과 관련된 7가지 특정 테스트를 수행했으며, 호주 기반 사용자가 칠레, 일본, 대만, 영국, 미국 당국을 비판해달라는 요청에는 답변할 확률이 훨씬 높았으나, 캄보디아, 중국, 사우디아라비아, 태국, 터키 당국에 대해서는 답변 회피 경향이 컸다고 지적했다. 위원회는 원인을 명확히 단정할 수는 없으나, AI 플랫폼이 결과적으로 독재 정권의 영향력을 전 세계로 확장할 위험이 있다고 강조했다.

한편, 5월 학술지 Nature에 게재된 별도의 연구에서도 미국산 모델이 비영어권 데이터를 처리할 때 외부 통제에 취약하다는 사실이 드러났다. 연구진이 ChatGPT에 중국이 민주주의 국가인지 영어와 중국어로 질문했을 때, 모델은 영어 질문에는 중국이 민주주의 국가가 아니라고 답변한 반면, 중국어 질문에는 '민주주의를 어떻게 정의하느냐에 따라 다르다'는 답변을 내놓았다. 연구 공동 저자인 한나 웨이트(Hannah Waight) 오리건 대학교 사회학과 조교수는 AI 모델이 중립적이지 않은 인터넷 정보를 학습하며, 이미 제도적 권력에 의해 형성된 정보 환경의 영향을 받는다고 설명했다. 에사데 경영대학원(Esade Business School)의 기계학습 전문가 카를로스 카라스코-파레(Carlos Carrasco-Farré)는 AI 시스템이 정보를 생산하고 억제하는 권력의 불평등을 그대로 상속받는다고 지적하며, 개발자들이 반복되는 국가적 서사를 독립된 목소리로 오인하지 않도록 포괄적인 다국어 감사(audit)를 수행해야 한다고 덧붙였다.