OpenAI, Anthropic, 구글의 DeepMind, Meta, 마이크로소프트 등 주요 인공지능 기업의 리더들이 미국 의회에 AI를 이용한 생화학 무기 개발 위험을 해결할 것을 요청했다. 샘 알트먼(Sam Altman), 다리오 아모데이(Dario Amodei), 데미스 하사비스(Demis Hassabis)와 같은 업계 주요 인사들은 현재의 시스템이 독립적으로 생물학적 작용제를 생성할 수준은 아니라고 지적했다. 다만, 향후 모델들이 위험한 병원균을 합성하려는 이들에게 기술적 문턱을 낮출 가능성에 대해 경고했다.

월스트리트저널 보도에 따르면 이번 우려는 점점 더 고도화되는 AI 시스템이 악의적인 사용자의 조력자 역할을 할 수 있다는 점에 집중된다. AI는 복잡한 과학 문헌을 분석하고, 위험한 생물학적 경로를 식별하며, 과거에는 전문적인 교육이 필요했던 기술적인 연구 질문에 대한 답변을 제공함으로써 위협을 가중할 수 있다. 생물학 데이터베이스, 연구 도구, 논문이 온라인상에 방대하게 공개되면서 AI는 이러한 파편화된 정보를 위험한 지식으로 통합하는 과정을 단순화할 수 있다.

업계 리더들은 현재 사용 가능한 챗봇이 아닌, 미래의 발전된 AI 역량에 초점을 맞춰야 한다고 강조한다. AI의 추론 및 분석 능력이 향상됨에 따라 기존에 민감한 생물학 정보를 보호하던 전문성 장벽이 허물어질 수 있다는 지적이다. 이를 위해 기업들은 포괄적인 AI 규제 대신, 합성 DNA와 RNA 주문에 대한 의무적 검증을 제안했다. 유전 물질을 제조하는 기업이 고객 신원을 확인하고 주문 내용을 생산 전에 검토해야 한다는 방안이다. 경쟁적인 업계 상황 속에서도 이들은 위기 발생 전 정부의 선제적 조치가 필수적이라는 데 뜻을 모았다.

OpenAI, Anthropic, 구글의 DeepMind, Meta, 마이크로소프트 등 주요 인공지능 기업의 리더들이 미국 의회에 AI를 이용한 생화학 무기 개발 위험을 해결할 것을 요청했다. 샘 알트먼(Sam Altman), 다리오 아모데이(Dario Amodei), 데미스 하사비스(Demis Hassabis)와 같은 업계 주요 인사들은 현재의 시스템이 독립적으로 생물학적 작용제를 생성할 수준은 아니라고 지적했다. 다만, 향후 모델들이 위험한 병원균을 합성하려는 이들에게 기술적 문턱을 낮출 가능성에 대해 경고했다.

월스트리트저널 보도에 따르면 이번 우려는 점점 더 고도화되는 AI 시스템이 악의적인 사용자의 조력자 역할을 할 수 있다는 점에 집중된다. AI는 복잡한 과학 문헌을 분석하고, 위험한 생물학적 경로를 식별하며, 과거에는 전문적인 교육이 필요했던 기술적인 연구 질문에 대한 답변을 제공함으로써 위협을 가중할 수 있다. 생물학 데이터베이스, 연구 도구, 논문이 온라인상에 방대하게 공개되면서 AI는 이러한 파편화된 정보를 위험한 지식으로 통합하는 과정을 단순화할 수 있다.

업계 리더들은 현재 사용 가능한 챗봇이 아닌, 미래의 발전된 AI 역량에 초점을 맞춰야 한다고 강조한다. AI의 추론 및 분석 능력이 향상됨에 따라 기존에 민감한 생물학 정보를 보호하던 전문성 장벽이 허물어질 수 있다는 지적이다. 이를 위해 기업들은 포괄적인 AI 규제 대신, 합성 DNA와 RNA 주문에 대한 의무적 검증을 제안했다. 유전 물질을 제조하는 기업이 고객 신원을 확인하고 주문 내용을 생산 전에 검토해야 한다는 방안이다. 경쟁적인 업계 상황 속에서도 이들은 위기 발생 전 정부의 선제적 조치가 필수적이라는 데 뜻을 모았다.