AI 논란, 과학 연구 신뢰에 의문 제기

수학자들 사이의 논란이 AI가 과학 연구의 신뢰를 약화할 수 있다는 우려를 키웠습니다. 지난달 OpenAI는 자사 AI 에이전트가 나비에-스토크스 방정식과 관련된 주요 미해결 문제를 88시간 만에 풀었다고 밝혔습니다. 문제 해결에 상을 수여하는 단체는 문제가 “분명히 해결된 것으로 보인다”고 했지만, 검토에는 시간이 걸릴 것이라고 밝혔습니다. OpenAI 발표 몇 시간 전, 뉴욕대 수학자 트리스탄 버크마스터(Tristan Buckmaster)는 자신과 레번트 알푀게(Levent Alpöge)의 연구가 OpenAI의 코딩 도구 Codex에 저장돼 있었으며 회사의 결과에 영향을 미쳤을 가능성을 제기했습니다. 버크마스터는 부정행위를 비난하는 것은 아니라고 말했습니다. OpenAI는 발표 전까지 회사 직원 누구도 다른 연구팀의 연구를 보지 못했다고 밝혔습니다. 처음에는 익명화된 제품 사용 데이터가 모델 개선에 도움이 됐을 가능성이 있지만 그럴 개연성은 낮다고 했고, 며칠 뒤에는 버크마스터가 이전 두 달 동안 입력한 Codex 프롬프트가 시스템에 영향을 미칠 수 없었다고 설명했습니다. 무슨 일이 있었는지는 아직 분명하지 않습니다.

과학자들은 망원경과 입자 가속기에서 수집한 방대한 데이터 처리에도 AI를 사용합니다. Google DeepMind의 AlphaFold는 1년 동안 단백질 접힘 구조 2억 건을 예측했습니다. 이는 실험실에서 실험했다면 수억 년이 걸렸을 작업입니다. 회사는 결과를 무료로 공개했고, DeepMind 책임자와 프로젝트 수석 과학자는 노벨 화학상을 받았습니다. 이후 DeepMind는 모델이 새로운 결정 구조 200만여 개를 만들었다며 “거의 800년치 지식”이라고 표현했습니다. 이 가운데 38만 개는 실험실 연구에 유망하다는 평가를 받았습니다. 캘리포니아대 화학자 앤서니 치텀(Anthony Cheetham)과 람 세샤드리(Ram Seshadri)는 무작위 표본을 살펴본 뒤 눈에 띄게 새로운 화합물을 발견하지 못했고, 상당수는 기존 물질을 조금 바꾼 것이라고 말했습니다. DeepMind는 구조의 새로움을 검사했다고 밝혔으며, 원자 하나를 바꾸는 것만으로도 유용한 물질이 만들어질 수 있다고 주장했습니다.

AI가 작성한 논문과 조작된 인용, 동료 심사도 우려를 낳고 있습니다. 겐트대 드미트리 코박(Dmitry Kobak)은 생의학 논문 100만 편 이상을 검색해 지난해 12월까지 표본의 거의 90%에서 AI 흔적을 발견했습니다. 그는 언어 모델의 편향이 과학 문헌 전반으로 퍼질 수 있다고 경고했습니다. 스탠퍼드대가 주도해 주요 컴퓨터과학 학회 4곳에 제출된 심사 의견을 분석한 결과, 문장 중 최대 17%가 언어 모델에 의해 상당히 수정된 것으로 나타났습니다. 코넬대 연구진은 별도로 지난해 가짜 연구 인용 약 14만 7,000건을 발견했습니다. 연구가 왜곡되면 과학자들이 성과 없는 연구 방향으로 빠지고 공공 자금이 낭비될 수 있으며, 신약과 친환경 기술을 포함한 유용한 발견이 늦어지거나 나오지 못할 수 있다고 기사는 전합니다.

일부 출판사는 검사 절차를 도입했습니다. 엘스비어의 연구 진실성팀은 약 100가지 신호를 활용해 사람이 면밀히 살펴볼 논문을 표시합니다. 네이처 계열 학술지는 AI 생성 이미지를 금지하고 심사자에게 원고를 AI 시스템에 올리지 말라고 안내합니다. arXiv는 허위 참고문헌을 제출한 연구자를 1년간 이용 금지합니다. DeepMind의 과학 책임자 푸시미트 콜리(Pushmeet Kohli)는 연구자가 통제권을 유지하고 AI 에이전트의 작업에 책임을 져야 한다고 말합니다. 빈 바이오센터의 안드레아 파울리(Andrea Pauli)는 제브라피시 알의 단백질을 찾아 정자가 알에 들어가는 열쇠와 자물쇠 방식의 메커니즘을 가리킨 연구에 AI를 사용했습니다. Basecamp Research 공동창업자 올리버 빈스(Oliver Vince)는 기술적으로 실행 가능한 암 치료 경로를 찾고 있다고 말하면서도 성공하지 못할 수 있다고 인정했습니다. 핵심 질문은 AI가 과학의 발전을 돕는지, 아니면 과학의 토대가 되는 신뢰를 약화하는지입니다.

수학자들 사이의 논란이 AI가 과학 연구의 신뢰를 약화할 수 있다는 우려를 키웠습니다. 지난달 OpenAI는 자사 AI 에이전트가 나비에-스토크스 방정식과 관련된 주요 미해결 문제를 88시간 만에 풀었다고 밝혔습니다. 문제 해결에 상을 수여하는 단체는 문제가 “분명히 해결된 것으로 보인다”고 했지만, 검토에는 시간이 걸릴 것이라고 밝혔습니다. OpenAI 발표 몇 시간 전, 뉴욕대 수학자 트리스탄 버크마스터(Tristan Buckmaster)는 자신과 레번트 알푀게(Levent Alpöge)의 연구가 OpenAI의 코딩 도구 Codex에 저장돼 있었으며 회사의 결과에 영향을 미쳤을 가능성을 제기했습니다. 버크마스터는 부정행위를 비난하는 것은 아니라고 말했습니다. OpenAI는 발표 전까지 회사 직원 누구도 다른 연구팀의 연구를 보지 못했다고 밝혔습니다. 처음에는 익명화된 제품 사용 데이터가 모델 개선에 도움이 됐을 가능성이 있지만 그럴 개연성은 낮다고 했고, 며칠 뒤에는 버크마스터가 이전 두 달 동안 입력한 Codex 프롬프트가 시스템에 영향을 미칠 수 없었다고 설명했습니다. 무슨 일이 있었는지는 아직 분명하지 않습니다.

과학자들은 망원경과 입자 가속기에서 수집한 방대한 데이터 처리에도 AI를 사용합니다. Google DeepMind의 AlphaFold는 1년 동안 단백질 접힘 구조 2억 건을 예측했습니다. 이는 실험실에서 실험했다면 수억 년이 걸렸을 작업입니다. 회사는 결과를 무료로 공개했고, DeepMind 책임자와 프로젝트 수석 과학자는 노벨 화학상을 받았습니다. 이후 DeepMind는 모델이 새로운 결정 구조 200만여 개를 만들었다며 “거의 800년치 지식”이라고 표현했습니다. 이 가운데 38만 개는 실험실 연구에 유망하다는 평가를 받았습니다. 캘리포니아대 화학자 앤서니 치텀(Anthony Cheetham)과 람 세샤드리(Ram Seshadri)는 무작위 표본을 살펴본 뒤 눈에 띄게 새로운 화합물을 발견하지 못했고, 상당수는 기존 물질을 조금 바꾼 것이라고 말했습니다. DeepMind는 구조의 새로움을 검사했다고 밝혔으며, 원자 하나를 바꾸는 것만으로도 유용한 물질이 만들어질 수 있다고 주장했습니다.

AI가 작성한 논문과 조작된 인용, 동료 심사도 우려를 낳고 있습니다. 겐트대 드미트리 코박(Dmitry Kobak)은 생의학 논문 100만 편 이상을 검색해 지난해 12월까지 표본의 거의 90%에서 AI 흔적을 발견했습니다. 그는 언어 모델의 편향이 과학 문헌 전반으로 퍼질 수 있다고 경고했습니다. 스탠퍼드대가 주도해 주요 컴퓨터과학 학회 4곳에 제출된 심사 의견을 분석한 결과, 문장 중 최대 17%가 언어 모델에 의해 상당히 수정된 것으로 나타났습니다. 코넬대 연구진은 별도로 지난해 가짜 연구 인용 약 14만 7,000건을 발견했습니다. 연구가 왜곡되면 과학자들이 성과 없는 연구 방향으로 빠지고 공공 자금이 낭비될 수 있으며, 신약과 친환경 기술을 포함한 유용한 발견이 늦어지거나 나오지 못할 수 있다고 기사는 전합니다.

일부 출판사는 검사 절차를 도입했습니다. 엘스비어의 연구 진실성팀은 약 100가지 신호를 활용해 사람이 면밀히 살펴볼 논문을 표시합니다. 네이처 계열 학술지는 AI 생성 이미지를 금지하고 심사자에게 원고를 AI 시스템에 올리지 말라고 안내합니다. arXiv는 허위 참고문헌을 제출한 연구자를 1년간 이용 금지합니다. DeepMind의 과학 책임자 푸시미트 콜리(Pushmeet Kohli)는 연구자가 통제권을 유지하고 AI 에이전트의 작업에 책임을 져야 한다고 말합니다. 빈 바이오센터의 안드레아 파울리(Andrea Pauli)는 제브라피시 알의 단백질을 찾아 정자가 알에 들어가는 열쇠와 자물쇠 방식의 메커니즘을 가리킨 연구에 AI를 사용했습니다. Basecamp Research 공동창업자 올리버 빈스(Oliver Vince)는 기술적으로 실행 가능한 암 치료 경로를 찾고 있다고 말하면서도 성공하지 못할 수 있다고 인정했습니다. 핵심 질문은 AI가 과학의 발전을 돕는지, 아니면 과학의 토대가 되는 신뢰를 약화하는지입니다.