Calpha, 언어 모델 안에서 단백질 접힘 시도

Calpha, 언어 모델 안에서 단백질 접힘 시도
2026년 11월 18일 수요일
  • •상하이교통대 연구진, 범용 언어 모델에 단백질 구조 예측을 결합한 초기 시스템 Calpha 보고
  • •Qwen3.5-9B 기반 시스템, FoldBench-334 0.808·CASP16 도메인 0.635·CAMEO형 세트 0.900 기록
  • •단백질 학습 뒤 MMLU-Pro 350문항 정확도 77.4%에서 70.3%로 하락…복합체 예측은 향후 과제

상하이교통대 연구진은 단백질 구조 예측을 범용 언어 모델에 결합하려는 초기 시도인 Calpha를 보고했습니다. 첫 단계에서 Qwen3.5-9B는 ESM2 잔기 특징을 더한 단백질 서열을 처리하고, 사전 학습된 SimpleFold 구조 예측 헤드에 토큰을 보낼 수 있습니다. 이 헤드는 Qwen의 잔기 상태를 통해 단백질 정보를 받은 뒤 단일 사슬 구조를 출력합니다. 연구진은 외부 접힘 도구에 의존하지 않고 언어 모델 내부 상태에서 구조를 생성할 수 있다고 설명했습니다.

고정된 접힘 요청을 사용한 시스템은 FoldBench-334 개발 세트에서 평균 TM-score 0.808, CASP16 도메인에서 0.635, CAMEO형 PDB 세트에서 0.900을 기록했습니다. 비교 시스템은 ESM2-3B로 서열을 인코딩하고 미세 조정된 SimpleFold-3B 헤드로 좌표를 예측했습니다. 두 시스템은 학습 가능한 가중치, 학습 기간, 입력 자르기 길이도 달랐습니다. 잔기 100~299개 단백질에서는 세 쌍의 신뢰구간이 모두 0을 포함했습니다. 잔기 300~600개 사슬의 평균 점수 차이는 -0.044, -0.160, -0.025였습니다.

별도 시험에서는 영어 요청 네 종류가 평가된 모든 사례에서 접힘을 유도했습니다. 단백질 학습을 적용하자 MMLU-Pro 350문항 하위 집합 정확도는 77.4%에서 70.3%로 낮아졌습니다. 보고서는 현재 비교에서 더 긴 사슬의 점수가 낮고 해당 평가 하위 집합의 정확도가 감소했다고 밝혔습니다. 단백질 복합체 예측, 구조 이해, 언어 추론이 예측 좌표에 미치는 영향 검증은 향후 과제로 남았습니다. 연구진은 현재 시스템이 사전 학습된 ESM2와 SimpleFold 구성 요소에 의존한다고도 밝혔습니다.

AIB 뉴스레터를 구독하세요

가장 빠르고 정확한 AI 소식, 이메일로 받아보세요

카톡 문의