문샷 AI, 키미 K3.1 프로 가중치 공개

문샷 AI는 4일(현지시간) 허깅페이스를 통해 키미 K3.1 프로의 가중치를 배포했습니다. 개발자는 이를 자체 인프라에서 운영하고 수정할 수 있습니다. 배포는 지난달 모델 출시 때 예고한 일정에 따른 것으로, 저장소 용량은 약 1.56테라바이트(TB)이며 가중치는 96개 파일로 나뉘어 있습니다. 모델 설정과 입력 처리 코드도 함께 제공됐습니다.

키미 K3.1 프로는 총 2조8000억개 매개변수 가운데 추론 때 1040억개를 활성화하는 전문가 혼합(MoE) 모델입니다. 텍스트와 이미지를 처리하고 최대 약 100만 토큰의 문맥을 입력받습니다. 모델 카드에 공개된 구조는 KDA와 딥시크 희소 어텐션(DSA)을 결합했습니다. 93개 계층 중 69개는 KDA, 24개는 게이트형 DSA이며, 기존 키미 K3에서 전체 어텐션을 수행한 게이트형 MLA 계층을 DSA로 교체했습니다. DSA는 참조할 입력 토큰을 선별해 긴 문맥 처리의 연산 효율을 높이는 기술이라고 문샷 AI는 설명했습니다.

가중치는 MXFP4 형식으로 배포하고 실행 중 중간 연산값인 활성값에는 MXFP8을 적용합니다. 학습 단계부터 저정밀도 연산을 고려하는 양자화 인식 학습(QAT)도 사용했습니다. 자체 인프라에서 실행할 개발자에게는 vLLM, SGLang, 토큰스피드(TokenSpeed) 추론 엔진을 권장했습니다. 가중치를 직접 내려받아 운영하거나 문샷 AI API를 이용할 수 있습니다.

자체 라이선스는 사용, 수정, 미세조정, 재배포와 상업적 활용을 허용합니다. 다만 모델 서비스 사업자와 계열사의 합산 매출이 연속 12개월 동안 2000만달러를 넘으면 상업 이용 전에 별도 계약을 맺어야 합니다. 상용 제품·서비스의 월간 활성 사용자가 1억명 또는 월매출이 2000만달러를 초과하면 화면에 모델명을 표시해야 합니다. 내부 이용과 문샷 AI 공식 제품·인증 추론 파트너를 통한 이용은 계약 및 표시 조건에서 제외됩니다.

키미 K3.1 프로는 코딩, 3D 제작, 금융 연구 등 에이전트 작업을 강화한 모델입니다. 앞선 출시 발표에서 문샷 AI는 가중치 공개에 따른 악용 가능성을 줄이기 위해 중간 학습 데이터와 강화학습 과제에서 사이버 보안 관련 내용을 선별해 제거했다고 밝혔습니다. 일반 코딩 작업은 유지하면서 취약점 악용 능력을 낮추기 위한 조치라고 설명했습니다.

문샷 AI는 4일(현지시간) 허깅페이스를 통해 키미 K3.1 프로의 가중치를 배포했습니다. 개발자는 이를 자체 인프라에서 운영하고 수정할 수 있습니다. 배포는 지난달 모델 출시 때 예고한 일정에 따른 것으로, 저장소 용량은 약 1.56테라바이트(TB)이며 가중치는 96개 파일로 나뉘어 있습니다. 모델 설정과 입력 처리 코드도 함께 제공됐습니다.

키미 K3.1 프로는 총 2조8000억개 매개변수 가운데 추론 때 1040억개를 활성화하는 전문가 혼합(MoE) 모델입니다. 텍스트와 이미지를 처리하고 최대 약 100만 토큰의 문맥을 입력받습니다. 모델 카드에 공개된 구조는 KDA와 딥시크 희소 어텐션(DSA)을 결합했습니다. 93개 계층 중 69개는 KDA, 24개는 게이트형 DSA이며, 기존 키미 K3에서 전체 어텐션을 수행한 게이트형 MLA 계층을 DSA로 교체했습니다. DSA는 참조할 입력 토큰을 선별해 긴 문맥 처리의 연산 효율을 높이는 기술이라고 문샷 AI는 설명했습니다.

가중치는 MXFP4 형식으로 배포하고 실행 중 중간 연산값인 활성값에는 MXFP8을 적용합니다. 학습 단계부터 저정밀도 연산을 고려하는 양자화 인식 학습(QAT)도 사용했습니다. 자체 인프라에서 실행할 개발자에게는 vLLM, SGLang, 토큰스피드(TokenSpeed) 추론 엔진을 권장했습니다. 가중치를 직접 내려받아 운영하거나 문샷 AI API를 이용할 수 있습니다.

자체 라이선스는 사용, 수정, 미세조정, 재배포와 상업적 활용을 허용합니다. 다만 모델 서비스 사업자와 계열사의 합산 매출이 연속 12개월 동안 2000만달러를 넘으면 상업 이용 전에 별도 계약을 맺어야 합니다. 상용 제품·서비스의 월간 활성 사용자가 1억명 또는 월매출이 2000만달러를 초과하면 화면에 모델명을 표시해야 합니다. 내부 이용과 문샷 AI 공식 제품·인증 추론 파트너를 통한 이용은 계약 및 표시 조건에서 제외됩니다.

키미 K3.1 프로는 코딩, 3D 제작, 금융 연구 등 에이전트 작업을 강화한 모델입니다. 앞선 출시 발표에서 문샷 AI는 가중치 공개에 따른 악용 가능성을 줄이기 위해 중간 학습 데이터와 강화학습 과제에서 사이버 보안 관련 내용을 선별해 제거했다고 밝혔습니다. 일반 코딩 작업은 유지하면서 취약점 악용 능력을 낮추기 위한 조치라고 설명했습니다.