Moonshot AI가 대규모 언어 모델링의 비약적인 도약을 상징하는 거대 전문가 혼합(MoE) 모델, Kimi-K2-Instruct-0905를 공식 발표했다. 총 1조 개의 파라미터를 보유한 압도적인 규모를 자랑하지만, 토큰당 320억 개의 파라미터만 활성화하는 효율적인 구조로 설계된 점이 특징이다. 이러한 희소 활성화 방식 덕분에 모델은 거대 모델 특유의 막대한 연산 비용 부담 없이도 고성능 추론 능력을 발휘한다.

특히 소프트웨어 엔지니어링 지능 강화에 역량이 집중되었다. Kimi-K2는 컨텍스트 창을 256,000 토큰으로 두 배 늘려 전체 코드베이스를 한 번에 이해하고 분석할 수 있으며, 이를 통해 복잡한 장기 프로그래밍 및 프론트엔드 디자인 작업을 더욱 정교하게 수행한다. 실제로 SWE-Bench 검증 평가에서 69.2%의 성공률을 기록하며 업계 선두주자들과 경쟁할 만한 강력한 성능을 입증했다. 또한 생성된 코드의 심미성과 기능성을 극대화하기 위한 특화 최적화 기술도 함께 도입되었다.

Moonshot AI는 단순한 성능 향상을 넘어 기존 생태계와의 호환성 확보에도 주력했다. Kimi-K2는 OpenAI 및 Anthropic 호환 API를 지원하여 개발자들이 기존 워크플로우를 유지하면서도 쉽게 모델을 전환할 수 있도록 돕는다. 또한 8비트 부동 소수점(FP8) 정밀도를 기본 지원하고 vLLM, Groq 등 주요 추론 엔진과의 통합을 마쳐, 실제 서비스 환경에서 즉각적이고 높은 처리량의 배포가 가능하다.

Moonshot AI가 대규모 언어 모델링의 비약적인 도약을 상징하는 거대 전문가 혼합(MoE) 모델, Kimi-K2-Instruct-0905를 공식 발표했다. 총 1조 개의 파라미터를 보유한 압도적인 규모를 자랑하지만, 토큰당 320억 개의 파라미터만 활성화하는 효율적인 구조로 설계된 점이 특징이다. 이러한 희소 활성화 방식 덕분에 모델은 거대 모델 특유의 막대한 연산 비용 부담 없이도 고성능 추론 능력을 발휘한다.

특히 소프트웨어 엔지니어링 지능 강화에 역량이 집중되었다. Kimi-K2는 컨텍스트 창을 256,000 토큰으로 두 배 늘려 전체 코드베이스를 한 번에 이해하고 분석할 수 있으며, 이를 통해 복잡한 장기 프로그래밍 및 프론트엔드 디자인 작업을 더욱 정교하게 수행한다. 실제로 SWE-Bench 검증 평가에서 69.2%의 성공률을 기록하며 업계 선두주자들과 경쟁할 만한 강력한 성능을 입증했다. 또한 생성된 코드의 심미성과 기능성을 극대화하기 위한 특화 최적화 기술도 함께 도입되었다.

Moonshot AI는 단순한 성능 향상을 넘어 기존 생태계와의 호환성 확보에도 주력했다. Kimi-K2는 OpenAI 및 Anthropic 호환 API를 지원하여 개발자들이 기존 워크플로우를 유지하면서도 쉽게 모델을 전환할 수 있도록 돕는다. 또한 8비트 부동 소수점(FP8) 정밀도를 기본 지원하고 vLLM, Groq 등 주요 추론 엔진과의 통합을 마쳐, 실제 서비스 환경에서 즉각적이고 높은 처리량의 배포가 가능하다.