텐센트, 295B MoE 모델 Hy3 공개
Simon WillisonWednesday, July 8, 2026
- •텐센트가 295B 파라미터 규모의 MoE 기반 오픈소스 모델 Hy3를 공개했다.
- •Hy3는 21B 활성 파라미터와 256K 컨텍스트 길이를 지원하며 598GB 규모로 배포된다.
- •2026년 7월 21일까지 오픈라우터(OpenRouter) 플랫폼을 통해 무료로 사용 가능하다.
텐센트(Tencent)는 2026년 7월 6일 새로운 오픈소스 언어 모델인 Hy3를 공개했다. 이 모델은 아파치 2.0(Apache 2.0) 라이선스로 배포되며, 295B 파라미터를 가진 MoE(Mixture-of-Experts) 아키텍처를 기반으로 한다. 실제로 활성화되는 파라미터는 21B이며, MTP 레이어에는 3.8B 파라미터가 사용되었다.
텐센트 Hy 팀이 개발한 이 모델은 지난 4월 말 진행된 프리뷰 출시 이후 50개 이상의 제품 피드백을 반영해 후속 학습 데이터를 개선했다. Hy3는 유사한 크기의 모델들을 능가하며, 파라미터가 2배에서 5배 많은 주력 오픈소스 모델과 경쟁 가능한 수준의 성능을 보여준다.
모델의 전체 크기는 598GB이며, FP8 양자화(quantization) 버전은 300GB이다. 컨텍스트 길이는 256K를 지원한다. Hy3는 2026년 7월 21일까지 오픈라우터(OpenRouter)에서 무료로 이용할 수 있다.