지티안 가오(Zitian Gao), 이롱 첸(Yilong Chen), 이하오 샤오(Yihao Xiao), 신위 양(Xinyu Yang), 란 타오(Ran Tao), 조이 저우(Joey Zhou), 브라이언 다이(Bryan Dai) 연구진은 2026년 7월 17일, 고성능 루프형 트랜스포머인 루피를 공개했다. 이 시리즈는 20B 파라미터 모델(활성 2B)과 6B 파라미터 모델(활성 0.6B) 등 두 종류의 Mixture-of-Experts(MoE) 모델로 구성된다. 루프 구조를 활용함으로써 기존 모델이 파라미터 수를 N배 늘리는 것만으로는 사전 학습 연산 효율을 높이는 데 한계가 있다는 고질적인 문제를 해결했다.

기존의 30B 파라미터 A3B 모델과 비교한 일련의 절제 연구(ablation studies) 결과, 루피는 동일한 연산 예산 내에서 기존 아키텍처보다 현저히 뛰어난 성능을 보였다. 또한 연구진은 추론 능력을 극대화하기 위해 새로운 사후 학습 파이프라인을 개발했다. 그 결과 해당 모델은 별도의 외부 도구 없이도 2025년 IMO와 IPhO 벤치마크에서 금메달 수준의 성과를 달성했다.

지티안 가오(Zitian Gao), 이롱 첸(Yilong Chen), 이하오 샤오(Yihao Xiao), 신위 양(Xinyu Yang), 란 타오(Ran Tao), 조이 저우(Joey Zhou), 브라이언 다이(Bryan Dai) 연구진은 2026년 7월 17일, 고성능 루프형 트랜스포머인 루피를 공개했다. 이 시리즈는 20B 파라미터 모델(활성 2B)과 6B 파라미터 모델(활성 0.6B) 등 두 종류의 Mixture-of-Experts(MoE) 모델로 구성된다. 루프 구조를 활용함으로써 기존 모델이 파라미터 수를 N배 늘리는 것만으로는 사전 학습 연산 효율을 높이는 데 한계가 있다는 고질적인 문제를 해결했다.

기존의 30B 파라미터 A3B 모델과 비교한 일련의 절제 연구(ablation studies) 결과, 루피는 동일한 연산 예산 내에서 기존 아키텍처보다 현저히 뛰어난 성능을 보였다. 또한 연구진은 추론 능력을 극대화하기 위해 새로운 사후 학습 파이프라인을 개발했다. 그 결과 해당 모델은 별도의 외부 도구 없이도 2025년 IMO와 IPhO 벤치마크에서 금메달 수준의 성과를 달성했다.