연구진은 사람이 주석을 달지 않은 데이터를 검증 가능한 보상과 결합하는 Zero RL을 1조 파라미터 규모로 확장해 모델의 추론 능력과 표본 효율성을 크게 향상했다. 신위 탕(Xinyu Tang)을 비롯한 연구진은 가독성 저하와 토큰 중복 등 대규모 확장 시 발생하는 문제들을 해결하기 위해 특수 학습 파이프라인을 구축했다. 이 파이프라인은 중요도 샘플링, 학습-추론 비율 보정, 혼합 정밀도 제어 등을 활용해 대규모 환경에서도 안정적인 학습을 지원한다.

실험 모델인 Ring-2.5-1T-Zero를 통해 확인된 확장 효과는 크게 세 가지다. 우선 1조 파라미터까지 확장함에 따라 성능 상한선과 표본 효율성이 동시에 개선되었다. 또한 학습 과정은 초기 탐색 단계와 이후 정교화 단계라는 두 가지 독특한 국면으로 전개되었다. 무엇보다 모델은 자기 검증, 병렬 추론, 구조화된 포맷팅 등 고도화된 인지 행동을 자발적으로 습득해 수동 휴리스틱의 필요성을 제거했다.

연구진은 7개 수학 벤치마크에서 모델을 평가해 경쟁력 있는 성능을 입증했다. 또한 최종 정답의 정확도를 넘어 추론 과정인 Chain-of-Thought의 품질을 이해 가능성, 재현성, 효율성이라는 세 가지 차원에서 분석할 수 있는 체계적인 프레임워크를 도입했다. 결과적으로 1조 파라미터 규모는 간결하고 구조화된 추론 궤적을 생성하는 데 명확한 이점을 제공하며, 대규모 모델이 어떻게 발현적 능력(Emergent capabilities)을 형성하는지에 대한 새로운 통찰을 제시한다.

연구진은 사람이 주석을 달지 않은 데이터를 검증 가능한 보상과 결합하는 Zero RL을 1조 파라미터 규모로 확장해 모델의 추론 능력과 표본 효율성을 크게 향상했다. 신위 탕(Xinyu Tang)을 비롯한 연구진은 가독성 저하와 토큰 중복 등 대규모 확장 시 발생하는 문제들을 해결하기 위해 특수 학습 파이프라인을 구축했다. 이 파이프라인은 중요도 샘플링, 학습-추론 비율 보정, 혼합 정밀도 제어 등을 활용해 대규모 환경에서도 안정적인 학습을 지원한다.

실험 모델인 Ring-2.5-1T-Zero를 통해 확인된 확장 효과는 크게 세 가지다. 우선 1조 파라미터까지 확장함에 따라 성능 상한선과 표본 효율성이 동시에 개선되었다. 또한 학습 과정은 초기 탐색 단계와 이후 정교화 단계라는 두 가지 독특한 국면으로 전개되었다. 무엇보다 모델은 자기 검증, 병렬 추론, 구조화된 포맷팅 등 고도화된 인지 행동을 자발적으로 습득해 수동 휴리스틱의 필요성을 제거했다.

연구진은 7개 수학 벤치마크에서 모델을 평가해 경쟁력 있는 성능을 입증했다. 또한 최종 정답의 정확도를 넘어 추론 과정인 Chain-of-Thought의 품질을 이해 가능성, 재현성, 효율성이라는 세 가지 차원에서 분석할 수 있는 체계적인 프레임워크를 도입했다. 결과적으로 1조 파라미터 규모는 간결하고 구조화된 추론 궤적을 생성하는 데 명확한 이점을 제공하며, 대규모 모델이 어떻게 발현적 능력(Emergent capabilities)을 형성하는지에 대한 새로운 통찰을 제시한다.