Amazon은 인공지능 모델의 지도 미세 조정(Supervised Fine-Tuning) 과정에서 발생하는 추론 억제 현상을 해결하기 위한 Self-Distilled Reasoning(SDR) 기술을 도입했다. 추론 억제는 모델이 중간 논리 단계 없이 입력과 출력값만을 학습할 때 발생하며, 이로 인해 모델이 추론 능력을 상실하고 단편적인 결과값만 도출하는 문제가 생긴다. SDR은 Amazon Nova 2 Lite 기본 모델을 활용해 사고의 연쇄(Chain-of-Thought)를 생성하고 이를 학습 데이터셋에 추가함으로써, 모델이 스스로의 추론 패턴을 학습하도록 유도한다.

MedMCQA, CoCoHD, Invoice-OCR 등 3개 벤치마크 실험 결과, SDR은 일반적인 기능을 보존하면서도 타겟 성능을 개선하는 것으로 나타났다. 특히 기존의 모델 병합 방식과 비교했을 때 수학 벤치마크 성능을 70% 수준으로 유지하면서 타겟 작업 정확도를 평균 6.5% 이상 높였다. 이는 일반적인 지도 미세 조정 설정에서 나타나는 수학 벤치마크 성능 급락(70%에서 6%로 하락)과 같은 치명적 망각(Catastrophic forgetting) 현상을 효과적으로 방지한다.

SDR 구현 과정은 Amazon Bedrock을 통해 정방향 또는 역방향 추론으로 추론 경로를 생성하며, 이 과정에서 정답 유출을 방지하기 위한 필터링 단계가 포함된다. 논리적 일관성을 확보하기 위해 온도값 0.3, topP 0.9, topK 50의 추론 설정이 요구된다. 해당 방법론은 학습 도중 정규화 역할을 수행하며, 별도의 교사 모델이나 인간의 주석 작업 없이도 학습과 추론 전반에 걸쳐 일관된 논리 구조를 유지한다.

Amazon은 인공지능 모델의 지도 미세 조정(Supervised Fine-Tuning) 과정에서 발생하는 추론 억제 현상을 해결하기 위한 Self-Distilled Reasoning(SDR) 기술을 도입했다. 추론 억제는 모델이 중간 논리 단계 없이 입력과 출력값만을 학습할 때 발생하며, 이로 인해 모델이 추론 능력을 상실하고 단편적인 결과값만 도출하는 문제가 생긴다. SDR은 Amazon Nova 2 Lite 기본 모델을 활용해 사고의 연쇄(Chain-of-Thought)를 생성하고 이를 학습 데이터셋에 추가함으로써, 모델이 스스로의 추론 패턴을 학습하도록 유도한다.

MedMCQA, CoCoHD, Invoice-OCR 등 3개 벤치마크 실험 결과, SDR은 일반적인 기능을 보존하면서도 타겟 성능을 개선하는 것으로 나타났다. 특히 기존의 모델 병합 방식과 비교했을 때 수학 벤치마크 성능을 70% 수준으로 유지하면서 타겟 작업 정확도를 평균 6.5% 이상 높였다. 이는 일반적인 지도 미세 조정 설정에서 나타나는 수학 벤치마크 성능 급락(70%에서 6%로 하락)과 같은 치명적 망각(Catastrophic forgetting) 현상을 효과적으로 방지한다.

SDR 구현 과정은 Amazon Bedrock을 통해 정방향 또는 역방향 추론으로 추론 경로를 생성하며, 이 과정에서 정답 유출을 방지하기 위한 필터링 단계가 포함된다. 논리적 일관성을 확보하기 위해 온도값 0.3, topP 0.9, topK 50의 추론 설정이 요구된다. 해당 방법론은 학습 도중 정규화 역할을 수행하며, 별도의 교사 모델이나 인간의 주석 작업 없이도 학습과 추론 전반에 걸쳐 일관된 논리 구조를 유지한다.