기술 작가이자 글쓰기 체크리스트 도구 개발자인 다니엘 은와네리(Daniel Nwaneri)는 AI가 생성한 글의 품질 저하가 투기적 디코딩과 같은 추론 최적화 기법보다는 RLHF와 모드 붕괴에서 기인한다고 분석한다. 작은 초안 모델을 사용해 토큰을 예측하고 큰 모델이 이를 검증하는 투기적 디코딩은 수학적으로 손실이 없으며 출력 품질을 떨어뜨리지 않는다. 창작 소설의 추론 성공률은 코드(75-85%)에 비해 50-65%로 낮을 수 있지만, 이는 속도의 문제이지 콘텐츠 품질과는 무관하다.

반면 RLHF 학습은 모델이 쾌적하고 원만하며 안전한 답변을 하도록 유도하는데, 이는 모델을 좁고 일반적인 평균값으로 수렴하게 만든다. 이러한 모드 붕괴 현상은 출력의 다양성을 감소시키고 다중 초안 투표 전략의 효과를 방해한다. 은와네리는 비문학과 기술 작문은 정밀함과 모호한 표현 사이의 목표 충돌 문제로 보며, 2024년 11월 GPT-4o 업데이트와 같이 특화된 업데이트를 통해 공학적으로 해결할 수 있다고 지적한다. 다만 복잡한 서사 전개가 필요한 소설의 경우, 명확한 성능 지표나 학습 데이터 부족으로 인해 해결이 훨씬 어렵다.

기술 작가들에게 은와네리는 모델 출력에만 의존하지 말고 철저한 수동 편집을 병행해야 한다고 강조한다. 그는 자신의 36개 패턴 체크리스트 도구를 통해 모호한 일반화 등 RLHF로 인한 문체적 결함을 제거한다. 그는 AI가 여전히 독창적인 통찰을 제시하는 데 한계가 있지만, 이러한 구체적인 오류 패턴을 파악하면 실무에서 즉각적인 개선이 가능하다고 덧붙였다.

기술 작가이자 글쓰기 체크리스트 도구 개발자인 다니엘 은와네리(Daniel Nwaneri)는 AI가 생성한 글의 품질 저하가 투기적 디코딩과 같은 추론 최적화 기법보다는 RLHF와 모드 붕괴에서 기인한다고 분석한다. 작은 초안 모델을 사용해 토큰을 예측하고 큰 모델이 이를 검증하는 투기적 디코딩은 수학적으로 손실이 없으며 출력 품질을 떨어뜨리지 않는다. 창작 소설의 추론 성공률은 코드(75-85%)에 비해 50-65%로 낮을 수 있지만, 이는 속도의 문제이지 콘텐츠 품질과는 무관하다.

반면 RLHF 학습은 모델이 쾌적하고 원만하며 안전한 답변을 하도록 유도하는데, 이는 모델을 좁고 일반적인 평균값으로 수렴하게 만든다. 이러한 모드 붕괴 현상은 출력의 다양성을 감소시키고 다중 초안 투표 전략의 효과를 방해한다. 은와네리는 비문학과 기술 작문은 정밀함과 모호한 표현 사이의 목표 충돌 문제로 보며, 2024년 11월 GPT-4o 업데이트와 같이 특화된 업데이트를 통해 공학적으로 해결할 수 있다고 지적한다. 다만 복잡한 서사 전개가 필요한 소설의 경우, 명확한 성능 지표나 학습 데이터 부족으로 인해 해결이 훨씬 어렵다.

기술 작가들에게 은와네리는 모델 출력에만 의존하지 말고 철저한 수동 편집을 병행해야 한다고 강조한다. 그는 자신의 36개 패턴 체크리스트 도구를 통해 모호한 일반화 등 RLHF로 인한 문체적 결함을 제거한다. 그는 AI가 여전히 독창적인 통찰을 제시하는 데 한계가 있지만, 이러한 구체적인 오류 패턴을 파악하면 실무에서 즉각적인 개선이 가능하다고 덧붙였다.