Chatbot Arena, 변별력 높인 전문 리더보드 전격 도입
- •Chatbot Arena가 웹 개발, 검색, 영상 및 이미지 편집 능력을 평가하는 전문 리더보드를 새롭게 선보였다.
- •상위 5.5%의 고난도 프롬프트만 선별한 'Arena Expert' 프레임워크를 통해 최상위 모델 간의 변별력을 확보했다.
- •데이터 파이프라인 개편으로 모델의 정체성 유출을 탐지하고 비정상적인 투표 패턴을 걸러내는 시스템을 강화했다.
Arena.ai의 최신 업데이트에 따르면, Chatbot Arena가 단순한 텍스트 상호작용을 넘어 현대 파운데이션 모델의 다각적인 능력을 평가하는 체계로 대폭 확장됐다. 특히 텍스트 투 비디오(Text-to-Video), 검색, 웹 개발(Code Arena 기반) 등 전용 분야가 신설된 점이 눈에 띈다. 이는 웹 서핑이나 고화질 미디어 생성과 같은 기능적 AI를 중시하는 최근 업계의 흐름을 반영한 결과다. 이러한 전문 카테고리의 세분화를 통해 모델의 창의적 글쓰기 능력과 복잡한 프로그래밍 버그 해결 능력을 혼동하지 않고 더욱 정밀하게 비교할 수 있게 되었다.
상위권 모델 간의 점수 격차가 줄어드는 '점수 압축' 현상을 해결하기 위해, 팀은 'Arena Expert' 리더보드를 도입했다. 기존의 'Hard' 벤치마크가 전체 프롬프트의 약 3분의 1을 포함했던 것과 달리, Expert 필터는 가장 까다로운 상위 5.5%의 사용자 질문만을 대상으로 한다. 이 프롬프트들은 극도로 깊은 추론 능력과 기술적 전문성을 요구하며, 쉬운 작업에서는 우열을 가리기 힘든 엘리트 모델들 사이의 격차를 명확하게 드러낸다. 이를 통해 차세대 대규모 언어 모델(LLM) 출시 이후에도 리더보드가 엄격한 스트레스 테스트로서의 기능을 유지할 수 있도록 보장한다.
크라우드소싱 기반 랭킹의 신뢰성을 유지하기 위해 백엔드 엔지니어링 측면에서도 큰 변화가 있었다. 이번 업데이트를 통해 데이터 파이프라인이 전면 개편되었으며, 모든 투표에 걸쳐 일관된 데이터 필터링이 적용된다. 특히 모델이 대화 중 스스로 개발사나 이름을 노출하는 '정체성 유출' 현상을 감지하고 통계적으로 비정상적인 투표 행태를 제거함으로써 평가의 공정성을 높였다. 결과적으로 이러한 노력을 통해 Chatbot Arena는 에이전틱 AI와 범용 비서를 평가하는 가장 신뢰받는 인간 중심의 평가 플랫폼으로서 그 입지를 공고히 하고 있다.