ERNIE 5.0은 바이두의 차세대 플래그십 기반 모델로, 2조 4,000억 개의 매개변수를 갖추고 텍스트, 이미지, 오디오, 동영상을 하나의 자기회귀 구조에서 통합 처리합니다. 각 형식을 개별 모델로 처리한 뒤 결합하는 방식과 달리, 모든 형식의 데이터를 단일 프레임워크에서 함께 훈련하여 이해와 생성을 하나의 파이프라인으로 수행합니다. 초희소 전문가 혼합 구조로 토큰당 활성화 비율이 3% 미만이며, 추론, 창작, 에이전트 계획 등에서 최상위 수준의 성능을 효율적으로 제공합니다.
ERNIE 5.0은 바이두의 차세대 플래그십 기반 모델로, 2조 4,000억 개의 매개변수를 갖추고 텍스트, 이미지, 오디오, 동영상을 하나의 자기회귀 구조에서 통합 처리합니다. 각 형식을 개별 모델로 처리한 뒤 결합하는 방식과 달리, 모든 형식의 데이터를 단일 프레임워크에서 함께 훈련하여 이해와 생성을 하나의 파이프라인으로 수행합니다. 초희소 전문가 혼합 구조로 토큰당 활성화 비율이 3% 미만이며, 추론, 창작, 에이전트 계획 등에서 최상위 수준의 성능을 효율적으로 제공합니다.