테크니온 이스라엘 공과대학교(Technion Israel Institute of Technology) 연구진이 5월 11일 멀티모달 정형 데이터 학습을 위한 새로운 벤치마크 'MulTaBench'를 공개했다. 이 벤치마크는 기계학습 모델이 정형화된 표 데이터와 비정형 텍스트 혹은 이미지 입력을 얼마나 효과적으로 통합하는지 평가한다. MulTaBench는 이미지-표와 텍스트-표 예측 작업에 각 20개씩, 총 40개의 데이터셋으로 구성되어 있으며 현재까지 개발된 유사 벤치마크 중 가장 큰 규모이다. 연구진은 정형 데이터 파운데이션 모델이 가진 한계를 극복하기 위해 이 자원을 개발했다. 기존 모델들은 학습 과정에서 고정된 사전 학습 임베딩에 의존하는 경우가 많아, 데이터 간의 상호 보완적인 정보를 충분히 포착하지 못하는 문제가 있었다.

연구 결과에 따르면 타겟 데이터에 맞춰 임베딩을 조정하는 방식이 다양한 정형 학습 모델, 인코더 규모, 임베딩 차원에서 성능을 유의미하게 향상시켰다. 이러한 접근법은 의료 기록과 X-레이 이미지가 결합되는 헬스케어, 제품 메타데이터와 설명 이미지를 함께 활용하는 전자상거래와 같은 고부가가치 분야에서 특히 효과적이다. 기존 모델들은 정형 데이터를 텍스트 전용 시스템에 끼워 맞추거나 범용 임베딩을 사용해 중요한 예측 정보를 손실하는 한계를 보였다. MulTaBench는 모든 입력 유형을 동시에 학습하여 모델이 표현을 습득하도록 하는 공동 모델링 구조 개발의 토대를 제공한다. 이번 연구는 향후 정형 데이터 학습의 발전이 단순히 데이터 전처리를 넘어, 구체적인 예측 목표에 맞춰 내부 표현을 최적화하는 방향으로 나아가야 함을 제시한다.

테크니온 이스라엘 공과대학교(Technion Israel Institute of Technology) 연구진이 5월 11일 멀티모달 정형 데이터 학습을 위한 새로운 벤치마크 'MulTaBench'를 공개했다. 이 벤치마크는 기계학습 모델이 정형화된 표 데이터와 비정형 텍스트 혹은 이미지 입력을 얼마나 효과적으로 통합하는지 평가한다. MulTaBench는 이미지-표와 텍스트-표 예측 작업에 각 20개씩, 총 40개의 데이터셋으로 구성되어 있으며 현재까지 개발된 유사 벤치마크 중 가장 큰 규모이다. 연구진은 정형 데이터 파운데이션 모델이 가진 한계를 극복하기 위해 이 자원을 개발했다. 기존 모델들은 학습 과정에서 고정된 사전 학습 임베딩에 의존하는 경우가 많아, 데이터 간의 상호 보완적인 정보를 충분히 포착하지 못하는 문제가 있었다.

연구 결과에 따르면 타겟 데이터에 맞춰 임베딩을 조정하는 방식이 다양한 정형 학습 모델, 인코더 규모, 임베딩 차원에서 성능을 유의미하게 향상시켰다. 이러한 접근법은 의료 기록과 X-레이 이미지가 결합되는 헬스케어, 제품 메타데이터와 설명 이미지를 함께 활용하는 전자상거래와 같은 고부가가치 분야에서 특히 효과적이다. 기존 모델들은 정형 데이터를 텍스트 전용 시스템에 끼워 맞추거나 범용 임베딩을 사용해 중요한 예측 정보를 손실하는 한계를 보였다. MulTaBench는 모든 입력 유형을 동시에 학습하여 모델이 표현을 습득하도록 하는 공동 모델링 구조 개발의 토대를 제공한다. 이번 연구는 향후 정형 데이터 학습의 발전이 단순히 데이터 전처리를 넘어, 구체적인 예측 목표에 맞춰 내부 표현을 최적화하는 방향으로 나아가야 함을 제시한다.