LG유플러스 토큰 최적화 논문 2편, 뉴립스 채택

Chosun Ilbo2026년 10월 29일 (목)
LG유플러스 토큰 최적화 논문 2편, 뉴립스 채택
  • •LG유플러스 토큰 최적화 논문 2편, 뉴립스 2026 워크숍 채택
  • •스마트폰 통화용 AI, 기존 방식보다 처리 속도 약 4.5배·배터리 소모 약 77% 감소
  • •기기 내 추가 학습에서 서버 학습 수준 정확도 확인, 서버 GPU 환경 확대 계획

LG유플러스는 인공지능(AI) 응답 속도를 높이고 배터리 소모를 줄이는 토큰 최적화 연구 논문 2편이 뉴립스(NeurIPS) 2026의 온디바이스 인텔리전스 워크숍에 채택됐다고 29일 밝혔습니다. 뉴립스는 ICML, ICLR과 함께 세계 3대 AI 학회로 꼽힙니다. 올해 행사는 12월 6~12일 호주 시드니에서 열리며, 워크숍은 본 학회와 별도로 특정 연구 주제를 다루는 세션입니다.

연구진은 스마트폰의 제한된 메모리와 전력으로 소형 언어 모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구했습니다. 통화 서비스용 sLM에 모델 경량화와 추론 가속 기술을 적용해 스마트폰 환경에 맞췄습니다. 회사에 따르면 최신 클라우드 AI 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높였고, 배터리 소모는 약 77% 줄였습니다. 제한된 연산 자원과 배터리를 효율적으로 활용하면서 성능 저하를 최소화한 것이 특징입니다.

별도 연구에서는 개인 데이터를 외부로 보내지 않고 스마트폰 안에서 AI를 추가 학습하는 기술을 다뤘습니다. 학습에 필요한 연산과 메모리 사용을 효율화해 기기 내부에서 추가 학습을 진행했으며, 실제 스마트폰 환경 검증에서 서버 학습과 같은 수준의 정확도를 보였다고 LG유플러스는 밝혔습니다. 회사는 연구 기술을 향후 여러 AI 서비스에 활용하는 방안을 검토하고 있습니다. 스마트폰에서 검증한 최적화 역량을 서버 그래픽 처리 장치(GPU) 환경으로 확대해 고객이 더 빠르고 편리하게 AI를 이용하도록 할 계획입니다.

카톡