LMSYS Org, SGLang 컨소시엄 출범

LMSYS Org, SGLang 컨소시엄 출범
2026년 11월 13일 금요일
  • •LMSYS Org, 샌프란시스코 첫 SGLang Summit에서 창립 회원 8곳과 SGLang 컨소시엄 출범
  • •Deloitte, AI 연산에서 추론 비중이 2025년 약 절반에서 2026년 약 3분의 2로 증가할 것으로 추산
  • •회원사는 연 2회 로드맵 회의 개최, 기술 결정과 코드 수용 권한은 SGLang 유지관리자에게 유지

오픈소스 AI 추론 엔진 SGLang을 만든 비영리단체 LMSYS Org가 2026년 11월 12일 NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal, RadixArk를 창립 회원으로 SGLang 컨소시엄을 출범했습니다. 샌프란시스코에서 열린 첫 SGLang Summit 개회 기조연설에서 발표됐으며, 컨소시엄은 SGLang 유지관리자들과 프로젝트 로드맵 및 오픈소스 AI 추론을 논의합니다.

Deloitte는 전체 AI 연산에서 추론이 차지하는 비중이 2025년 약 절반에서 2026년 약 3분의 2로 늘 것으로 추산했습니다. SGLang은 PyTorch 생태계에서 최첨단 AI를 지원하는 풀스택 추론 엔진으로, 수십만 개의 GPU에서 실행되며 Meta, Microsoft, Google, Amazon, Thinking Machines Lab, Cloudflare, Reflection, Modal의 대규모 실제 서비스 배포에 사용됩니다.

컨소시엄은 회원사와 유지관리자가 추론 동향을 논의하고 최첨단 모델 지원, 추론, 멀티모달 작업, 분산 추론, 하드웨어 최적화에 관한 엔지니어링 작업을 조율하는 상설 협의체가 됩니다. 각 창립 회원은 기술 대표를 지정해 매년 로드맵 회의 2회에 참석하며, 엔지니어링 전문성, 배포 피드백, 테스트 자원 또는 공동 개발을 지원할 수 있습니다. 실무 그룹은 회의 사이에도 활동할 수 있고, 로드맵 방향과 진행 상황은 공개됩니다. 기술 결정과 코드 수용 권한은 SGLang 유지관리자에게 있으며, 프로젝트는 전체 커뮤니티에 계속 개방됩니다.

SGLang 논문 공동 저자이자 RadixArk 공동 창업자 겸 CEO인 Ying Sheng은 데이터센터 구축의 어려움 속에서 AI 효율을 높이는 소프트웨어 접근이 중요해질 것이라며, 대규모 SGLang 배포에서 얻은 교훈이 사용자와 AI 생태계에 도움이 될 것이라고 말했습니다. NVIDIA 부사장 Ian Buck은 더 나은 소프트웨어가 개발자의 NVIDIA 연산 성능 활용을 돕고, 오픈 모델이 새로운 응용과 사업을 지원하며, 추론 비용을 낮추면 AI 접근성이 높아진다고 밝혔습니다. 첫 SGLang Summit은 11월 12~13일 샌프란시스코 Fort Mason Center for Arts & Culture에서 열렸으며, 강화학습, 멀티모달 모델, 하드웨어 플랫폼을 다룬 세션과 100명 이상의 연사가 참여했습니다.

AIB 뉴스레터를 구독하세요

가장 빠르고 정확한 AI 소식, 이메일로 받아보세요

이 기사와 관련된 기업 정보

이 기사와 관련된 블로그

카톡 문의