IBM은 2026년 10월 15일 채팅, 의사결정, 음성 인식 기능을 결합한 Granite Switch 4.1을 공개했습니다. 8B와 30B 모델은 단일 호스팅 엔드포인트에서 작업을 전환합니다. IBM에 따르면 범용 Decision aLoRA, 안전 관련 판단을 위한 Guardian aLoRA, 그리고 회사가 OpenASR 리더보드에서 가장 빠른 음성 인식(음성을 글자로 변환하는 기술) 모델이라고 부르는 Granite-Speech-5.0-Turbo-CTC가 포함됩니다.

IBM은 세 기술과 기본 모델을 함께 실행해도 기본 모델만 사용할 때와 GPU 메모리 사용량이 거의 같다고 밝혔습니다. Switch 어댑터는 캐시 효율을 높인 Activated LoRAs로, 기본 모델 생성에 쓰인 KV 캐시를 이후 어댑터 기반 판단에도 재사용합니다. IBM은 빠른 저랭크 어댑터 추론을 위한 vLLM 기여와 ASR 인코더의 동일 시스템 내 배치도 채팅·판단·음성 요청 사이의 빠른 전환을 뒷받침한다고 설명했습니다.

IBM의 Speech-to-Decisions 시연은 한 엔드포인트에서 실시간으로 음성을 받아쓰고, 요약을 생성하며, 유해 콘텐츠를 가리고, 사용자가 정의한 15개 추가 항목을 확인합니다. IBM은 특화된 Granite Libraries 어댑터가 전문 분류 작업에서 범용 의사결정 모델보다 나은 성능을 낼 수 있다고 밝혔습니다. 기본 모델의 KV 캐시를 공유하면 범용 의사결정 어댑터에 전문 어댑터를 추가하는 비용은 거의 들지 않는다고 회사는 설명했습니다.

5단계 검색 증강 생성(RAG) 작업흐름 비교에서, 기본 Granite 모델을 고정하고 특화 aLoRA 4개를 사용한 Granite-Switch-4.1-30B는 기본 Qwen 모델을 고정하고 범용 의사결정 LoRA 1개를 사용한 Jev-27B보다 작업을 훨씬 빠르게 마쳤습니다. IBM은 Granite Libraries 어댑터로 맞춤형 Switch 모델을 구성할 수 있으며, Mellea에서 어댑터를 학습시키는 Adapter SDK를 계획하고 있다고 밝혔습니다. 한 사례로 맞춤형 3B 매개변수 Granite Switch 모델은 Doom을 플레이하며 초당 60~100회 판단을 내렸습니다. 이는 Jev가 보고한 초당 10회보다 많았으며, 해당 모델은 게임 중 음성으로 상황을 설명하고 질문에도 답할 수 있었습니다.

IBM은 2026년 10월 15일 채팅, 의사결정, 음성 인식 기능을 결합한 Granite Switch 4.1을 공개했습니다. 8B와 30B 모델은 단일 호스팅 엔드포인트에서 작업을 전환합니다. IBM에 따르면 범용 Decision aLoRA, 안전 관련 판단을 위한 Guardian aLoRA, 그리고 회사가 OpenASR 리더보드에서 가장 빠른 음성 인식(음성을 글자로 변환하는 기술) 모델이라고 부르는 Granite-Speech-5.0-Turbo-CTC가 포함됩니다.

IBM은 세 기술과 기본 모델을 함께 실행해도 기본 모델만 사용할 때와 GPU 메모리 사용량이 거의 같다고 밝혔습니다. Switch 어댑터는 캐시 효율을 높인 Activated LoRAs로, 기본 모델 생성에 쓰인 KV 캐시를 이후 어댑터 기반 판단에도 재사용합니다. IBM은 빠른 저랭크 어댑터 추론을 위한 vLLM 기여와 ASR 인코더의 동일 시스템 내 배치도 채팅·판단·음성 요청 사이의 빠른 전환을 뒷받침한다고 설명했습니다.

IBM의 Speech-to-Decisions 시연은 한 엔드포인트에서 실시간으로 음성을 받아쓰고, 요약을 생성하며, 유해 콘텐츠를 가리고, 사용자가 정의한 15개 추가 항목을 확인합니다. IBM은 특화된 Granite Libraries 어댑터가 전문 분류 작업에서 범용 의사결정 모델보다 나은 성능을 낼 수 있다고 밝혔습니다. 기본 모델의 KV 캐시를 공유하면 범용 의사결정 어댑터에 전문 어댑터를 추가하는 비용은 거의 들지 않는다고 회사는 설명했습니다.

5단계 검색 증강 생성(RAG) 작업흐름 비교에서, 기본 Granite 모델을 고정하고 특화 aLoRA 4개를 사용한 Granite-Switch-4.1-30B는 기본 Qwen 모델을 고정하고 범용 의사결정 LoRA 1개를 사용한 Jev-27B보다 작업을 훨씬 빠르게 마쳤습니다. IBM은 Granite Libraries 어댑터로 맞춤형 Switch 모델을 구성할 수 있으며, Mellea에서 어댑터를 학습시키는 Adapter SDK를 계획하고 있다고 밝혔습니다. 한 사례로 맞춤형 3B 매개변수 Granite Switch 모델은 Doom을 플레이하며 초당 60~100회 판단을 내렸습니다. 이는 Jev가 보고한 초당 10회보다 많았으며, 해당 모델은 게임 중 음성으로 상황을 설명하고 질문에도 답할 수 있었습니다.