AMD, Taalas 인수로 AI 추론 강화
- •AMD가 모델 가중치를 실리콘에 직접 새기는 Taalas 인수로 AI 추론 성능 개선에 나섰다
- •Taalas HC1은 TSMC 6nm에서 Llama 3.1 8B를 초당 16,960토큰으로 처리했다
- •이번 거래는 규제 승인 절차를 거쳐 4분기 마무리될 것으로 예상된다
AMD는 2026년 8월 6일 토론토 기반 AI 칩 기업 Taalas를 인수했다고 발표했다. Taalas는 모델 가중치를 실리콘에 직접 넣어 추론 성능을 높이는 기술을 개발해 왔다. 이번 거래는 목요일 장 마감 무렵 공개됐으며, 인수 금액은 공개되지 않았다. 원문은 인재 인수보다 기업 인수에 가까워 보인다고 설명했다. Taalas는 2023년 설립됐고, 코드 어시스턴트 같은 AI 에이전트가 쓰는 ‘프리미엄’ 추론 서비스용 칩을 만든다. AMD는 Nvidia가 장악한 AI 하드웨어 시장에서 더 빠르고 저렴한 운영을 원한다.
Taalas의 방식은 기존 GPU, Groq LPU, Cerebras 웨이퍼스케일 가속기와 다르다. 이 칩은 모델 가중치를 저장하는 데 HBM을 쓰지 않고, 가중치를 실리콘에 새겨 모델별 집적회로인 MSIC(특정 모델용 칩)로 만든다. Taalas는 February에 TSMC 6nm 공정으로 만든 첫 HC1 테스트 칩을 공개했고, Meta의 Llama 3.1 8B를 초당 16,960토큰으로 처리했다고 밝혔다. 당시 성능은 Nvidia GPU보다 48x 빠르고 Cerebras 가속기보다 8.5x 빨랐다.
Taalas는 프로세서 작동 방식에 대해 공개적으로 많은 내용을 밝히지 않았다. 다만 원문에 따르면 칩에는 모델 가중치를 새긴 mask-ROM recall fabric과 KV 캐시 및 파인튜닝 어댑터를 저장하는 SRAM recall fabric이라는 2개 주요 영역이 있다. 올여름 나올 예정인 2세대 HC2 칩은 용량을 20 billion parameters까지 높이는 것을 목표로 한다. 칩 1개당 20 billion parameters라면 trillion-parameter 모델에는 50개 가속기가 필요하며, AMD의 랙 규모 컴퓨팅 플랫폼은 이런 시스템을 수용할 수 있다.
원문에 따르면 AMD는 Instinct 기반 Helios 랙과 Taalas 기술 기반 칩을 결합할 것으로 예상된다. 이 구성은 계산량이 많은 프롬프트 처리에는 GPU를 쓰고, 토큰 생성에는 Taalas 기반 가속기를 쓰는 방식이다. AMD AI 담당 수석부사장 뱀시 보파나(Vamsi Boppana)는 AMD가 고객이 각 AI 워크로드에 맞는 컴퓨팅을 쓸 수 있도록 “풀스택 AI 플랫폼”을 구축하고 있다고 말했다.
주요 한계는 배포된 Taalas 칩이 실리콘에 새겨진 모델에 묶인다는 점이다. LoRA 어댑터 수준을 넘는 변경은 비용과 시간이 많이 드는 칩 재설계가 필요하다. 다만 Taalas는 금속 2개 층만 바꾸면 되기 때문에 전체 재시작은 아니라고 설명한다. 원문은 모델 개발자, 인프라 제공업체, 일부 추론 제공업체가 주요 사용자가 될 가능성이 높다고 봤다. Taalas는 February에 The Next Platform에 모델 가중치를 실리콘에 새기는 방식이 프런티어 모델 학습보다 100x 저렴하다고 말했다.
원문은 이번 인수가 모델 개발에도 영향을 줄 수 있다고 설명했다. 토큰당 비용이 낮아지고 출력 속도가 높아지면, 모델이 답변 전에 더 오래 계산하도록 하는 test-time scaling을 더 많이 지원할 수 있기 때문이다. test-time scaling은 더 많은 토큰을 쓰기 때문에 챗봇, 코드 어시스턴트, 에이전트에서 비용과 지연을 키운다. Taalas 기반 시스템이 토큰당 비용을 낮추고 출력 속도를 10x 또는 20x 개선한다면 모델 개발자들은 추론 시간을 더 늘릴 수 있다. 이번 인수는 규제 승인을 전제로 4분기 마무리될 것으로 예상된다.