인텔코리아, 에이전틱 AI 시대 CPU 중요성 강조

전자신문 테크서밋 2026이 28일 서울 여의도 콘래드 서울에서 열렸습니다. 조민성 인텔코리아 기술총괄 상무는 ‘에이전틱 AI 시대, CPU가 다시 중요해지는 이유’를 주제로 발표하며, AI 시장의 다음 성장 동력으로 중앙처리장치(CPU)를 지목했습니다. 생성형 AI 인프라를 이끌어온 그래픽처리장치(GPU) 중심 구조에서 AI가 작업을 직접 수행하는 에이전틱 AI 시대로 넘어가면 CPU 역할이 커질 것이라는 설명입니다.

조 상무는 기업이 업무에 AI 2~3개를 필수적으로 사용하고 있다며, 에이전틱 AI가 조직 전반으로 확산되는 흐름은 피할 수 없다고 말했습니다. 에이전틱 AI는 사용자 지시를 바탕으로 목표를 정하고 계획을 세운 뒤 작업을 실행하는 AI입니다. 질문에 답하는 데 집중하는 기존 챗봇과 달리 계획과 실행, 결과 확인을 반복해 목표 달성을 시도하며, 이 과정에 대규모 언어모델(문장을 이해하고 생성하는 AI)의 추론을 비롯한 여러 연산이 필요합니다.

인텔은 CPU가 작업 순서를 조정하고 상태를 관리하며 외부 도구를 실행해 전체 과정을 통제한다고 설명했습니다. 따라서 서비스 성능은 단위 시간당 토큰 처리량뿐 아니라 실제 작업을 얼마나 빠르고 효율적으로 끝내는지로 평가해야 한다는 주장입니다. 검색, 도구 실행, 데이터 처리 등 CPU 담당 작업은 에이전틱 AI 워크로드(실제 업무 처리 과정) 전체 실행 시간의 40~88%를 차지할 수 있다고 인텔은 밝혔습니다.

인텔은 에이전틱 AI가 한 작업을 끝내기 위해 추론과 도구 호출을 여러 차례 반복하고, 코딩 작업은 일반 챗봇 대화보다 훨씬 많은 토큰을 쓸 수 있다고 설명했습니다. 이에 따라 토큰당 처리 비용뿐 아니라 CPU 실행 비용과 자원 활용률도 고려해야 한다고 밝혔습니다.

인텔은 CPU와 GPU를 결합한 이기종 컴퓨팅(서로 다른 처리 장치의 협력)이 성능과 비용 효율을 함께 확보할 대안이라고 제시했습니다. CPU에 적합한 작업은 CPU가 맡고 고성능 추론에는 GPU 등 가속기를 쓰는 방식입니다. 모델 학습 중심에서 추론, 검색 증강 생성, 에이전틱 AI로 발전하면서 CPU와 GPU 비중이 점차 균형을 이루고, 향후 소프트웨어가 작업 특성에 따라 CPU와 가속기를 선택하는 구조로 바뀔 수 있다고 전망했습니다. 조 상무는 일관된 AI 소프트웨어 스택으로 다양한 에이전틱 AI의 개발과 실행을 가속하겠다고 말했습니다.

전자신문 테크서밋 2026이 28일 서울 여의도 콘래드 서울에서 열렸습니다. 조민성 인텔코리아 기술총괄 상무는 ‘에이전틱 AI 시대, CPU가 다시 중요해지는 이유’를 주제로 발표하며, AI 시장의 다음 성장 동력으로 중앙처리장치(CPU)를 지목했습니다. 생성형 AI 인프라를 이끌어온 그래픽처리장치(GPU) 중심 구조에서 AI가 작업을 직접 수행하는 에이전틱 AI 시대로 넘어가면 CPU 역할이 커질 것이라는 설명입니다.

조 상무는 기업이 업무에 AI 2~3개를 필수적으로 사용하고 있다며, 에이전틱 AI가 조직 전반으로 확산되는 흐름은 피할 수 없다고 말했습니다. 에이전틱 AI는 사용자 지시를 바탕으로 목표를 정하고 계획을 세운 뒤 작업을 실행하는 AI입니다. 질문에 답하는 데 집중하는 기존 챗봇과 달리 계획과 실행, 결과 확인을 반복해 목표 달성을 시도하며, 이 과정에 대규모 언어모델(문장을 이해하고 생성하는 AI)의 추론을 비롯한 여러 연산이 필요합니다.

인텔은 CPU가 작업 순서를 조정하고 상태를 관리하며 외부 도구를 실행해 전체 과정을 통제한다고 설명했습니다. 따라서 서비스 성능은 단위 시간당 토큰 처리량뿐 아니라 실제 작업을 얼마나 빠르고 효율적으로 끝내는지로 평가해야 한다는 주장입니다. 검색, 도구 실행, 데이터 처리 등 CPU 담당 작업은 에이전틱 AI 워크로드(실제 업무 처리 과정) 전체 실행 시간의 40~88%를 차지할 수 있다고 인텔은 밝혔습니다.

인텔은 에이전틱 AI가 한 작업을 끝내기 위해 추론과 도구 호출을 여러 차례 반복하고, 코딩 작업은 일반 챗봇 대화보다 훨씬 많은 토큰을 쓸 수 있다고 설명했습니다. 이에 따라 토큰당 처리 비용뿐 아니라 CPU 실행 비용과 자원 활용률도 고려해야 한다고 밝혔습니다.

인텔은 CPU와 GPU를 결합한 이기종 컴퓨팅(서로 다른 처리 장치의 협력)이 성능과 비용 효율을 함께 확보할 대안이라고 제시했습니다. CPU에 적합한 작업은 CPU가 맡고 고성능 추론에는 GPU 등 가속기를 쓰는 방식입니다. 모델 학습 중심에서 추론, 검색 증강 생성, 에이전틱 AI로 발전하면서 CPU와 GPU 비중이 점차 균형을 이루고, 향후 소프트웨어가 작업 특성에 따라 CPU와 가속기를 선택하는 구조로 바뀔 수 있다고 전망했습니다. 조 상무는 일관된 AI 소프트웨어 스택으로 다양한 에이전틱 AI의 개발과 실행을 가속하겠다고 말했습니다.