GPT-6 Astra 열풍, AI는 얼마나 많은 자원을 소모할까?

작성자: AIB Team·2026년 9월 11일 (금)
GPT-6 Astra 열풍, AI는 얼마나 많은 자원을 소모할까?

GPT-6, 출시 일주일 만에 가입을 제한

며칠 전 출시된 OpenAI의 최신 AI 모델 GPT-6 Astra가 큰 관심을 받고 있습니다. OpenAI는 작년 말부터 개발자와 AI 헤비 유저 사이에서 앤트로픽의 클로드에 다소 밀리는 듯한 평가를 받아왔는데, Astra의 등장으로 약 1년 만에 왕좌를 되찾은 듯한 모습이죠.

그러던 오늘 새벽, OpenAI는 안정적인 Astra 접속 환경을 제공하기 위해 월 200달러짜리 ChatGPT Pro 20X 요금제의 신규 가입과 업그레이드를 일시 중단한다고 밝혔습니다. 상대적으로 많은 사용량을 제공하는 이 요금제가 시스템에 가장 큰 부담을 주고 있어, 신규 가입을 제한하고 기존 이용자를 우선하기로 한 것입니다. 기존 Pro 20X 이용자는 계속 서비스를 사용할 수 있으며, 월 100달러 Pro를 비롯한 다른 요금제와 API도 이번 조치의 영향을 받지 않습니다. OpenAI는 필요한 계산 용량을 최대한 빠르게 확충하고 있다고 설명했습니다.

이번 조치는 Astra의 인기를 보여주는 동시에, 대규모 AI 기업도 최신 모델을 모든 이용자에게 충분히 제공할 계산 자원을 단기간에 확보하기는 어렵다는 사실을 보여줍니다.


AI의 ‘학습’과 ‘추론’

AI가 계산 자원을 사용하는 과정은 크게 학습과 추론으로 나뉩니다.

학습은 새로운 AI 모델을 만드는 과정입니다. 많은 GPU를 연결해 대량의 데이터와 문제를 반복해서 처리하며 모델의 능력을 형성합니다. 일반적으로 수주에서 수개월 동안 진행되며, 학습이 완료되면 해당 작업도 종료됩니다. 이후 서비스 이용자가 증가하더라도 이미 끝난 학습의 계산량이 다시 늘어나지는 않습니다. 참고로 GPT-6 Astra는 10만 개 이상의 GPU를 학습에 사용했다고 합니다.

추론은 완성된 모델이 이용자의 요청을 처리하는 과정입니다. 질문에 답하고 문서를 작성하거나, 자료를 조사하고 프로그램을 실행할 때마다 새로운 계산이 발생합니다. 따라서 추론에 필요한 전체 계산량은 이용자 수와 사용량에 따라 계속 증가합니다.

추론용 GPU 수요는 대략 다음 관계로 설명할 수 있습니다.

필요한 GPU 수 ≈ 초당 요청 수 × 요청당 GPU 사용 시간 ÷ GPU 운영 효율

요청당 GPU 사용 시간은 모델의 크기와 입력·출력 길이, 추론 단계, 작업 시간 등에 따라 달라집니다. 긴 문서를 읽거나 복잡한 문제를 여러 단계로 검토하는 작업은 짧은 질문보다 더 많은 계산이 필요합니다.

특히 최신 에이전트형 AI는 하나의 요청을 처리하면서 모델을 여러 차례 호출합니다. 계획 수립, 자료 조사, 도구 실행, 결과 확인과 수정 단계마다 추론이 반복되기 때문입니다. 하나의 작업이 수십 분 이상 이어지면 그동안 필요한 계산 자원도 계속 누적되어, 필요한 계산 자원의 양도 점점 더 늘어나고 있는 추세입니다.


GPU 10만 개는 어느 정도 규모일까?

NVIDIA의 젠슨 황 CEO에 따르면 GPT-6 Astra는 10만 개가 넘는 Grace Blackwell GPU로 학습됐습니다. OpenAI가 10만 개 이상의 GPU를 하나의 모델 학습에 투입한 첫 사례입니다.

GPU 10만 개, 비용으로 환산하면,

  • GPU 칩만 구매: 약 4.2~5.6조 원

  • 서버·랙까지 구성: 약 5.4~6.6조 원

  • 데이터센터 건설: 약 2.4~5.5조 원

    • 초기 구축비 합계: 약 8~12조 원
  • 전기료: 하루 7~13억 원, 90일 650~1,180억 원

    • 전력 사용량: 하루 40만~72만 가구, 약 90만~160만 명이 생활하는 데 사용하는 양

AI 경쟁은 인프라 경쟁으로 확대

OpenAI는 미국에서 5GW가 넘는 Stargate 데이터센터 용량을 개발하고 있으며, 완공 후 200만 개 이상의 칩을 가동할 계획입니다. 장기적으로는 10GW 규모의 AI 인프라를 구축한다는 목표입니다. 이는 1GW급 발전소 10기의 설비 용량에 해당합니다.

구글은 데이터센터와 AI 연산 장비에 대규모 투자를 이어가고 있으며, 메타는 270억 달러 규모의 Hyperion 데이터센터를 건설하고 있습니다. 오라클은 OpenAI와 함께 미국 여러 지역에서 Stargate 데이터센터를 확대하고 있고, 스페이스X는 인수한 xAI의 Colossus 데이터센터를 중심으로 AI 연산 능력을 확충하고 있습니다.

AI 경쟁은 더 좋은 알고리즘을 개발하는 연구만으로 끝나지 않습니다. 대규모 최신 GPU를 확보하고, 수천 개의 서버 랙을 초고속 네트워크로 연결하며, 이를 가동할 데이터센터와 냉각 시설, 안정적인 전력 공급망을 함께 구축해야 합니다.

한국도 GPU 확보와 AI 모델 개발에 투자를 확대하고 있습니다. 그러나 계약된 GPU의 총수만큼 중요한 것은 최신 장비가 실제로 언제 설치되고, 얼마나 큰 단위로 연결되며, 안정적으로 운영될 수 있는가입니다.

좋은 모델을 개발하는 능력에 더해, 완성된 모델을 많은 사람이 사용할 수 있을 만큼 충분한 계산 자원과 전력을 확보하는 능력이 AI 경쟁의 다음 승부처가 되고 있습니다.

카톡 문의