AI 추론 데이터센터 시장 규모, 점유율 및 2035년까지의 전망

AI 추론 데이터센터 시장은 2026년 2,709.2억 달러 규모로 평가되며, 2025년 1,627.1억 달러에서 2035년에는 1조 558.7억 달러에 이를 것으로 전망됩니다. 2025~2035년 연평균 성장률(CAGR)은 20.56%입니다(DC Market Insights 추정). 이 시장의 자금 흐름을 좌우하는 것은 모델의 크기가 아니라 토큰 트래픽입니다. Google은 2026년 3분기 자사 1차 모델 API가 분당 약 320억 개의 토큰을 처리했다고 밝혔는데, 이는 1년 전의 4배가 넘는 수준이며, 처리되는 모든 토큰은 어딘가에서 전력과 냉각이 공급되는 가속기 위에서 실행되어야 합니다. Amazon Web Services(AWS)는 2026년 10월 추론이 이미 자사 인공지능(AI) 매출의 절반을 훨씬 넘는다고 밝혔습니다. 과거 학습용으로 데이터홀 규모를 정하던 구매자들이 이제는 서빙을 기준으로 규모를 정하고 있다는 뜻입니다. 2025년 수치의 산출 근거는 추론용으로 배치된 AI IT 부하 3.77 GW(전 세계에 배치된 AI IT 부하 9.04 GW의 41.70%) × MW당 총지출 4,316만 달러 = 1,627.1억 달러입니다.

이 시장은 학습이 끝난 AI 모델을 서비스하기 위해 구축·장비된 데이터센터 용량을 포괄합니다. 즉 가속 서버, 네트워킹, 전력 및 냉각, 건물 외피(쉘), 스토리지, 그리고 추론 인프라를 운영하는 소프트웨어와 서비스를 하이퍼스케일 클라우드, GPU 클라우드, 코로케이션, 기업 사이트, 엣지 추론 사이트 전반에 걸쳐 포함합니다. 운영자 유형 중에서는 엣지 추론 사이트가 연 32.13%로 가장 빠르게 성장하는데, 지연 시간에 민감한 에이전트와 음성 서비스가 컴퓨팅을 사용자 가까이로 끌어당기기 때문입니다. 지역별로는 중동 및 아프리카가 28.48%로 가장 빠르며, 국가 주도 추론 캠퍼스를 기반으로 연 32.34% 성장하는 사우디아라비아의 25.8억 달러 시장이 이를 이끌고 있습니다.

주요 시장 통계: 2026년 AI 추론 데이터센터 시장의 규모는 얼마인가?

DC Market Insights 추정에 따르면 AI 추론 데이터센터 시장은 2026년 2,709.2억 달러로, 2025년의 1,627.1억 달러보다 66.50% 증가한 규모입니다.

• 2025년 시장 규모: 1,627.1억 달러
• 2026년 시장 규모: 2,709.2억 달러
• 2030년 시장 규모: 6,334.1억 달러
• 2035년 시장 규모: 1조 558.7억 달러
• 2025~2035년 CAGR: 20.56%(저성장 시나리오 17.15%, 고성장 시나리오 22.68%)
• 최대 지출 계층: 가속 서버 및 가속기, 2025년 992.5억 달러(61.00%)
• 가장 빠르게 성장하는 운영자 유형: 엣지 추론 사이트, 연 32.13%
• 선도 지역: 북미, 2025년 가치의 54.00%; 가장 빠르게 성장하는 지역: 중동 및 아프리카, 28.48%
• 최대 국가: 미국, 2025년 801.3억 달러
• 시장 선도 기업: NVIDIA가 2025년 가치의 72.00%를 차지하는 범용(머천트) GPU 부문의 대부분을 공급

핵심 요약: 추론 용량 구매자가 알아야 할 것은 무엇인가?

2026년 구매자와 공급업체를 위해 AI 추론 데이터센터 시장을 네 가지 요점과 그 이유로 정리합니다.

• AI 데이터센터 지출에서 추론이 차지하는 비중은 2025년 41.70%에서 2035년 65.47%로 높아집니다. 학습은 주기적으로 이루어지는 반면, 서빙 트래픽은 사용자와 에이전트가 늘어날 때마다 함께 증가하기 때문입니다.
• MW당 지출은 2025년 4,316만 달러에서 2035년 3,237만 달러로 완만하게 낮아집니다. 가속기 세대가 바뀔 때마다 와트당 더 많은 토큰을 처리하기 때문입니다.
• 하이퍼스케일러 맞춤형 ASIC은 연 25.00% 성장해 3,484.4억 달러에 이릅니다. Google, Amazon, Microsoft가 대용량 서빙을 자체 칩으로 옮기고 있기 때문입니다.
• 엣지 추론 사이트는 65.1억 달러에서 1,055.9억 달러로 성장합니다. 음성 및 에이전트 서비스는 수백 밀리초 이내의 응답이 필요하기 때문입니다.

요약 보고: AI 추론 데이터센터 지출은 얼마나 빠르게 증가하고 있는가?

전 세계 AI 추론 데이터센터 시장 규모는 2020년 118.5억 달러로 평가되었고, 2025년 1,627.1억 달러에 도달했으며, 예측 기간 동안 20.56%의 CAGR로 2035년에는 1조 558.7억 달러에 이를 것으로 예상됩니다.

항목	값
과거 기간	2020-2024
기준 연도	2025
예측 기간	2026-2035
2025년 시장 규모	1,627.1억 달러
2026년 시장 규모	2,709.2억 달러
2025~2035년 CAGR	20.56%
2035년 시장 규모	1조 558.7억 달러

AI 추론 데이터센터 시장은 생성형 AI 서비스가 잇따라 출시되면서 2020년부터 2025년까지 연 68.86% 성장했으며, 이후 설치 기반이 커지고 토큰당 비용이 떨어지면서 연 20.56%로 성장세가 둔화됩니다. DC Market Insights는 연간 배치되는 추론 용량이 2025년 3.77 GW에서 2030년 15.74 GW, 2035년 32.62 GW로 증가할 것으로 추정합니다.

AI 추론 데이터센터 시장에는 무엇이 포함되는가?

AI 추론 데이터센터 시장은 학습된 모델을 사용자, 애플리케이션, 에이전트에 제공하는 용량에 대한 2025년 지출 1,627.1억 달러를 집계합니다.

포함 항목: 추론 서비스에 투입된 가속 서버와 가속기, 추론 데이터홀 내부 및 데이터홀 간 네트워킹, 전력 및 냉각 설비, 추론 용량을 위한 건물 외피와 내부 설비 공사, 모델 가중치와 컨텍스트 캐시를 위한 스토리지, 그리고 서빙 인프라를 운영하는 오케스트레이션 소프트웨어와 서비스.

제외 항목: 모델 학습 및 미세 조정에 사용되는 용량, 전기 요금, 토지, 소비자 기기와 휴대폰·개인용 컴퓨터의 온디바이스 추론, 그리고 토큰 판매로 얻는 API 또는 구독 매출.

세그먼트 간 관계: 모든 세그먼트 표의 합계는 매년 시장 전체와 일치합니다. AI 추론 데이터센터 시장은 AI 데이터센터 시장의 워크로드별 하위 영역이며, 해당 시장의 추론 항목은 이 수치와 정확히 일치합니다(2025년 1,627.1억 달러, 2035년 1조 558.7억 달러).

AI 추론 데이터센터 시장 추정치는 왜 서로 다른가?

DC Market Insights는 2026년 AI 추론 데이터센터 시장을 2,709.2억 달러로 봅니다. 비슷한 이름으로 발표된 수치들은 수십억 달러에서 수천억 달러까지 다양한데, 이는 집계 대상이 서로 다르기 때문입니다.

좁은 정의는 추론 칩이나 추론 서버만 집계하므로 네트워킹, 전력, 냉각, 데이터홀 자체가 빠집니다. 넓은 정의는 서비스형 추론 매출을 집계하는데, 이는 그 뒤에 있는 용량의 비용이 아니라 판매된 토큰의 가격입니다. 일부 추정치는 데이터센터를 전혀 거치지 않는 스마트폰과 개인용 컴퓨터의 온디바이스 추론까지 더합니다. DC Market Insights는 데이터센터 내 용량 지출만 집계하므로, 그 추정치는 좁은 관점과 넓은 관점의 중간에 위치합니다.

요소	DC Market Insights 집계 여부	이유
추론 가속기 및 서버	예, 992.5억 달러(2025년)	서빙 용량의 핵심
네트워킹, 전력, 냉각, 건물 외피, 스토리지	예, 414.9억 달러(2025년)	가속기 운영에 필요
서빙 소프트웨어 및 서비스	예, 219.7억 달러(2025년)	인프라 운영
학습 용량	아니요	AI 데이터센터 시장에서 다룸
토큰 및 API 매출	아니요	용량이 아닌 가격
온디바이스 추론	아니요	데이터센터 밖에서 발생

중소기업도 GPU 클라우드, 코로케이션 또는 자체 서버실을 통해 추론 용량을 구매하는 경우 집계 범위에 포함되며, 이들의 지출은 주로 기업 온프레미스 및 GPU 클라우드·네오클라우드 세그먼트에 반영됩니다.

시장 성장 요인: 무엇이 AI 추론 데이터센터 지출을 끌어올리고 있는가?

측정 가능한 세 가지 힘이 AI 추론 데이터센터 시장을 2025년 1,627.1억 달러에서 2030년 6,334.1억 달러로 끌어올립니다.

Google 1차 API, 분당 320억 토큰 도달

Google은 2026년 2월, 2025년 4분기에 고객들이 직접 API 사용을 통해 분당 100억 개가 넘는 토큰을 처리했다고 밝혔고, 2026년 10월에는 더 넓은 기준으로 자사 1차 모델 API가 분당 약 320억 개의 토큰을 처리해 1년 전의 4배를 넘었다고 발표했습니다(Alphabet, 2026년 3분기 실적). 24시간 가동해야 하는 가속기의 수를 결정하는 것은 모델 출시가 아니라 처리되는 토큰입니다. DC Market Insights가 배치되는 추론 용량을 2025년 3.77 GW, 2030년 15.74 GW로 모델링한 이유가 여기에 있습니다.

4대 구매자의 2026년 설비투자 가이던스, 약 7,100억 달러

Alphabet은 2026년 설비투자를 1,750억~1,850억 달러로 제시했고(2026년 2월), Amazon은 약 2,200억 달러(2026년 10월), Microsoft는 2026년 역년 기준 약 1,700억 달러(2026년 10월), Meta는 1,350억~1,450억 달러(2026년 10월)를 예상합니다. 중간값 기준으로 약 7,100억 달러이며, 2026년 2,709.2억 달러인 AI 추론 데이터센터 시장은 그 38.16%에 해당합니다. Amazon은 추론이 이미 AWS AI 매출의 절반을 훨씬 넘는다고 밝혔으므로(Amazon, 2026년 10월), 이 설비투자 가운데 서빙 용량이 차지하는 몫이 점점 커지고 있습니다.

서빙을 위해 설계된 칩: Ironwood, Maia 200, Rubin CPX

Google은 Ironwood 텐서 처리 장치(TPU)를 추론 전용으로 설계된 최초의 TPU라고 소개했으며(2025년 4월), 9,216개의 액체 냉각 칩으로 구성된 포드와 Trillium 대비 2배의 와트당 성능을 갖추고 있습니다. Microsoft는 2026년 10월 Maia 200이 Teams와 Copilot에서 와트당 최대 1.7배 더 많은 토큰을 처리한다고 밝혔고, NVIDIA는 장문 컨텍스트 추론용 그래픽 처리 장치(GPU)인 Rubin CPX를 2026년 말 출시할 계획입니다(NVIDIA, 2025년 9월). 이러한 칩들은 하이퍼스케일러 맞춤형 ASIC을 2025년 374.2억 달러에서 2035년 3,484.4억 달러로 끌어올립니다.

시장 동향: 추론 데이터홀 설계는 어떻게 달라지고 있는가?

두 가지 설계 변화가 추론 데이터홀의 구매 항목을 바꾸고 있으며, 둘 다 AI 추론 데이터센터 시장에서 네트워킹과 메모리의 비중을 높입니다.

프리필과 디코드, 별도 랙으로 분리

NVIDIA는 2026년 8월 256개의 LP30 가속기를 칩 간 직접 연결한 Groq 3 LPX 디코드 랙이 본격 양산에 들어갔으며 Nebius가 첫 도입 기업이라고 밝혔습니다. 한편 Vera Rubin NVL144 CPX 랙은 컨텍스트 처리가 많은 프리필 단계를 위해 8 엑사플롭스와 100 TB의 고속 메모리를 결합합니다. 두 단계를 분리하면 랙 간 트래픽이 늘어나며, 이것이 네트워킹 및 인터커넥트가 연 22.65% 성장해 1,003.1억 달러에 이르는 이유입니다.

추론 전용 클라우드, 자체 사이트 개설

Cerebras는 2025년 3월 Santa Clara, Stockton, Dallas, Minneapolis, Oklahoma City, Montreal 및 기타 미국·유럽 사이트에 추론 데이터센터 네트워크를 구축해 초당 4,000만 개 이상의 Llama 70B 토큰을 서비스하겠다고 발표했으며, 그중 85%는 미국에 위치합니다(Cerebras, 2025년 3월). Groq는 초당 2,000만 개 이상의 토큰을 서비스하는 가운데 2025년 7월 Equinix와 함께 Helsinki 사이트를 열었습니다. 전용 추론 가속기는 2025년 81.4억 달러에서 연 30.46% 성장합니다.

시장 과제: 추론 용량 증가를 제약하는 요인은 무엇인가?

전력 공급과 토큰당 가격 하락이라는 두 가지 제약 때문에 AI 추론 데이터센터 시장의 성장률은 2020~2025년의 68.86%가 아닌 연 20.56%에 머뭅니다.

전력망 용량: 2028년 미국 전력의 6.7~12%

미국 에너지부(DOE)는 2024년 12월 데이터센터가 2023년 미국 전력의 약 4.4%를 사용했으며 2028년에는 6.7~12%(325-580 TWh)를 사용할 수 있다고 보고했습니다(DOE, 2024년 12월). 추론 인프라는 거의 쉬지 않고 가동되므로, 전력 사용 효율(PUE) 1.2와 평균 가동률 55%를 가정하면 추론 IT 부하 1 GW당 연간 약 5.8 TWh를 소비합니다. 같은 조건에서 2030년 한 해에 배치되는 추론 용량 15.74 GW만으로도 약 91 TWh가 필요합니다.

저렴해지는 토큰, 낮아지는 메가와트당 지출

NVIDIA 최고경영자는 2026년 2월 NVLink를 탑재한 Grace Blackwell이 토큰당 비용을 한 자릿수 배(10배 수준) 낮춘다고 말했으며, Microsoft와 Google은 칩 세대마다 와트당 토큰 처리량이 1.7~2배 늘어난다고 보고합니다. 1달러당 토큰이 많아질수록 수요 단위당 지출은 줄어듭니다. DC Market Insights가 추론 MW당 총지출을 2025년 4,316만 달러에서 2035년 3,237만 달러로 하락하도록 모델링한 이유가 여기에 있습니다.

시장 기회: 다음 1,000억 달러의 추론 지출은 어디에서 나오는가?

엣지 사이트와 소버린 캠퍼스는 2025년부터 2035년 사이 AI 추론 데이터센터 시장에 약 1,815.1억 달러의 신규 연간 가치를 더합니다.

엣지 추론 사이트: 65.1억 달러에서 1,055.9억 달러로

음성 에이전트, 영상 분석, 매장 내 어시스턴트는 수백 밀리초 이내의 응답이 필요하므로, 외딴 캠퍼스보다 도심 및 엣지 사이트가 유리합니다. DC Market Insights는 엣지 추론 사이트 세그먼트가 연 32.13%로 운영자 유형 중 가장 빠르게 성장할 것으로 추정하며, 이곳의 서버는 엣지 서버 시장을 통해 공급됩니다.

걸프 지역의 소버린 추론: 73.2억 달러에서 897.5억 달러로

사우디아라비아는 2025년 2월 Dammam 데이터센터의 추론 용량 확대를 위해 Groq에 15억 달러를 투자하기로 약정했습니다. DC Market Insights는 중동 및 아프리카가 연 28.48% 성장하고, 그중 사우디아라비아는 32.34%, 아랍에미리트는 30.48% 성장할 것으로 추정합니다.

추론 용량 1메가와트의 비용은 얼마인가?

DC Market Insights는 2025년에 배치된 추론 IT 부하 MW당 총지출을 4,316만 달러로 추정하며, 여기에는 서버, 네트워킹, 전력, 냉각, 건물 외피, 스토리지, 소프트웨어 및 서비스가 포함됩니다.

연도	배치된 추론 IT 부하(GW)	MW당 총지출(백만 달러)	시장(백만 달러)
2020	0.55	21.47	11,852.13
2025	3.77	43.16	162,710.91
2030	15.74	40.24	633,412.29
2035	32.62	32.37	1,055,872.42

공개된 지표들은 2026년 이후의 하락 경로를 뒷받침합니다. NVIDIA는 Rubin CPX가 1억 달러 투자당 50억 달러의 토큰 매출을 돌려줄 수 있다고 주장하며(공급업체 주장, 2025년 9월), Microsoft는 Maia 200이 와트당 최대 1.7배 많은 토큰을 처리한다고, Google은 Ironwood가 Trillium 대비 와트당 2배의 성능을 낸다고 보고합니다. 2025~2026년의 정점은 이러한 개선이 인프라 전반에 확산되기 전에 액체 냉각 랙 규모 시스템이 먼저 가동에 들어간 결과입니다.

어떤 규정이 추론 용량의 구축 위치를 좌우하는가?

DC Market Insights가 2026년 2,709.2억 달러로 평가하는 AI 추론 데이터센터 시장에는 보고 의무, 데이터 위치, 전력을 통해 네 가지 규정이 영향을 미칩니다.

• EU 인공지능법(AI Act): 2024년 8월 1일 발효. 범용 AI 모델에 대한 규정은 2025년 8월 2일부터 적용되었으며, 유럽연합 집행위원회는 현재 부속서 III 고위험 시스템의 적용 시점을 2027년 12월 2일로 제시하고 있습니다(출처: European Commission AI Act Service Desk).
• 위임규정(EU) 2024/1364: 500 kW 이상 데이터센터는 에너지 및 물 사용량을 EU 공통 데이터베이스에 보고해야 합니다(출처: EUR-Lex).
• 미국 에너지부 2024년 12월 보고서: 2028년 데이터센터 전력이 미국 수요의 6.7~12%에 이를 것이라는 전망이 전력회사의 대규모 부하 요금제의 틀을 형성합니다(출처: DOE).
• 국제에너지기구(IEA) Energy and AI 보고서, 2025년 4월: 2030년 데이터센터 전력 약 945 TWh(출처: IEA).

AI 추론 데이터센터 시장은 어떻게 세분화되는가?

AI 추론 데이터센터 시장은 네 가지 기준으로 세분화되며, 가속 서버 및 가속기가 2025년 가치의 992.5억 달러(61.00%)로 가장 큽니다. 모든 값은 DC Market Insights 추정치이며 단위는 백만 달러입니다.

지출 계층별

장문 컨텍스트 서빙에서는 대용량 키-값 캐시를 가속기 가까이에 두어야 하므로, 스토리지가 연 23.29%로 가장 빠르게 성장합니다.

세그먼트	2025년(백만 달러)	2025년 점유율	2035년(백만 달러)	2025~2035년 CAGR
가속 서버 및 가속기	99,253.66	61.00%	596,567.92	19.64%
네트워킹 및 인터커넥트	13,016.87	8.00%	100,307.88	22.65%
전력 및 냉각 인프라	13,830.43	8.50%	92,916.77	20.98%
시설 외피 및 건설	8,135.55	5.00%	46,458.39	19.03%
스토리지	6,508.44	4.00%	52,793.62	23.29%
소프트웨어 및 서비스	21,965.96	13.50%	166,827.84	22.48%
합계	162,710.91	100.00%	1,055,872.42	20.56%

운영자 유형별

하이퍼스케일 클라우드가 2025년 가치의 56.00%를 차지하며, 모델 개발사들이 서빙 용량을 임차하면서 GPU 클라우드 및 네오클라우드 운영자는 연 23.84% 성장합니다.

세그먼트	2025년(백만 달러)	2025년 점유율	2035년(백만 달러)	2025~2035년 CAGR
하이퍼스케일 클라우드	91,118.11	56.00%	496,260.04	18.47%
GPU 클라우드 및 네오클라우드	21,152.42	13.00%	179,498.31	23.84%
코로케이션 임차인	19,525.31	12.00%	147,822.14	22.44%
기업 온프레미스	24,406.64	15.00%	126,704.69	17.90%
엣지 추론 사이트	6,508.43	4.00%	105,587.24	32.13%
합계	162,710.91	100.00%	1,055,872.42	20.56%

가속기 유형별

범용(머천트) GPU는 2025년 가치의 72.00%를 차지하지만, 맞춤형 칩과 전용 칩이 서빙 물량을 가져가면서 2035년에는 56.00%로 낮아집니다.

세그먼트	2025년(백만 달러)	2025년 점유율	2035년(백만 달러)	2025~2035년 CAGR
범용(머천트) GPU	117,151.86	72.00%	591,288.56	17.57%
하이퍼스케일러 맞춤형 ASIC	37,423.51	23.00%	348,437.90	25.00%
전용 추론 가속기	8,135.54	5.00%	116,145.96	30.46%
합계	162,710.91	100.00%	1,055,872.42	20.56%

애플리케이션별

생성형 AI 및 LLM 서빙이 2025년 가치의 56.00%를 차지하며, 에이전트 작업 하나가 여러 번의 모델 호출을 연쇄적으로 일으키기 때문에 에이전틱 및 추론(Reasoning) 워크로드는 연 26.88% 성장합니다.

세그먼트	2025년(백만 달러)	2025년 점유율	2035년(백만 달러)	2025~2035년 CAGR
생성형 AI 및 LLM 서빙	91,118.11	56.00%	675,758.35	22.19%
추천 및 랭킹	37,423.51	23.00%	147,822.14	14.73%
컴퓨터 비전	14,643.98	9.00%	73,911.07	17.57%
음성 및 언어	9,762.65	6.00%	52,793.62	18.39%
에이전틱 및 추론(Reasoning) 워크로드	9,762.66	6.00%	105,587.24	26.88%
합계	162,710.91	100.00%	1,055,872.42	20.56%

DC 독점 분석: 세 개 추론 네트워크의 토큰-메가와트 브리지

토큰-메가와트 브리지는 6개의 입력값을 바탕으로 공개된 토큰 처리율을 설치 IT 메가와트와 용량 가치로 환산하는 DC Market Insights 모델입니다. Google의 1차 API 트래픽만으로도 약 485 MW의 추론 IT 부하가 설치되어 있음을 시사합니다.

입력값: 각 네트워크의 공개 토큰 처리율, 토큰당 IT 에너지 0.5줄(대형 및 소형 모델이 혼재된 인프라에 대한 DC Market Insights 가정), 설치 용량의 평균 가동률 55%, PUE 1.2, MW당 총지출 4,316만 달러(2025년). 토큰 처리율은 Alphabet 2026년 3분기 실적, Cerebras(2025년 3월), Groq(2025년 7월) 자료에서 가져왔습니다.

네트워크	초당 토큰(백만 개)	평균 IT 부하(MW)	설치 IT(MW)	시설 부하(MW)	용량 가치(십억 달러)
Google 1차 모델 API(2026년 3분기)	533	266.7	484.8	581.8	20.93
Cerebras 추론 네트워크 목표(2025년 3월)	40	20.0	36.4	43.6	1.57
Groq 글로벌 네트워크(2025년 7월)	20	10.0	18.2	21.8	0.78

토큰당 0.25줄을 적용하면 Google 수치는 약 242 MW로 절반이 되고, 1.0줄을 적용하면 약 970 MW로 두 배가 됩니다. 고성장 시나리오조차 2025년에 배치된 추론 용량 3,770 MW의 일부에 불과하며, 이는 소비자 앱, 검색 기능, 추천 엔진, 기업용 모델 등 1차 API 밖에 얼마나 많은 서빙 수요가 존재하는지를 보여줍니다.

AI 추론 데이터센터 시장을 선도하는 지역은 어디인가?

북미가 2025년 가치의 878.6억 달러(54.00%)로 선두이며, 중동 및 아프리카가 연 28.48%로 가장 빠르게 성장합니다(DC Market Insights 추정).

지역	2025년(백만 달러)	2025년 점유율	2035년(백만 달러)	2025~2035년 CAGR
북미	87,863.89	54.00%	496,260.04	18.90%
아시아 태평양	42,304.84	26.00%	300,923.64	21.68%
유럽	20,176.15	12.40%	126,704.69	20.17%
중동 및 아프리카	7,321.99	4.50%	89,749.16	28.48%
라틴 아메리카	5,044.04	3.10%	42,234.89	23.68%
합계	162,710.91	100.00%	1,055,872.42	20.56%

북미

북미는 878.6억 달러에서 4,962.6억 달러로 성장합니다. Microsoft는 2026년 6월로 끝나는 분기에 약 1 GW의 용량을 추가했다고 밝혔으며, Cerebras가 계획한 추론 용량의 85%가 미국에 있습니다.

아시아 태평양

아시아 태평양은 연 21.68% 성장해 3,009.2억 달러에 이릅니다. 중국은 2025년 231.8억 달러로 두 번째로 큰 국가이며, 인도는 29.85%로 가장 빠르게 성장하는 대형 시장입니다(DC Market Insights 추정).

유럽

유럽은 연 20.17% 성장해 1,267억 달러에 이릅니다. Groq의 Helsinki 사이트(2025년 7월)와 2025년 8월부터 적용된 EU AI Act의 범용 모델 규정이 유럽 운영자들로 하여금 EU 역내에서 모델을 서비스하도록 이끌고 있습니다.

중동 및 아프리카

중동 및 아프리카는 73.2억 달러에서 연 28.48% 성장합니다. Dammam을 위한 사우디아라비아의 15억 달러 규모 Groq 투자 약정(2025년 2월)은 이 지역에서 가장 분명한 소버린 추론 프로젝트입니다.

라틴 아메리카

라틴 아메리카는 브라질과 멕시코의 클라우드 리전이 스페인어 및 포르투갈어 모델을 위한 서빙 용량을 늘리면서, 연 23.68% 성장해 50.4억 달러에서 422.3억 달러로 확대됩니다(DC Market Insights 추정).

AI 추론 데이터센터에 가장 많이 지출하는 국가는 어디인가?

미국이 2025년 801.3억 달러로 선두이며, 상위 12개국 중 가장 빠르게 성장하는 국가는 연 32.34%의 사우디아라비아입니다(DC Market Insights 추정).

순위	국가	지역	2025년(백만 달러)	2035년(백만 달러)	2025~2035년 CAGR
1	미국	북미	80,131.87	449,452.42	18.82%
2	중국	아시아 태평양	23,183.05	152,346.01	20.72%
3	캐나다	북미	6,501.93	39,947.74	19.91%
4	일본	아시아 태평양	4,991.97	31,439.81	20.20%
5	영국	유럽	4,761.57	28,714.34	19.68%
6	독일	유럽	4,115.93	25,994.74	20.24%
7	대한민국	아시아 태평양	3,426.69	24,565.45	21.77%
8	인도	아시아 태평양	3,045.95	41,494.72	29.85%
9	프랑스	유럽	2,965.89	21,159.98	21.71%
10	사우디아라비아	중동 및 아프리카	2,577.34	42,475.99	32.34%
11	호주	아시아 태평양	2,453.68	18,691.20	22.51%
12	아랍에미리트	중동 및 아프리카	2,328.39	33,304.97	30.48%

인도는 인도어 어시스턴트와 정부 AI 서비스가 국내 용량에서 제공되면서 30.5억 달러에서 414.9억 달러로 연 29.85% 성장하는, 가장 빠르게 성장하는 대형 경제국입니다.

예측 시나리오: 2035년 AI 추론 데이터센터 지출의 범위는?

DC Market Insights는 2035년 AI 추론 데이터센터 시장을 7,919억 달러에서 1조 2,564.9억 달러 사이로 보며, 기본 시나리오는 1조 558.7억 달러입니다.

시나리오	2035년(백만 달러)	2025~2035년 CAGR	가정
저성장	791,904.31	17.15%	전력망 제약과 더 빠른 토큰당 비용 하락
기본	1,055,872.42	20.56%	추론이 AI 데이터센터 지출의 65.47%에 도달
고성장	1,256,488.18	22.68%	에이전틱 워크로드로 작업당 호출 수가 크게 증가

주요 기업 및 시장 점유율: 누가 AI 추론 데이터센터를 구축하고 공급하는가?

5대 클라우드 운영자(AWS, Microsoft, Google, Meta, Oracle)가 2025년 AI 추론 데이터센터 시장 가치의 약 56%를 차지하며, 이는 하이퍼스케일 클라우드 세그먼트와 같은 규모입니다(운영자 설비투자에 기반한 DC Market Insights 추정).

• NVIDIA
• Amazon Web Services (AWS)
• Microsoft
• Google
• Meta
• Oracle
• AMD
• Broadcom
• Cerebras
• Groq
• CoreWeave
• Nebius
• Dell Technologies
• Supermicro
• Equinix
• Digital Realty
• Vertiv

NVIDIA는 2026 회계연도에 사상 최대인 1,937억 달러의 매출을 기록했으며(2026년 2월), 범용 GPU 서빙 시스템의 대부분을 공급합니다. Google, Amazon(Inferentia 및 Trainium), Microsoft(Maia)는 맞춤형 칩으로 자체 인프라를 구축합니다. Cerebras와 Groq는 전용 추론 네트워크를 운영하고, CoreWeave와 Nebius는 모델 개발사에 서빙 용량을 임대합니다.

AI 추론 데이터센터 시장의 최근 동향

2025년 2월 이후 날짜가 확인된 여섯 가지 사건이 2026년 2,709.2억 달러 규모의 AI 추론 데이터센터 시장을 형성하고 있습니다.

• 2026년 10월, Google은 자사 1차 모델 API가 분당 약 320억 개의 토큰을 처리하고 있다고 밝혔습니다(출처: Alphabet 2026년 3분기 실적, Google).
• 2026년 10월, Amazon은 추론이 AWS AI 매출의 절반을 훨씬 넘으며 Trainium 약정이 전년 대비 20배 이상 증가했다고 밝혔습니다(출처: Amazon).
• 2026년 8월, NVIDIA는 Groq 3 LPX 디코드 랙이 본격 양산에 들어갔으며 Nebius가 첫 도입 기업이라고 밝혔습니다(출처: NVIDIA).
• 2025년 7월, Groq는 Equinix와 함께 Helsinki에 유럽 추론 사이트를 열었습니다(출처: Groq).
• 2025년 4월, Google은 추론용으로 설계된 최초의 TPU인 Ironwood를 공개했습니다(출처: Google).
• 2025년 2월, 사우디아라비아는 Dammam의 Groq 추론 용량 확대를 위해 15억 달러를 약정했습니다(출처: Groq).

연구 방법론: DC Market Insights는 AI 추론 데이터센터 시장 규모를 어떻게 산정했는가?

DC Market Insights는 2025년 AI 추론 데이터센터 시장을 AI 데이터센터 지출 3,901.9억 달러 중 추론 비중(41.70%)인 1,627.1억 달러로 산정했으며, AI 데이터센터 지출은 배치된 AI IT 부하 9.04 GW × MW당 총지출 4,316만 달러로 구성됩니다. 추론 비중은 2030년 56.50%, 2035년 65.47%로 높아지며, 지출 계층, 운영자, 가속기, 애플리케이션, 지역, 국가별 세부 구성은 매년 전체 합계와 일치합니다.

세 가지 범위 검증: (1) 2025년 가속 서버 및 가속기 항목 992.5억 달러는 NVIDIA 2026 회계연도 매출 1,937억 달러의 51.24%로, 학습까지 포함하는 상한선입니다. (2) 2026년 시장 2,709.2억 달러는 Alphabet, Amazon, Microsoft, Meta가 제시한 2026년 설비투자 약 7,100억 달러의 38.16%로, 두 번째 상한선입니다. (3) Google의 1차 API 트래픽만으로도 약 209.3억 달러의 용량이 시사되며, 이는 2025년 시장의 12.86%에 해당하는 하한선입니다. 전체 방법론: DC Market Insights 연구 방법론. 관련 보고서: 데이터센터 가속기 시장 및 GPU 서비스(GPUaaS) 시장.