AI 인프라 투자 사이클은 지금 어디쯤 와 있는가. GPU 수요가 폭발적으로 증가한 1막이 엔비디아 주가로 상징됐다면, 시장은 이제 2막의 주인공이 누구인지를 묻기 시작했다. SK하이닉스의 HBM(고대역폭 메모리) 개척 역사와 한국 AI 생태계의 '지능 수출' 담론은, 캐펙스 사이클의 무게중심이 실리콘 하드웨어에서 소프트웨어·모델 레이어로 이동하고 있다는 현장 신호로 읽힌다.
HBM이 증언하는 캐펙스 사이클의 구조
AI 연산 인프라에서 GPU와 메모리는 분리해서 생각할 수 없다. 엔비디아 H100·B200 같은 가속기가 성능을 내려면, 그 옆에 초고속 HBM이 반드시 붙어야 한다. 한국경제가 정리한 SK하이닉스 최태원 회장의 발자취는 이 구조를 압축적으로 보여준다. 청주 공장에서 시작해 뉴욕 현지 파트너십까지 이어진 HBM 개척의 핵심은, AI 가속기 수요가 생기기 전부터 메모리 아키텍처를 선제적으로 설계했다는 데 있다. 즉, AI 캐펙스 사이클은 GPU 팹리스 한 곳의 이야기가 아니라, 메모리·패키징·냉각·전력까지 이어지는 공급망 전체의 동시 투자 사이클이다.
투자자 시각에서 이 구조는 중요한 함의를 갖는다. 사이클 초기에는 병목이 GPU에 있었기 때문에 엔비디아의 가격 결정력이 압도적이었다. 그러나 데이터센터 운영자들이 GPU 재고를 확보하기 시작하면, 다음 병목은 HBM 공급량, 그다음은 전력·냉각 인프라, 그리고 최종적으로는 이 하드웨어를 활용하는 소프트웨어 레이어로 옮겨간다. 캐펙스 사이클 분석에서 "현재 병목이 어디에 있는가"를 추적하는 것이 핵심 프레임인 이유다.
현재 시점에서 HBM 공급은 SK하이닉스·삼성·마이크론 세 곳이 사실상 과점하고 있으며, 특히 최고 사양 제품군에서 SK하이닉스의 선행 기술이 두드러진다고 한국경제 테크X 칼럼은 짚는다. 이 과점 구조가 유지되는 한, HBM 레이어는 GPU 다음 사이클에서 상당한 가격 결정력을 유지할 수 있다. 다만 이 판단이 틀리는 조건도 명확하다 — 중국 메모리 업체의 HBM 기술 추격이 예상보다 빠르게 이뤄지거나, AI 모델 아키텍처가 메모리 집약도를 낮추는 방향으로 진화할 경우다.
'지능 수출' 담론이 시사하는 소프트웨어 레이어 전환
하드웨어 사이클의 다음 단계는 결국 소프트웨어·모델 레이어가 수익화되는 시점이다. 이 전환을 가장 직접적으로 언급한 것이 하정우 네이버 AI 연구소장의 발언이다. 한국경제 보도에 따르면, 그는 "한국만의 AI 모델을 앞세워 지능 수출국으로 나아가야 한다"고 주장했다. '지능 수출'이라는 표현은 단순한 수사가 아니다 — 하드웨어 수출(반도체·장비)에서 소프트웨어·모델 수출(API·서비스·파인튜닝)로의 산업 무게중심 이동을 가리킨다.
AI 캐펙스 사이클 맥락에서 이 주장은 의미심장하다. 하이퍼스케일러(구글·마이크로소프트·아마존·메타)가 수천억 달러를 데이터센터에 쏟아붓는 이유는 궁극적으로 모델 기반 서비스의 마진을 확보하기 위해서다. 즉, 캐펙스의 회수는 하드웨어가 아니라 소프트웨어 레이어에서 일어난다. 한국이 "지능 수출국"이 되려면, HBM 같은 하드웨어 공급망에 더해 경쟁력 있는 모델·서비스 레이어를 동시에 구축해야 한다는 논리다.
송길영 작가의 진단은 이 전환의 속도를 가늠하는 데 참고가 된다. 한국경제 보도에서 그는 "AI 시대에 '김부장'이 없어질 것이며, AI 활용은 선택의 문제가 아니다"라고 말했다. 기업 내 중간관리자 기능의 AI 대체는, 소프트웨어 레이어 수요가 이미 B2B 시장에서 현실화되고 있음을 의미한다. 캐펙스를 집행하는 기업들이 ROI를 입증하기 시작하면, 다음 투자 사이클의 규모와 방향이 결정된다.
사이클 중간 점검: 판단의 틀과 반대 시나리오
AI 캐펙스 사이클을 평가하는 핵심 변수를 정리하면 아래 표와 같다. 각 레이어별로 현재 어느 단계에 있는지, 그리고 전환을 앞당기거나 뒤집는 조건이 무엇인지를 구분하는 것이 투자자에게 필요한 판단의 틀이다.
| 레이어 | 현재 국면 | 가속 조건 | 반전(틀리는) 조건 |
|---|---|---|---|
| GPU·가속기 | 공급 확대기, 가격 결정력 완만 하락 가능성 | 신규 모델 아키텍처 수요 급증 | 하이퍼스케일러의 자체 칩 내재화 가속 |
| HBM·패키징 | 과점 공급, 선행 업체 프리미엄 유지 | AI 추론 수요 확대(HBM 용량 증가) | 중국 업체 기술 추격, 메모리 절약형 아키텍처 |
| 데이터센터 인프라(전력·냉각) | 병목 초입, 리드타임 장기화 | 각국 에너지 정책 완화, 소형원전 상용화 | 전력 조달 실패로 데이터센터 증설 지연 |
| 소프트웨어·모델 레이어 | 수익화 초기, ROI 입증 단계 | B2B 자동화 도입 가속(중간관리 대체) | 규제 강화, 모델 성능 정체로 수요 실망 |
AI 캐펙스 사이클의 수익은 하드웨어에서 집행되고, 소프트웨어 레이어에서 회수된다 — 지금은 그 중간 어딘가에 있다.
현 시점에서 가장 주목할 구조적 변화는 하이퍼스케일러들이 자체 AI 칩 개발에 투자를 늘리고 있다는 점이다. 구글의 TPU, 아마존의 트레이니움, 메타의 MTIA 등은 모두 엔비디아 의존도를 낮추려는 시도다. 이 내재화가 성공할수록 GPU 레이어의 가격 결정력은 약해지지만, 역설적으로 HBM 같은 범용 메모리 부품의 수요는 지속될 수 있다 — 어떤 칩이든 고속 메모리는 필요하기 때문이다. SK하이닉스가 청주에서 뉴욕까지 닦아온 HBM 공급망이 이 구도에서 전략적 자산이 되는 이유다.
소프트웨어 레이어 전환의 타이밍은 B2B 도입 속도가 좌우한다. 송길영의 "AI 활용은 선택이 아니다"라는 진단이 기업 현장에서 실제 구매 결정으로 이어지는 속도가, 하이퍼스케일러들이 다음 단계 캐펙스를 집행하는 근거가 될 것이다. 반대로 ROI 입증이 기대보다 느리다면, 2026~2027년 캐펙스 사이클은 하드웨어 재고 조정 국면을 먼저 거칠 가능성을 배제할 수 없다.
무엇을 지켜볼 것인가
- HBM 공급 점유율 변화: SK하이닉스·삼성·마이크론 3사의 HBM3e 이상 제품군 시장점유율 — 경쟁 심화 여부의 선행 지표
- 하이퍼스케일러 캐펙스 가이던스: 구글·마이크로소프트·아마존·메타의 분기별 설비투자 발표 — 사이클 연장 또는 조정의 직접 신호
- 자체 칩 내재화 진척도: 구글 TPU·아마존 트레이니움의 실제 워크로드 비중 — GPU 레이어 가격 결정력 약화 속도 가늠자
- AI B2B 도입률: 기업 IT 지출에서 AI 소프트웨어·서비스 비중 — 소프트웨어 레이어 수익화 개시 시점 확인
- 전력·냉각 리드타임: 미국·유럽 데이터센터 전력 허가 기간 — 인프라 병목이 캐펙스 집행을 제약하는지 여부
- 중국 HBM 기술 지표: 창신메모리(CXMT) 등 중국 메모리 업체의 HBM 샘플 출하 보도 — 과점 구조 균열 신호