엔비디아, AI 추론 시장 공략 본격화...2027년까지 1조 달러 수익 기대

엔비디아가 인공지능 칩 시장의 차세대 성장 동력으로 'AI 추론(inference)' 분야에 전략적 투자를 집중하기로 선언했다. 젠슨 황 엔비디아 최고경영자(CEO)는 3월 16일 미국 캘리포니아 산호세의 SAP 센터에서 개최된 연례 개발자 컨퍼런스 'GTC 2026'에서 AI 칩 수익 기회가 2027년까지 최소 1조 달러에 달할 것으로 예상된다고 밝혔다. 이는 엔비디아가 빠르게 성장하는 실시간 AI 시스템 구동 시장에서 경쟁력을 강화하겠다는 의지를 보여주는 것이다.

AI 추론은 학습된 AI 모델을 활용해 실제 질문에 답변하고 예측하는 과정을 의미한다. 지난 몇 년간 엔비디아는 AI 모델 학습(training) 분야에서 압도적인 지위를 차지해왔다. 하지만 추론 시장에서는 구글 같은 대형 기술 기업들이 자체 제작한 커스텀 프로세서와 중앙처리장치(CPU) 기반의 솔루션들이 점차 경쟁력을 높이고 있는 상황이다. 황 CEO는 "추론의 전환점이 도래했다"며 "수요는 계속 증가하고 있다"고 강조했다. 이러한 발언은 엔비디아가 추론 시장의 성장 가능성을 얼마나 크게 평가하고 있는지를 명확히 보여준다.

엔비디아의 공략 전략은 기술 혁신과 전략적 인수합병으로 구성되어 있다. 황 CEO는 이번 컨퍼런스에서 새로운 중앙처리장치와 그로크(Groq) 기술을 기반으로 구축한 AI 시스템을 발표했다. 그로크는 AI 칩 스타트업으로, 엔비디아는 지난 2025년 12월 이 회사로부터 기술을 170억 달러(약 22조 원)에 인수한 바 있다. 이러한 인수합병은 엔비디아가 추론 시장에서 기술적 우위를 확보하려는 의도를 반영한다. 새로운 중앙처리장치와 AI 시스템은 기존 그래픽처리장치(GPU)에 비해 추론 작업에서 더 높은 효율성을 제공할 것으로 기대된다.

업계 전문가들은 엔비디아의 추론 시장 진출이 전체 AI 칩 시장의 구조 변화를 의미한다고 분석하고 있다. 그동안 AI 산업은 대규모 언어 모델 학습에 필요한 고성능 GPU 수요로 엔비디아의 독주 체제가 이어졌다. 하지만 생성형 AI가 실제 서비스에 적용되면서 추론의 중요성이 급격히 높아지고 있다. 추론은 학습 단계보다 훨씬 빈번하게 일어나며, 저전력·저비용 솔루션을 필요로 한다는 점에서 새로운 경쟁 구도가 형성되고 있다. 구글의 TPU(Tensor Processing Unit), 아마존의 트래니움(Trainium) 등 클라우드 거대 기업들의 커스텀 칩 개발이 가속화되는 이유도 이 때문이다.

엔비디아의 1조 달러 수익 전망은 AI 추론 시장의 규모를 가늠할 수 있는 중요한 지표다. 현재 전 세계적으로 생성형 AI 서비스가 확산되면서 추론 연산량이 급증하고 있다. 챗봇, 이미지 생성, 자동 번역 등 다양한 AI 서비스가 실시간으로 수백만 건의 추론 요청을 처리해야 하기 때문이다. 이에 따라 데이터센터 운영 기업들은 효율적인 추론 솔루션에 대한 투자를 늘리고 있으며, 이는 엔비디아뿐 아니라 여러 칩 제조사들에게 거대한 시장 기회가 되고 있다. 엔비디아가 공격적으로 추론 시장에 진출하는 것은 이러한 시장 기회를 선점하려는 전략적 결정이다.

한편, 황 CEO는 검은색 가죽 재킷을 입고 1만 8천 명 이상을 수용할 수 있는 하키 경기장에서 연설을 펼쳤다. 4일간 진행되는 이번 GTC 컨퍼런스는 글로벌 AI 및 기술 업계에서 가장 주목할 만한 행사로 꼽힌다. 엔비디아의 이번 발표는 단순한 신제품 공개를 넘어 AI 칩 산업의 미래 방향을 제시하는 신호탄으로 평가되고 있다. 추론 시장에서의 경쟁 심화는 칩 기술 혁신을 가속화할 것으로 예상되며, 이는 결국 AI 서비스의 속도, 비용, 에너지 효율성 개선으로 이어질 것으로 전망된다.