젠슨 황 "GPU 40만개 추가 가동"…AI 인프라 더 커진다

[아이뉴스24 박지은 기자] 젠슨 황 엔비디아 최고경영자(CEO)는 향후 40만개의 그래픽처리장치(GPU)가 추가로 가동될 예정이라고 밝혔다.

오픈AI의 최신 인공지능(AI) 모델 'GPT-6 아스트라(Astra)' 훈련에 10만개 이상의 엔비디아 시스템이 사용된 가운데 더 많은 AI 컴퓨팅 자원이 가동을 앞두고 있다.

황 CEO는 7일 자신의 엑스(X)에 "GPT-6 아스트라는 약 10만개 이상의 엔비디아 그레이스 블랙웰 NV링크72(Grace Blackwell NVLink72)로 훈련됐다"며 "다음으로 40만개의 GPU가 가동될 예정"이라고 밝혔다.

다만 황 CEO는 40만개 GPU의 구체적인 용도와 가동 시점은 밝히지 않았다. 아스트라에 추가로 투입되는 물량인지도 언급하지 않았다.

GPU는 AI 모델을 학습시키고 실제 서비스를 운영하는 데 필요한 핵심 반도체다. AI 모델의 규모와 성능이 커지면서 이를 뒷받침할 GPU와 데이터센터 수요도 함께 늘고 있다.

비즈니스인사이더는 오픈AI와 메타, 앤트로픽, 구글 등 주요 AI 기업들이 엔비디아의 첨단 반도체에 대한 의존도를 높이고 있다고 보도했다. 오픈AI는 지난 3월 엔비디아를 자사 인프라의 기반이라고 표현하면서 AI 훈련용 시스템과 실제 서비스를 운영하는 시스템 대부분이 엔비디아 GPU를 사용한다고 밝힌 바 있다.

이 같은 수요는 엔비디아 실적으로도 나타나고 있다. 엔비디아는 지난달 발표한 분기 실적에서 매출 962억달러를 기록했다. 전년 동기보다 두 배 이상 늘었다. AI 반도체가 포함된 데이터센터 사업 매출은 890억달러에 달했다.

황 CEO는 아스트라에 대해 "챗GPT에서 o1, 아스트라까지 4년 만에 도달했다"며 "범용인공지능(AGI)이 도래했다. 오픈AI 팀에 축하를 전한다"고 평가했다.

오픈AI도 지난 3일 아스트라를 공개하면서 컴퓨터 사용과 웹 탐색, 소프트웨어 개발, 과학 등에서 기존 모델보다 성능을 높였다고 밝혔다.

그레그 브록먼 오픈AI 사장은 아스트라 공개 당시 "AGI 시대에 온 것을 환영한다"고 말했다.