"엔비디아만 있냐?" 인텔-네이버 '연합전선'으로 AI 생태계 잡는다(종합)

가우디3, H100보다 추론성능 50% 높아…전력 효율성 40% 우수

네이버와 공동 랩 통해 AI 소프트웨어 생태계 구축 협력

인텔 비전 2024에서 발표하는 하정우 네이버클라우드 AI 이노베이션센터장ⓒ인텔

글로벌 AI(인공지능) 반도체를 장악한 엔비디아를 잡기 위해 빅테크들이 속속 도전장을 내밀고 있다.

인텔과 AMD는 새로운 AI 가속기 가우디3, MI300X를 공개했고 삼성전자도 내년 초를 목표로 마하-1을 개발중이다. 대당 5000만원을 넘어도 '없어서 못파는' AI 가속기 시장을 잡기 위해 IT 기업들의 경쟁이 한층 치열해지는 모습이다.

인텔은 9일(현지 시간) 애리조나주 피닉스에서 ‘인텔 비전 2024’를 갖고 새 AI 가속기 ‘가우디3’를 공개했다. 기존 모델(가우디 2) 대비 BF16용 AI 컴퓨팅에서 4배, 메모리 대역폭 1.5배, 네트워크 대역폭 2배를 각각 향상시켰다.

특히 경쟁사 엔비디아의 H100과 견줘 추론 처리량이 50% 높고, 전력 효율성도 40% 더 우수하다고 회사측은 강조한다.

고객사도 여럿 확보했다. 가우디 3는 올해 2분기 델 테크놀로지스(Dell Technologies), HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 OEM(주문자상표부착위탁생산) 시스템에 탑재된다.

가격은 별도로 밝히지 않았으나 "가격 경쟁력이 있다"고 말해 엔비디아 AI칩(H100) 보다 저렴할 것으로 예상된다. 성능과 가격 경쟁력을 두루 갖춘 AI 가속기로 대규모 데이터센터를 운영하는 IT 기업들의 문을 두드리겠다는 포부다.

인텔은 엔비디아 독주를 막기 위해 AI 가속기와 더불어 AI 개발용 소프트웨어도 글로벌 파트너사들과 협력하겠다는 계획이다. 네이버가 대표적으로, 이 회사는 전날 열린 ‘인텔 비전 2024’에서 인텔과 의기투합해 가우디 소프트웨어 생태계 구축에 나서겠다고 밝혔다.

엔비디아는 AI 가속기에 탑재되는 GPU(그래픽처리장치) 뿐 아니라 AI 개발 플랫폼 쿠다(CUDA)를 통해 AI 반도체 시장을 장악했다. 이 보다 매력적인 하드웨어-소프트웨어를 갖춘 새로운 AI 생태계를 만들겠다는 것이다.

이날 오전 9시에 열린 인텔 간담회에 화상으로 참여한 네이버 클라우드 이동수 박사(AI Executive Officer)는 엔비디아 쿠다의 문제점을 지적했다.

이 박사는 "쿠다는 프로그래밍이 굉장히 어렵다. 예를 들어 A100에서 H100으로 하드웨어가 바뀐면 코드가 다 달라져야 하고 최적화도 다시해야 한다. 쿠다 코딩으로 LLM 서비스를 할 수 있는 사람은 전세계에 그리 많지 않다"며 "특정 하드웨어에 최적화한 소프트웨어를 오픈소스화해 AI 생태계를 확장하는 데 의미를 두고 있다"고 강조했다.

네이버는 전날 인텔 행사에서 이 회사와의 구체적 협력 방안을 소개해 눈길을 끌었다. 최수연 네이버 대표는 영상을 통해 "네이버는 전세계에서 하이퍼스케일 생성형 AI 모델을 발표한 세 번째 기업"이라며 "네이버와 인텔이 새로운 AI칩 환경을 위해 어떤 협력을 이끌어낼지, 어떤 혁신을 가져올지 기대된다"고 언급했다.

인텔 간담회에 화상으로 참여한 네이버 클라우드 이동수 박사(AI Executive Officer)ⓒ데일리안 조인영 기자

직접 단상에 오른 하정우 네이버 클라우드 AI혁신센터장은 구체적인 협력방안을 소개했다. 하 센터장은 ▲생성형 AI 모델과 애플리케이션을 개발하고 관리하기 위해 스타트업-학계와 공동 랩(코어 랩)을 만들고 ▲가우디2(Gaudi 2)를 활용해 LLM을 구축하며 ▲가우디 기반 LLM을 글로벌 기업에게 제공하겠다고 했다.

인텔이 AI 가속기 '가우디3'를 공개하며 AI 생태계를 주름잡은 엔비디아에 선전포고했듯이 다른 빅테크들도 줄줄이 출사표를 던질 것으로 보인다.

AMD는 지난해 12월 자사의 최신 AI 칩인 MI300X를 출시하며, 메타와 마이크로소프트, 오라클의 클라우드에 탑재된다고 밝힌 바 있다. 인텔처럼 가격 대비 성능 우위 전략을 강조하고 있다.

삼성전자는 AI 가속기 마하-1을 개발중이다. 마하1은 메모리와 GPU 사이 데이터 병목현상을 8분의 1로 줄여 저전력 메모리를 써도 LLM 추론이 가능한 것이 특징이다. 삼성전자는 마하1 개발을 연내 마치고 내년에 공식 출시할 계획이다.

다만 엔비디아의 방어전도 만만치 않다. 엔비디아는 3월 발표한 최신 AI 가속기 블랙웰을 발표했다. 기존 H100 보다 성능은 30배 높은 반면 비용과 에너지 소비는 최대 25배 낮은 것이 특징이다. 이 제품은 올해 하반기 출시된다.

젠슨 황 엔비디아 최고경영자(CEO)는 지난달 18일 블랙웰을 공개하며 “블랙웰 GPU는 이 새로운 산업 혁명을 구동하는 엔진이다. 세계에서 가장 역동적인 기업들과 협력해 모든 산업에서 AI의 가능성을 실현할 것”이라고 했다.