하드웨어·소프트웨어 통합 최적화 AI 핵심 경쟁력 부상
네이버 추론형 모델 내달 공개…LG '엑사원 딥-32B' 참전

(서울=뉴스1) 김민석 기자 = 엔비디아가 메타의 오픈소스 인공지능(AI) 모델 '라마4'(Llama 4) 시리즈의 추론 속도를 획기적으로 높이는 기술을 공개해 모델 개발 경쟁이 치열해질 전망이다.

알리바바·바이두 등 중국 기업들에 이어 네이버(035420)와 LG(003550)도 정상급 AI 모델을 공개하며 주도권 경쟁에 뛰어들었다.

25일 IT 업계·외신에 따르면 엔비디아는 이달 18일(현지시간) 메타 라마4-스카우트(Scout)와 라마4-매버릭(Maverick)의 추론을 가속하는 오픈소스 기술을 발표했다.

라마4 시리즈는 메타가 처음으로 전문가혼합(Mixture of Experts·MoE) 아키텍처를 적용한 최신 모델이다. 엔비디아는 두 모델을 'TensorRT-LLM'에 최적화하고 블랙웰 FP4 텐서코어 성능을 더해 초당 토큰 처리 속도를 높였다.

최적화된 라마4-스카우트는 초당 4만 토큰 이상, 라마4-매버릭은 초당 3만 토큰 이상의 처리 속도를 기록했다. 이용자는 AI 에이전트 구축 플랫폼 '네모 마이크로서비스'에서 이를 활용할 수 있다.