인텔, 5세대 제온 및 가우디 2 MLPerf 벤치마크 결과 공개

ML커먼스(MLCommons)가 업계 표준 추론(inference) 벤치마크 ‘MLPerf v4.0’ 결과를 발표했다. 인텔은 AMX(Intel Advanced Matrix Extensions)가 포함된 5세대 인텔 제온(Intel Xeon) 스케일러블 프로세서 및 인텔 가우디 2(Intel Gaudi 2) 가속기에 대한 MLPerf v4.0 벤치마크 결과가 ‘AI 에브리웨어(AI Everywhere)’를 실천하겠다는 의지를 보여준다고 설명했다. 

인텔 가우디 2 AI 가속기는 생성형 AI 성능에 있어 엔비디아 H100 대비 벤치마크 결과를 공개하는 유일한 대안이며, 가격 대비 성능 면에서 우수한 경쟁력을 가지고 있다고 업체 측은 밝혔다. 인텔 5세대 제온의 벤치마킹 결과는 MLPerf 인퍼런스 v3.1(MLPerf Inference v3.1)에서 4세대 인텔 제온 프로세서의 결과와 비교해 평균 1.42배 향상됐다.

인텔 DCAI 제품 관리 총괄 부사장 제인 볼은 “인텔은 가속기 및 CPU 제품 전반에 걸쳐 업계 표준 벤치마크 결과 AI 성능을 지속적으로 개선하고 있다”라며 “이번 결과는 인텔이 고객의 역동적이고 광범위한 AI 요구 사항을 충족하는 AI 솔루션을 제공하고 있음을 보여주고 있고 인텔 가우디 및 제온 제품 모두 고객에게 즉시 제공가능한 옵션과 강력한 가격 대비 성능상의 이점을 제공한다”라고 밝혔다.

기존 MLPerf 라운드의 학습 및 추론 성능에 기반한 인텔의 MLPerf 결과를 기반으로 고객은 AI 성능을 평가할 수 있다. 인텔은 서버 CPU 공급업체 중 MLPerf 결과를 공개하는 것은 인텔이 유일하다고 설명했다.