알림

삼성전자, 500만원짜리 '마하' 칩…"AI칩 판도 바꾼다"

컨텍스트 125.♡.41.31

2024.04.12 23:08

2,336

글쓰기

전성비·가성비면에서 강점…맞춤형 개발 가능해
삼성전자, 연내 양산 예고 이어 마하-2 개발 착수

삼성전자에서 올 연말 양산 예정인 추론(Inference) 전용 AI 반도체 '마하(Mach-1)'가 반도체 수급난을 겪고 있는 AI 산업에 전환점을 만들 지 주목된다.

10일 업계에 따르면 추론에 특화된 반도체인 마하-1이 반도체 시장에 새 바람을 몰고 올 전망이다. 추론은 AI가 이미 학습한 수많은 정보를 토대로 새로운 명제를 도출하는 작업을 말한다.

현재 엔비디아의 고성능 GPU(그래픽처리장치)는 AI 학습과 추론에 모두 사용되고 있는데, 가격이 워낙 비싸 구입에 어려움이 많다는 지적이다.

반면 삼성전자 마하-1 가격은 500만원 수준으로 추정된다. 엔비디아 GPU 'H100'이 개당 4만달러(5400만원)인 점을 감안하면, 10분의 1 가격이다. 이에 데이터센터 업체들이 H100에 비해 가성비가 높은 추론 칩을 함께 쓰는 방안이 주목받고 있다.

AI 서버가 '전기 먹는 괴물'이라는 점에서도 마하-1 성능에 관심이 쏠린다. H100 GPU는 최대 700W의 전력을 소비한다. 기존 데이터 센터 구축에 사용하던 GPU 대비 2배 이상 높은 수준이다. 엔비디아의 차세대 AI 반도체 블랙웰 B200는 1200W로 최대 전력 소비가 더 늘어날 전망이다.

반면 마하-1은 HBM(고대역폭메모리) 대신 저전력 D램으로도 거대언어모델(LLM) 추론이 가능하다.

삼성전자에 따르면 이를 통해 전력 효율을 8배 더 높일 수 있다. 이와 동시에 메모리와 GPU 사이 병목현상을 8분의 1 수준으로 줄이는 것도 목표다.

김동원 KB증권 애널리스트는 "데이터센터 업체들은 충분한 연산자원 확보를 위해 AI 가속기용으로 GPU뿐 아니라 AI 추론 반도체칩도 써야 한다"며 "전력과 가격 대비 높은 성능을 가진 AI 추론 반도체 칩의 수요가 급증세를 보이고 있다"고 설명했다. (후략)