짐 켈러, 엔비디아에 의해 치솟은 AI 칩 가격 낮추려고 노력

Jim Keller의 스타트업 Tenstorrent는 스마트폰부터 클라우드 서비스까지 다양한 용도를 타겟으로 합니다.

텐스토런트의 CEO 짐 켈러는 칩 설계 업계에서 잘 알려진 인물이다. (사진: 야마다 료타로)

인텔, AMD, 테슬라에서 일한 칩 설계자 짐 켈러는 엔비디아보다 더 효율적인 칩을 설계해 인공지능 애플리케이션의 가격을 낮추고 미국 대기업이 점유한 시장을 일부 확보하기 위해 노력하고 있습니다.

현재 AI 칩을 설계하는 미국 스타트업인 텐스토런트의 CEO인 켈러는 "엔비디아가 제대로 서비스를 제공하지 못하는 시장이 많이 있습니다."라고 말합니다.

AI 사용이 스마트폰, 전기차, 클라우드 서비스로 확대되면서 더 많은 기업이 더 저렴한 솔루션을 찾고 있다고 그는 말하며, 시장에서 최고의 옵션으로 여겨지는 엔비디아의 하이엔드 그래픽 처리 장치(GPU)에 "2만 달러를 지불하고 싶지 않은 소규모 기업이 많이 있다"고 덧붙였습니다.

켈러는 칩 설계 업계에서 2010년대 후반 인텔을 따라잡기 위해 고군분투하던 AMD의 재기에 일조한 것으로 평가받는 AMD Zen 시리즈의 수석 디자이너로 잘 알려져 있습니다. 또한 Tesla의 자율 주행 소프트웨어인 오토파일럿용 칩셋을 개발하는 데 주도적인 역할을 했습니다.

일본의 AI 유니콘 기업인 프리퍼드 네트웍스의 칩 설계 책임자 준이치로 마키노는 "그는 전설에 다름 아니다"라고 말했습니다.

2016년에 설립된 텐스토런트는 올해 말 2세대 다목적 AI 칩 판매를 준비하고 있습니다. 이 회사는 일부 영역에서 엔비디아의 AI GPU보다 더 나은 에너지 및 처리 효율을 자랑한다고 말합니다. 

텐스토렌트에 따르면 갤럭시 시스템은 AI에 널리 사용되는 서버인 엔비디아의 DGX보다 3배 더 효율적이고 33% 더 저렴합니다.

켈러는 이것이 가능한 이유 중 하나는 많은 양의 데이터를 빠르게 전송할 수 있는 고급 메모리 칩의 인기 유형인 고대역폭 메모리를 사용하지 않기 때문이라고 말했습니다. HBM은 제너레이티브 AI 칩의 핵심 구성 요소로, 엔비디아의 제품 성공에 중요한 역할을 해왔습니다.

그러나 HBM은 막대한 에너지 소비와 AI 칩의 높은 가격을 초래한 주범 중 하나이기도 합니다.

켈러는 "HBM을 사용하는 사람들조차도 그 비용과 설계 시간 때문에 어려움을 겪고 있습니다."라고 말하며 이 기술을 사용하지 않기로 기술적인 결정을 내렸다고 덧붙였습니다.

일반적인 AI 칩셋에서는 프로세스가 수행될 때마다 GPU가 데이터를 메모리로 전송합니다. 이를 위해서는 HBM의 고속 데이터 전송 기능이 필요합니다. 하지만 텐스토런트는 이러한 전송을 대폭 줄일 수 있도록 칩을 특별히 설계했습니다.

켈러는 이 새로운 접근 방식을 통해 자사의 칩 설계가 AI 개발의 일부 영역에서 GPU와 HBM을 모두 대체할 수 있다고 말했습니다.

또한 이 회사는 "가능한 한 비용 효율적"이 되도록 제품을 설계하고 있다고 그는 말했습니다. 그는 이 분야의 다른 많은 기업들도 더 나은 메모리 솔루션을 찾고 있지만, "거대한" 기존 HBM 산업을 혼란에 빠뜨리는 데는 몇 년이 걸릴 것이라고 조심스럽게 덧붙였습니다.

켈러는 한 회사가 엔비디아를 대체하기보다는 미국 회사가 제공하지 않는 다양한 AI 시장을 채우기 위해 더 많은 새로운 플레이어가 등장할 것이라고 예측했습니다.

텐토렌트 칩의 핵심 특징은 수백 개가 넘는 코어 각각에 있는 작은 CPU, 즉 두뇌 속의 작은 두뇌입니다.

일반적으로 단일 칩 코어에는 작은 계산기와 메모리만 있으며 주어진 하나의 작업만 해결합니다. 하지만 텐스토렌트의 코어는 스스로 '사고'하여 어떤 데이터를 먼저 처리할지, 불필요하다고 판단되는 특정 작업을 포기할지 결정할 수 있어 전반적인 효율성이 향상됩니다.

각 코어는 상대적으로 독립적이기 때문에 칩을 더 많이 또는 더 적게 쌓아 더 광범위한 애플리케이션에 적용 할 수 있다고 회사는 말했습니다. 예를 들어 스마트폰이나 웨어러블 기기에는 적은 수로도 충분하지만, AI 데이터 센터에는 100개를 결합하여 사용할 수 있습니다.

이러한 유연성은 AI가 어떻게 개발되고 어떤 용도로 사용될지에 대한 주제가 여전히 논쟁의 여지가 있기 때문에 중요합니다.

켈러는 AI에 가장 적합한 애플리케이션이 무엇인지 예측하는 것은 불가능하다고 말했습니다. "현재로서는 이것이 더 커질지 작아질지 알 수 없습니다. 따라서 우리의 전략은 다양한 제품에 적합한 기술을 구축하는 것입니다."라고 그는 말했습니다.