NVIDIA, Kioxia와 협력하여 표준 모델보다 최대 100배 빠른 SSD 생산, AI 워크로드용으로 설계

NVIDIA와 파트너들은 'AI 메모리'의 다음 단계를 추진하고 있으며, 새로운 보고서에 따르면 Kioxia는 기존 SSD보다 100배 빠른 상업용 SSD를 개발할 계획입니다.

HBM에서 벗어나려는 NVIDIA의 계획에는 파트너사의 초고속 HBF 솔루션 채택이 포함될 가능성이 높습니다.

NVIDIA가 HBM 기술의 대체품을 모색하고 있으며 기존 SSD를 현대 HBM 솔루션보다 더 높은 성능을 제공할 수 있는 수준으로 개선하는 것을 고려하고 있는 것으로 보입니다. Nikkei의 보고서에 따르면 Kioxia는 NVIDIA와 협력하여 기존 솔루션보다 100배 빠른 AI SSD를 개발하고 있으며, 이는 더 높은 용량을 제공하고 GPU에 직접 장착하여 HBM을 대체하기 위한 것입니다.

https://youtu.be/yjH_YMt-WWU

NVIDIA는 Kioxia가 구축한 솔루션으로 2억 IOPS를 달성하고자 하며, SSD 제조업체는 목표 달성을 위해 각각 1억 IOPS를 가진 두 개의 다른 SSD를 사용할 가능성이 높습니다. 이 솔루션은 NVIDIA가 원하는 속도를 달성하기 위해 PCIe 7.0 연결을 제공하며, 더 중요한 것은 HBM을 SSD와 유사한 솔루션으로 대체하기 위해 '근본적인 재작업'이 필요하며, Kioxia가 과거에 공개한 내용에 따르면 HBF (High-Bandwidth Flash)의 진입을 예상할 수 있습니다.

이미지 출처: SanDisk

HBF는 NAND 메모리가 가진 한계에 대한 해답이며, SanDisk가 원래 이 표준을 개발했습니다. HBF의 핵심 장점은 장치당 테라바이트 단위까지 확장 가능한 매우 높은 용량을 제공할 수 있다는 점이며, 이는 기존 데이터 센터가 추론 워크로드에 대규모 메모리 풀을 활용할 수 있음을 의미합니다. 그러나 HBF만이 Kioxia가 NVIDIA가 설정한 목표를 달성할 수 있는 유일한 방법은 아니며, 오히려 XL-Flash와 같은 솔루션에 베팅하고 있습니다. XL-Flash는 고성능 NAND 기술입니다.

업계가 HBM의 한계를 극복하고 새로운 솔루션으로 확장하는 것을 지켜보는 것은 흥미로우며, 앞으로 NAND가 AI 메모리의 미래에서 중요한 역할을 할 것으로 보입니다.