"이것이 세계 최고의 AI 서버"...MS, 27억짜리 엔비디아 '블랙웰' 서버 최초 공개
페이지 정보
본문
마이크로소프트(MS)가 세계 최초로 엔비디아의 최신 '블랙웰' 칩으로 구성한 서버를 선보였다. 12월초 서버를 받아 들 것이라는 예상과 달리, 이미 서버를 가동 중인 것으로 밝혀졌다.
MS는 8일(현지시간) 애저 공식 X(트위터) 계정을 통해 자체 구축한 엔비디아 'GB200' 서버를 공개했다.
"MS 애저는 엔비디아 블랙웰 기반 GB200 AI 서버를 가동하는 최초의 클라우드 서비스 공급자"라고 밝혔다. 또 "인피니밴드(Infiniband) 네트워킹과 혁신적인 폐쇄 루프 액체 냉각을 활용해 세계에서 가장 진보된 AI 모델에 전력을 공급할 것"이라고 설명했다.
이는 대만 기술 전문가 킴 컬판의 예측보다 무려 두달이나 빠른 것이다. 그는 지난달 GB200 서버가 12월 초부터 출하되며, 가장 먼저 MS에 전달될 것으로 예측했다.
하지만 MS는 이미 제품을 입수한 것은 물론, 서버를 가동 중인 것으로 나타났다.
톰스하드웨어는 MS가 공개한 서버가 GPU 'B200'을 36장 탑재한 'GB200-NVL36'으로 보인다고 분석했다. 이는 B200 72개를 탑재한 'GB200-NVL72' 서버보다 떨어지는 사양으로, 테스트 목적으로 사용될 가능성이 높다고 봤다.
NVL36은 약 200만달러(약 27억원), NVL72는 300만달러(약 40억원) 이상으로 알려졌다.
또 GB200-NVL72 서버는 약 120킬로와트(kW)의 전력이 필요하기 때문에 액체 냉각이 필수적이다. 따라서 MS는 GB200-NVL72 본격 서비스에 앞서, 전력이나 냉각 문제를 미리 테스트하려는 용도로 이번 서버랙을 구축했다는 설명이다.
서버에 탑재된 B200 GPU는 기존 'H100'에 비해 2.5배 더 높은 성능을 제공한다. 따라서 매우 크고 정교한 대형언어모델(LLM)을 학습하는 데 유용하다. 이 서버는 테스트를 거쳐 올해 말이나 내년 초부터 서비스에 본격 투입될 것으로 보인다.
사티아 나델라 MS CEO도 X를 통해 "엔비디아와의 오랜 파트너십과 심층적 혁신으로 업계를 선도하고 가장 정교한 AI 워크로드를 구동하고 있다"라고 강조했다.
MS는 11월18~22일 시카고에서 열리는 연례 '이그나이트' 컨퍼런스에서 블랙웰 서버와 AI 프로젝트에 대한 자세한 내용을 발표할 것으로 예상된다.
출처 : AI타임스(https://www.aitimes.com)
조알님의 댓글의 댓글
1kW 의 전력으로 1시간 사용하면 1kWh 의 전력량 (에너지) 을 사용한거고요.
가정에서 매달 약 200kWh 를 사용하신다면 120kW 를 소비하는 컴퓨터가 1.6시간 만에 @오구 님 한달치 전기를 다 쓰는거죠.
제가 사용하는 클러스터 컴퓨터 시스템에 물려진 변압기가 3MW 짜리입니다.
실제 풀 로드로 돌리는 경우 2.5MW 가량 사용된다고 하네요.
이것도 나름 최신 컴퓨터라 전력효율 좋은 프로세서로 전기소비량을 많이 줄여서 이정도라고 합니다.
이거 이전에 쓰던 클러스터 컴퓨터는 같은 계산능력 당 전기를 2.5배 더 먹었죠..
참고로 진짜 규모 큰 수퍼컴퓨터들은 20MW 급 이상으로 전기를 처묵처묵 합니다.
ORNL의 Frontier 는 풀 로드에서 최대 30MW 먹는다고 하네요. 대략 3만 가구에 공급할 만큼의 전기에 해당합니다.
오구님의 댓글의 댓글
전기운동화님의 댓글
개내대래매배새님의 댓글의 댓글
웨어러블 디바이스에 들어가는게 30년전에는 책장만하고 집값보다 비쌌단다 ~~
오구님의 댓글
전기가 한시간에 120kW면 정말 ㄷㄷ하네요.
제가 한달에 200도 안쓰는데....