챗지피티 왈

ChatGPT의 말:

OpenAI가 현재 보유하고 있는 GPU 수량을 공식적으로 정확히 공개하진 않았습니다.
다만 공개된 정보 및 보도들을 토대로 다음과 같은 추정이 가능합니다:

구글이 보유한 정확한 GPU 수량은 공개되지 않았습니다.

가장 큰 이유는 구글이 AI 연산에 NVIDIA GPU뿐만 아니라, 자체 개발한 TPU(텐서 처리 장치, Tensor Processing Unit) 라는 맞춤형 AI 반도체를 훨씬 더 대규모로 사용하기 때문입니다.

구글의 AI 연산 능력을 파악하려면 TPU 규모를 함께 보아야 합니다.

📈 구글의 AI 연산 능력 (TPU + GPU)

• TPU가 핵심: 구글은 검색, 유튜브, Gemini 등 자사 핵심 서비스를 운영하고 AI 모델을 훈련하는 데 막대한 수의 TPU를 사용합니다.

• TPU 보유 규모:

  • 구글은 AI 기업 '앤트로픽(Anthropic)'에 TPU 100만 개에 대한 액세스를 제공하는 계약을 맺은 것으로 알려졌습니다.

  • 최신 TPU v7p를 사용한 'Ironwood' 시스템, 5만 개 이상의 칩으로 구성된 TPU v5e 포드 등 초대형 클러스터를 운영 중입니다.

• GPU 환산 규모:

  • 한 AI 리서치 회사는 구글의 총 TPU 연산 능력을 최소 60만 개의 NVIDIA H100 GPU와 동등하거나 그 이상으로 추정했습니다.

☁️ Google Cloud의 GPU 제공

구글이 "보유한" GPU 수량을 파악하기 어려운 또 다른 이유는, 구글 클라우드(GCP)를 통해 고객에게 GPU를 임대해주는 서비스도 하고 있기 때문입니다.

• Google Cloud는 고객 사용을 위해 NVIDIA H100, H200, A100 등 다양한 최신 GPU를 대량으로 확보하고 있습니다.

• 하지만 이 수치는 구글이 내부적으로 사용하는 양과 합쳐져 있어 정확한 총량을 알기 어렵습니다.

요약: 구글의 정확한 GPU 보유량은 알 수 없지만, 자체 개발한 TPU를 100만 개 이상 운영하고 있으며, 이를 H100 GPU로 환산하면 최소 60만 개가 넘는 막대한 AI 연산 능력을 보유하고 있습니다.

알리바바 그룹은 공식적으로 보유한 GPU(그래픽 처리 장치)의 정확한 수량을 공개하지 않고 있습니다. 대형 기술 기업들은 일반적으로 인프라 자산(서버, GPU, 칩 등)에 대한 구체적인 숫자를 경쟁상의 이유로 비공개로 유지합니다.

그러나 다음과 같은 정보를 통해 규모를 간접적으로 추정할 수 있습니다:

1. 클라우드 인프라 규모: 알리바바 클라우드는 중국 최대, 세계 3위의 클라우드 서비스 제공업체(IaaS/PaaS)입니다. 이는 수십만 대 이상의 서버와 고성능 컴퓨팅 자원(GPU 포함)을 운영하고 있음을 시사합니다.

2. AI 및 대규모 모델 투자: 알리바바는 Qwen(通義千問)과 같은 대형 언어 모델(LLM) 개발에 집중하고 있으며, 이를 위해 NVIDIA A100/H100, 자체 개발한 AI 칩인 Pingtouge(平頭哥)의 Hanguang 800 등을 활용하고 있습니다. 특히 2023년 이후 AI 인프라 확장을 위해 수만 개 이상의 고성능 GPU를 조달했다는 업계 보도가 있었습니다.

3. NVIDIA GPU 구매: 여러 외신(예: Bloomberg, Reuters)은 알리바바가 2023~2024년 사이 NVIDIA의 H100 및 A800 GPU를 포함해 수만 개 단위의 고성능 AI 가속기를 확보했거나 주문했다고 보도했습니다. 다만 정확한 숫자는 확인되지 않았습니다.

요약하면, 알리바바는 수만 개에서 수십만 개 수준의 GPU를 보유하고 있을 것으로 추정되며, 이는 자체 AI 연구, 클라우드 고객 지원, 데이터센터 운영 등을 위해 사용되고 있습니다. 그러나 공식적인 수치는 공개되지 않았습니다.

구글과 알리바바는 각자 자기들게 있네요.

우리도 26만장 돌려서 우리거 부터 만들어 봅시다!! ㅎㅎㅎ 시드인프라 만세!