https://medium.com/data-science-in-your-pocket/deepseek-r2-leaked-9c410c7fcf5e

현재 딥시크 R2가 5월에 나온다는 루머가 있는 가운데, 차기작 성능에 대해서 유출된 내용이 있습니다.

자세한 내용은 위 링크에 있는데 제 눈에 띄는 점만 꼽아보면

1. GPT-4 터보 대비 97.3% 저렴한 추론 비용: R2의 전체 사이즈는 1.2T(트릴리언)이지만 답변 생성시 78B(빌리언)만 사용하면 된다고 합니다. 아주 효율적인 구조를 갖춘 것 + 화웨이 자체 칩을 사용하기 때문에 비용이 아주 저렴하다고 하네요.

2. 화웨이 그래픽카드 사용: 화웨이의 그래픽 카드(Ascend 910B)가 엔비디아 A100의 91% 성능에 해당된다고 합니다. 그래서 미국의 그래픽 카드, 반도체 제재에서 벗어나서 독립성을 확보했다는 주장입니다.

3. 멀티모달 성능: 얼마전에 챗지피티가 이전보다 향상된 이미지 생성기능을 탑재해서 화제였잖아요. 그거와 유사한 기능을 탑재합니다. 이제 LLM AI의 영역은 멀티모달의 성능과 정확성 싸움이 되는 듯 합니다. (혹시 딥시크 R2에선 지브리나 디즈니 스타일 그림을 무한정으로 뽑아낼 수 있을지도 모르겠습니다?)

4. 수냉 데이터 센터: 지구 환경을 위해 수냉 데이터 센터를 갖췄다고 합니다;;; 그래픽카드 사용에 따른 발열과 그를 처리하기 위한 환경으로 수냉 환경을 구축했다고 하는데, 사실 환경을 위한다고 하면 LLM 사용 자체를 줄여야 하는게 맞을 겁니다만, 이제 그럴 수 없는 시대로 가고 있죠. 환경문제와 에너지사용 문제는 추후에도 AI 전 영역에서 중요한 의제일 겁니다.

단, 유의할 점은 위 미디엄 링크에서도 나오듯, 해당 내용이 유출된 정보의 출처 신뢰도가 매우 낮다는 점입니다. 그냥 그럴 수도 있겠구나 정도로만 보시는게 좋을 것 같습니다.

오픈AI가 구글 잼민이의 맹렬한 추격을 받는 가운데, R2가 오픈소스로 풀리고 비용마저 저렴하게 나온다면 어떤 돌파구를 마련할 지 지켜보는 것도 흥미진진하겠습니다.