이 분야는 아직 갈 길이 멀지요

저는 이분야 전문가도 아니지만 거대 학습 AI가 한참 개발중이고 각 분야 전문가들 뿐만 아니라 일반인들도 여럿 테크 기업에서 발표하는 생성형 AI를 보고 많이 놀라고 있습니다

며칠 전에는 엔비디아의 테크 행사도 있었고 신형 AI학습 칩셋인 블랙웰을 발표했었죠

클리앙 모공에도 글을 남겼었는데요 이하 며칠 전 게시한 글을 퍼와서 첨부하자면

----------------------------------------------------------------------------------------------------------

현재 지구상에 존재하는 엑사플롭스 성능의 머신은 2개 3개인데

이번에 엔비디아에서 발표한 블랙웰을 채운 랙 하나가 1.4 엑사플롭스의 성능을 발휘 한다고 하는군요

그리고 이 랙을 채운 가상의 데이타센터는 3만2천개의 GPU와 645엑사플롭스의 성능을 발휘할거라고 합니다

지난 GPT4는 1.8조개의 훈련을 시키는데 90일정도 훈련하는데 GPU 8천개로 15메가 와트의 전기를 썼다고 하는데

블랙웰로는 90일 동안 2천개 GPU로 4메가 와트만 쓴다고 하네요

성능은 4배 전력은 1/4 이었네요

지난 8년간 AI 컴퓨팅 성능은 1천배 증가했고 2년 후에는 지난 10년간 1만배 좋아질거라고 하네요

AI 컴퓨팅은 세대가 바뀔 때 5배 정도 성능 항샹이 되었다네요

----------------------------------------------------------------------------------------------------------

이정도 빠른 개발 속도를 본다면 학습 까지는 아니어도 추론에 관해서는 데스크탑과 노트북에는 수년 후에는 탑재될수도 있을까? 싶은 생각이 들기도 하네요

이 분야 알못인 입장에서 추론에 관련된 프로세서의 발전은 잘 모르기도 하고 언론에 아직 많이 전해지지 않았기 때문에 섣불리 예상키는 어렵지만

앞으로 10여년 정도면 충분히 그런 시대가 될까? 같은 상상도 좀 해봤습니다

데스크탑에 얹어지면 수년 후에는 모바일에도 금방 적용이 되겠죠

아이폰이든 안드로이드든 고가 휴대폰에는 AI 추론 칩셋과 엔진이 얹어지고 저렴한 기기에는 없겠죠? ㅠㅠ

하단에 영상도 남겨 둡니다

https://www.youtube.com/watch?v=wMeM-fBVjj8