알림
|
CUDA는 부두 Glide와 비슷한 운명을 맞지 않을까 합니다.
페이지 정보
작성일
2024.06.25 18:12
본문
엔비디아가 10배 간다는 사람도 있고 최소한 3배는 간다고 하는데 정말 어이가 없네요. 사람들이 착각하는게 AI의 갑은 AI가 학습할 빅데이터 홀더와 AI알고리즘 모델이지 AI 제작 API하고 칩 생산자가 아니에요.
90년대 넷 스케이프와 부두 글라이드가 나왔지만 갑중갑인 마소의 익스와 Direct 3D에 전부 꼬꾸라 졌습니다. 현재도 마소는 전세계 수백 수천억개 컴퓨터에 깔려있는 OS를 쥐고있는 초대형 빅 데이터 홀더고 오픈 AI라는 훌륭한 AI모델도 가지고 있습니다. 그런 마소가 미쳤다고 엔비디아의 CUDA와 GPU에 스스로 종속 될까요??? 전 절대 아니라고 봅니다. 조만간에 Direct X 같은 Direct AI 같은게 나오지 않을까 싶어요. 당연히 마소 뿐만 아니라 구글 메타 아마존 전부 자기네 빅데이터 타입에 기반한 자체 API를 내놓겠죠.
부두 글라이드가 그랬듯이 초창기 3~4년은 엔비디아가 이 분야 독점 하겠지만 5~6년 정도 되면 꼬꾸라지기 시작할거라고 생각합니다.
애시당초 GPU가 AI에 최적화 된것도 아니에요. 상업 서비스할 데이터 센터 돌리는데 원전 1기가 필수라니 말이 됩니까???
댓글 18
/ 1 페이지
ForcePlane님의 댓글
저도 비슷한 생각입니다. 자연스럽게, 독립하려 하겠죠. 수익 나눠먹기 싫으니까.. 이미 칩셋 자체 개발하는데도 많지 않나요? AWS같은 경우, 이미 개발에서 사용하고 있는걸로 아는데..(물론 별도로 모델을 컴파일해야되더군요)
떠벅아재님의 댓글의 댓글
@ShadowGallery님에게 답글
넷스케이프가 90년 초에 나왔고 익스가 윈98에 딸려 나왔으니 그거 생각해보면 아직 좀 멀었다고 해야될까요??
니파님의 댓글
OS를 쥐고 있다는것과 데이터를 갖고 있는건 다르죠. OS에 있는 파일들 학습 데이터로 돌린다고 하는 순간, MS가 산산조각 난다는데 ㅂㅇ 걸어봅니다. 오픈 AI를 갖고 있는건 상당한 이점이긴 한데, 이건 그런데 경쟁사가 있잖아요. 그렇다면 CUDA의 경쟁사의 현위치를 생각해보면, 사실상 독점이나 마찬가지라는거 생각해보면... 생각보다 사람들이 쓰던거 쓰는 경향 + 쓰던게 잘 최적화된 경향이 있다는거 생각해보면, 쉽지는 않을꺼라 봅니다.
소프트웨어가 중요하다고 소프트웨어 위주로 전환한 곳들이 하드웨어 역량 딸려서 문제를 경험하고 있는게 현재 시점의 세계니까요. 미국이 칩스법이니 뭐니 하는게 결국 하드웨어 제조 역량 때문이잖아요.
소프트웨어가 중요하다고 소프트웨어 위주로 전환한 곳들이 하드웨어 역량 딸려서 문제를 경험하고 있는게 현재 시점의 세계니까요. 미국이 칩스법이니 뭐니 하는게 결국 하드웨어 제조 역량 때문이잖아요.
따끈따끈님의 댓글
큰 범위에서 동의합니다.
CUDA API를 오픈하지 않으면 결국 glide와 같은 길을 걷겠죠.
CUDA API를 오픈하지 않으면 결국 glide와 같은 길을 걷겠죠.
아침소리님의 댓글
저는 생각이 좀 다릅니다.
일단 3,4년 호황만 해도 엄청 날거라 생각하구요.
cuda 자체가 워낙 앞서 나가고 있는데 이걸 대체할 툴이 일단 나와야 되지 않을까 싶습니다.
단순히 전용 소프트웨어, 특정 분야에 최적화된 칩이 나와서는 대중화 되기 어려운게 모델링과 머신러닝 등에 워낙 cuda가 지배적이라 그런거 아닐가요?
사실 엔비디아가 대박낸건 별거 없는 언어라고 생각했던 cuda와의 협업이었다고 생각합니다.
그 내공이 당분간은 유지 될거 같은 느낌입니다.
그냥 옆에서 구경한 땜쟁이 의견이라 반박하면 님이 옳습니다.
일단 3,4년 호황만 해도 엄청 날거라 생각하구요.
cuda 자체가 워낙 앞서 나가고 있는데 이걸 대체할 툴이 일단 나와야 되지 않을까 싶습니다.
단순히 전용 소프트웨어, 특정 분야에 최적화된 칩이 나와서는 대중화 되기 어려운게 모델링과 머신러닝 등에 워낙 cuda가 지배적이라 그런거 아닐가요?
사실 엔비디아가 대박낸건 별거 없는 언어라고 생각했던 cuda와의 협업이었다고 생각합니다.
그 내공이 당분간은 유지 될거 같은 느낌입니다.
그냥 옆에서 구경한 땜쟁이 의견이라 반박하면 님이 옳습니다.
mtrz님의 댓글
cuda가 이래저래 말이 있긴 하지만 저 아랫단 개발자들이 cuda에 능숙하다는 점도 생각해야 할 것 같습니다.
게다가 nvidia가 손놓고 낮잠자고 있으면 모르는데 계속 선도하고 있단 말이죠.
추격자 입장에서 cuda와 nvidia를 대체하려면 SDK와 칩셋을 동시에 내놔야 하는 어려움이 있습니다.
게다가 nvidia가 손놓고 낮잠자고 있으면 모르는데 계속 선도하고 있단 말이죠.
추격자 입장에서 cuda와 nvidia를 대체하려면 SDK와 칩셋을 동시에 내놔야 하는 어려움이 있습니다.
칼쓰뎅님의 댓글
cuda는 그냥 베이스...이지않나요 ㅎㅎ
directx 쪽은 api를 제공하는거고 gpu메이커는 그 api 에 맞게 드라이버를 만드는거고요.
cuda도 cuda지만 지금 성능이 nvidia수준으로 나와주는게 있는건가요?
추론하는쪽은 뭐 가성비 좋은 솔루션들 많은거 같긴한데 llm만드는거는 아직 안되는거 같아서요.
directx 쪽은 api를 제공하는거고 gpu메이커는 그 api 에 맞게 드라이버를 만드는거고요.
cuda도 cuda지만 지금 성능이 nvidia수준으로 나와주는게 있는건가요?
추론하는쪽은 뭐 가성비 좋은 솔루션들 많은거 같긴한데 llm만드는거는 아직 안되는거 같아서요.
팡파파팡님의 댓글
아직은 CUDA 시대죠
그러나 판세가 흔들거리는 것도 맞다고 봅니다
주식은 너무 오버슈팅이구요
하지만 먹었다면 ㅠㅠ
그러나 판세가 흔들거리는 것도 맞다고 봅니다
주식은 너무 오버슈팅이구요
하지만 먹었다면 ㅠㅠ
떠벅아재님의 댓글의 댓글
@gift님에게 답글
고쳤어요. 감사합니다
40 랜덤 럭키포인트 당첨을 축하드립니다.
rustacean님의 댓글
DirectML이라고 이미 있습니다.... 조금 더 저수준으로는 DirectCompute도 있고요.
Dain님의 댓글
CUDA는 자동차로 치면 특정 엔진(엔비디아GPU)만 사용해야하는 자동기어가 가까운 예시일거 같습니다.
AMD도 ROCm 이라는 기어를 만들어 내놨죠.
운전자(AI쪽 기술자)중에 수동 기어 사용법은 잘 모르는 사람도 많을겁니다.
현재 상태가 거기에 가깝습니다.
물론 다른 어느곳에서 자동기어를 만들어서 어떤 엔진도 사용 가능한 엔진을 만들어 내놓는다면 괜찮겠지만
ROCm를 써보면... 아직은 요원합니다.
문제는 저런류의 API 소프트웨어는 상당기간 사용자들과 교류하며 발전한 상태를 따라잡기 쉽지 않습니다.
편의에 의한 종속화는 쉽게 깨지지 않으니까요.
이게 일반유저에 대한 종속화가 아니고 엔지니어들이 종속된 상황이라 더 어려울거 같습니다.
대부분의 AI엔지니어는 기존에 나와있는 신뢰성 높은 API를 활용해 모델을 개발하는사람이지
신뢰되지 않는 API까지 하나하나 손대면서 일하고 싶지 않을테니까요.
엔비디아가 3배가 될지 10배가 될지 모르겠지 한동안은 CUDA를 넘어서기는 쉽지 않을거 같습니다.
AMD도 ROCm 이라는 기어를 만들어 내놨죠.
운전자(AI쪽 기술자)중에 수동 기어 사용법은 잘 모르는 사람도 많을겁니다.
현재 상태가 거기에 가깝습니다.
물론 다른 어느곳에서 자동기어를 만들어서 어떤 엔진도 사용 가능한 엔진을 만들어 내놓는다면 괜찮겠지만
ROCm를 써보면... 아직은 요원합니다.
문제는 저런류의 API 소프트웨어는 상당기간 사용자들과 교류하며 발전한 상태를 따라잡기 쉽지 않습니다.
편의에 의한 종속화는 쉽게 깨지지 않으니까요.
이게 일반유저에 대한 종속화가 아니고 엔지니어들이 종속된 상황이라 더 어려울거 같습니다.
대부분의 AI엔지니어는 기존에 나와있는 신뢰성 높은 API를 활용해 모델을 개발하는사람이지
신뢰되지 않는 API까지 하나하나 손대면서 일하고 싶지 않을테니까요.
엔비디아가 3배가 될지 10배가 될지 모르겠지 한동안은 CUDA를 넘어서기는 쉽지 않을거 같습니다.
떠벅아재님의 댓글의 댓글
@Dain님에게 답글
글라이드도 독점할줄 알았지만 결국은 플랫폼을 쥐고있는 마소의 강짜로 깨졌죠. AI도 예전 윈텔 동맹처럼 빅데이터 홀더와 칩업체와의 한시적 동맹 이라는 방법으로 시간이 걸리겠지만 길은 있을꺼라고 생각합니다. 솔직히 마소나 구글 메타 아마존 같은 기업의 개발역량이 엔비디아 보다 나았으면 나았지 떨어지지는 않잖아요???
Dain님의 댓글의 댓글
@떠벅아재님에게 답글
맞는 말씀입니다. 근데 문제는 저 GPU에 관련된 API라는게 일반적인 개발역량의 문제가 아니라는겁니다.
반도체 공정이 한번 수준차이가 나면 더 높은 직접도을 위해 연구,설비, 개발, 판매, 수익, 재투자 과정을 따라잡기 힘들다고 들었습니다.
문제는 GPU를 직접 컨트롤하는 API를 만드는 개발과정도 비슷할거 같습니다.
마소나 구글등의 회사가 순수하게 개발능력은 뛰어나지만, 당장 GPU을 직접 통제하는 저수준언어를 사용하는 개발자의 수는 상대적으로 적을걸로 예상됩니다. 경험도 엔비디아에 비해 차이가 클거 같고요.
물론 자본주의니 돈으로 밀어붙이면 안될일은 없겠지만, 당장 몇년은 힘들거 같습니다.
반도체 공정이 한번 수준차이가 나면 더 높은 직접도을 위해 연구,설비, 개발, 판매, 수익, 재투자 과정을 따라잡기 힘들다고 들었습니다.
문제는 GPU를 직접 컨트롤하는 API를 만드는 개발과정도 비슷할거 같습니다.
마소나 구글등의 회사가 순수하게 개발능력은 뛰어나지만, 당장 GPU을 직접 통제하는 저수준언어를 사용하는 개발자의 수는 상대적으로 적을걸로 예상됩니다. 경험도 엔비디아에 비해 차이가 클거 같고요.
물론 자본주의니 돈으로 밀어붙이면 안될일은 없겠지만, 당장 몇년은 힘들거 같습니다.
무적전설님의 댓글