몇년 지나면 애플 실리콘이 엔비디아 보다 ai에 유리해질까요?
알림
|
페이지 정보
작성일
2024.11.28 11:12
본문
지금 엔비디아 그래픽카드가 점점더 커지고 전력 소모도 비대해지고 있는 것을 보면
소형화에 전력 소모를 낮추는 방향으로는 힘들 것 아닌가요? 그렇다면 발전 속도가 더딜 것 같은데요...
애플 실리콘이 최소한 전력대비 효율면에서는 뛰어나니까 몇년 뒤에는 전체적으로 봐도 엔비디아를
넘어설 순간이 올까요?
댓글 16
/ 1 페이지
뚱굴넓적님의 댓글의 댓글
@와싸다님에게 답글
구글도 자체 제작한 칩으로 하고 있는 걸로 알고 있는데 충분히 잘 하고 있는 걸 보면 쿠다가 필수인 것은 아닌거잖아요? 단지 현재 가장 좋은 선택일 뿐인거 아닌가 해서요... 그렇다면 몇년 뒤에는 판이 달라질 수도 있지 않을까요?
Java님의 댓글
일단 쿠다가 대세인 것은 바뀌지 않을 것 같고요.
소규모에서 맥미니 병렬 연결은 틈새시장 같은 느낌으로 유지될 것 같기도 합니다.
소규모에서 맥미니 병렬 연결은 틈새시장 같은 느낌으로 유지될 것 같기도 합니다.
김링크님의 댓글
애플실리콘 내에 CPU랑 GPU를 나눠서 보셔야 합니다.
CPU는 X86에 비해 효율이 좋을지 몰라도
GPU는 데스크탑에 비비기는 커녕 휴대폰 GPU 아키텍쳐중에서도 애플이 꼴지입니다.
지금 맥미니로 AI 돌린다 하는것도 그냥 메모리 용량이 커서 저렴한 값에 취미로 해보는거지
그것마저도 성능이 쥐뿔도 안나오기 때문에 전문적인 업체들은 단 하나도 맥으로 AI를 쓰지 않습니다.
애플이 맥으로 AI서버 구성한다는것도 추론만 돌리는거지 학습은 별개입니다.
CPU는 X86에 비해 효율이 좋을지 몰라도
GPU는 데스크탑에 비비기는 커녕 휴대폰 GPU 아키텍쳐중에서도 애플이 꼴지입니다.
지금 맥미니로 AI 돌린다 하는것도 그냥 메모리 용량이 커서 저렴한 값에 취미로 해보는거지
그것마저도 성능이 쥐뿔도 안나오기 때문에 전문적인 업체들은 단 하나도 맥으로 AI를 쓰지 않습니다.
애플이 맥으로 AI서버 구성한다는것도 추론만 돌리는거지 학습은 별개입니다.
뭉코건볼님의 댓글의 댓글
@김링크님에게 답글
저도 이 댓글 달려고 했는데.. 원글님께서 CPU와 GPU를 구분하지 않고 계신거 같아서요.
뚱굴넓적님의 댓글의 댓글
@뭉코건볼님에게 답글
네 애플 실리콘의 gpu만 봐서도 수년 내에 경쟁이 가능한지 질문한 겁니다.
다시머리에꽃을님의 댓글의 댓글
@뚱굴넓적님에게 답글
일단 gpu만 달린 칩을 본격적으로 만들거나 ai칩이라도 나와야 유리하네 마네 얘기를 할 수 있을거라 봅니다
범용칩으로 비교하는거 자체가 어불성설이죠
범용칩으로 비교하는거 자체가 어불성설이죠
김링크님의 댓글의 댓글
@뚱굴넓적님에게 답글
아직까지는 애플실리콘 발전속도보다 NVIDIA발전속도가 훨씬 더 빠릅니다.
dupari님의 댓글
전혀입니다.
윗 분이 언급했지만 CPU, GPU의 차이입니다. 당연히 GPU power가 상당히 소모됩니다.
몇달전 엔비디아칩에 대항하는 소규모 AI칩이 나왔다고 했는데..
size는 엔비디아 대비 상당히 작은 편인데, power는 동일하더군요...
이 결과 보고 당분간은 앤비디아의 독주로 생각하고 있습니다.
윗 분이 언급했지만 CPU, GPU의 차이입니다. 당연히 GPU power가 상당히 소모됩니다.
몇달전 엔비디아칩에 대항하는 소규모 AI칩이 나왔다고 했는데..
size는 엔비디아 대비 상당히 작은 편인데, power는 동일하더군요...
이 결과 보고 당분간은 앤비디아의 독주로 생각하고 있습니다.
371 랜덤 럭키포인트 당첨을 축하드립니다.
gracy2999님의 댓글
Apple silicon은 ap고 여기에는 cpu/gpu/npu가 다 포함되어 있는거구요
NVidia는 GPU + NPU인거거죠.
Apple silicon 칩이 아무리 잘나와도 이건 inference에서나 쓸만하지 training은 아예 돌아가지도 않아요.
소모전류가 서버 단위에서는 문제가 될수는 있지만 지금 중요한건 성능이라서 지금은 아주 먼 얘기네요.
NVidia는 GPU + NPU인거거죠.
Apple silicon 칩이 아무리 잘나와도 이건 inference에서나 쓸만하지 training은 아예 돌아가지도 않아요.
소모전류가 서버 단위에서는 문제가 될수는 있지만 지금 중요한건 성능이라서 지금은 아주 먼 얘기네요.
푸른미르님의 댓글
생태계, 공급망이 중요하기 때문에 오히려 대규모 AI회사는 애플실리콘을 쓸 가능성이 있지만
그렇지 않은 대부분의 회사들은 엔비디아의 쿠다에 의존할 수 밖에 없죠
결국 애플실리콘이 어느정도 올라오긴 하겠지만 생태계를 구축하지 못하면 엔비디아를 넘어서긴 힘들겁니다
삼성파운드리가 TSMC를 넘지 못하는 것도 생태계 구축에 실패한 것도 큰 이유죠
그렇지 않은 대부분의 회사들은 엔비디아의 쿠다에 의존할 수 밖에 없죠
결국 애플실리콘이 어느정도 올라오긴 하겠지만 생태계를 구축하지 못하면 엔비디아를 넘어서긴 힘들겁니다
삼성파운드리가 TSMC를 넘지 못하는 것도 생태계 구축에 실패한 것도 큰 이유죠
Realtime님의 댓글
모델을 작게 만드려는 노력도 많이 하고 있으니 또 어찌될지 모르죠.
200 랜덤 럭키포인트 당첨을 축하드립니다.
meteoros님의 댓글
다른 분들이 AI 쪽에 초점을 맞춰 써주셨네요.
근데 넓적님의 글은 하드웨어에 대한 언급이 있긴 하지만 폭넓게 질의하신 것이 되버렸고... 답변 주신 분들은 AI 처리용 전문 플랫폼에 대해 얘기하고 계시기 때문에 살짝 안 맞습니다.
하지만 폭넓게 보는 것도 중요하지 잘 보시고....
일단 목적이 다릅니다.
애플이 현재까지 구현한 칩들은 PC나 노트북을 돌리면서 AI도 돌리는 목적이고....
엔비디아는 최고의 AI 성능을 위한 전용 처리모듈입니다. 애플이 엔비디아를 성능으로 이기는 건 현재의 기조를 유지하는 한 무조건 힘듭니다.
앞으로 애플이 지금같은 범용칩말고 AI 처리 전용 플랫폼도 만들어 판다고 하면 그 때는 동등한 비교가 가능해 지겠죠.
근데 넓적님의 글은 하드웨어에 대한 언급이 있긴 하지만 폭넓게 질의하신 것이 되버렸고... 답변 주신 분들은 AI 처리용 전문 플랫폼에 대해 얘기하고 계시기 때문에 살짝 안 맞습니다.
하지만 폭넓게 보는 것도 중요하지 잘 보시고....
일단 목적이 다릅니다.
애플이 현재까지 구현한 칩들은 PC나 노트북을 돌리면서 AI도 돌리는 목적이고....
엔비디아는 최고의 AI 성능을 위한 전용 처리모듈입니다. 애플이 엔비디아를 성능으로 이기는 건 현재의 기조를 유지하는 한 무조건 힘듭니다.
앞으로 애플이 지금같은 범용칩말고 AI 처리 전용 플랫폼도 만들어 판다고 하면 그 때는 동등한 비교가 가능해 지겠죠.
NewsOfVictory님의 댓글
애플이 전세계에 판매된 ai가속기가 탐재된 모든 기기들을 연결해서 세티 프로젝트처럼 십시일반 사용자가 체감 못하는 정도로 백그라운드에서 AI데이터를 처리한다면 가능할지도 모르겠습니다.
와싸다님의 댓글