외선이 (211.♡.88.162)
2026년 6월 1일 PM 09:42
제 습자지 보다 얇은 지식으로는 CPU와 GPU의 한계 봉착에서 오는게 아닌가 싶습니다.
그동안 CPU와 GPU가 시장을 주도했는데 이제 성능을 한계치 만큼 끌어쓸만큼 끌어쓴거라고 생각해요.
그 간극을 메모리가 메꾸는 방식으로 시장이 나가는것 같고요.
또한 메모리 분야야 구조가 상대적으로 단순해서 개선점도 아직 남아있겠고요.
제가 짐작하건데 지금은 메모리 분야만 두각을 보이지만 마더보드와 그에 속한 인터페이스들 까지 두각을 보이면서 새시대를 잠시 열겁니다.
새시대가 길게 가지는 못하겠지만요.
댓글 (17)
-
Ffinalsky
06.01 · 223.♡.149.241
-
Nneopage
06.01 · 161.♡.152.227
LLM에 있어 현재 병목은 메모리죠. 용량 및 속도 모두.
반면 GPU쪽은 메모리쪽 속도가 받쳐주지 못해 제대로 성능을 내지 못한다고 들었습니다.
-
사사자바람연꽃
06.01 · 221.♡.34.113
영상 보시면 재미도 있고 간단한 설명도 있는데
학습, 추론 하기 위해 어마어마한 데이터를 순간 처리 해야 하는데 그만큼 빠른 속도와 용량이 필요 한 겁니다. 윗분 설명 잘 해주셨네요. ㅎ
-
할할말을잃었습니다
06.01 · 221.♡.91.182
이차전지가 한계를 가진것과 비슷한걸까요 ㄷㄷ
- 떠
떠벅아재
06.01 · 14.♡.8.201
메모리의 용량및 속도 한계 때문에 GPU리소스가 상당히 놀고 있는걸로 알고 있습니다. CPO(Co-Packaged Optics)가 각광받는것도 테라바이트의 메모리를 한번에 빠르게 GPU로 올려서 GPU 사용율을 끌어 올리려는 이유죠.
-
Ssinoon
06.01 · 59.♡.151.61
비싼 GPU가 놀고 있으니 그거 일시켜야하니까 메모리가 빨라져야하는데
메모리를 빠르게 할 방법이 메모리를 무식하게 쌓아서 ㅈㄹ빠른 메모리를 맹그는거라
메모리가 개많이 필요하다가 결론이라 봅니다
그니까 GPU가 아무리 발전을 해도 메모리단에서 쌓는방법 말고 개빠른 메모리를 개발 못하믄 이 구도는 계속 되는거죠
그니까 김정호 교수님이 엔비댜든 암드든 어디든 삼전 하닉에 깨갱일수 밖에 없다 말씀하시는거라 봅니다
-
쩝쩝쩝박사
06.01 · 222.♡.88.247
메모리가 미친듯이 성능을 따라잡아 CPU GPU NPU 구동 병목을 해소하면 NVM이 발목을 잡죠.
그럼 또 새로운 저장장치가 튀어나오고..
또 프로세서가 튀어나가고.. 반복입니다.
-
Kkamziki
06.01 · 112.♡.3.91
AI, 특히 LLM(대형언어모델)이 본격 활용되기 시작하면서, RAM이 특히 중요하게 되었습니다. VRAM도 마찬가지구요. 이건 LLM의 원리 때문이기도 합니다. LLM이란게 ABC 까지의 데이터에서 다음 D를 예측하는 방식으로 작동하는데, ABCD까지 예측했으면, 다음 E를 만들기 위해서는 ABCD까지가 계속 메모리에 있어야하는 방식입니다. ABCDE.. 이런 식으로요... 결국 메모리 하마라는거죠.
-
EEugenestyle
06.01 · 122.♡.84.122
시속 200킬로미터가 최대속도인 차를 어린이보호구역가 가져다 놓은 거라더군요 지금의 메모리는...
그걸 제속도를 낼수 있는 트랙으로 가져가야 한다고.. 그게 HBM이라고
-
순순후추
06.01 · 125.♡.60.233
후에 전설의 레전드로써 기억에 메모리-
댓글을 작성하려면 이 필요합니다.
반대입니다. CPU GPU는 겁나게 성능 올라가는데 메모리가 못 따라가서 병목이 생긴거죠.
그래서 최대한 빠른 메모리가 필요해서 GPU나 CPU 전용으로 만든 특별한 메모리가 필요한 상황이 된 거라고 메모리 박사?님 영상을 봤습니다.