지나가던행인이 (61.♡.201.240)
2026년 3월 12일 PM 10:31
https://svrforum.com/itnews/3024288
서버포럼에 한차례 소개된 적도 있고 깈뉴스에서도 본 것 같긴합니다. 간단하게는 웨이퍼 한장?으로 llm을 돌리는 기술입니다. gpu대비 엄청나게 빠른 속도가 장점이라는데 그걸 경험해 볼 수 있는 기회가 생겨서 해봤는데 nvidia가 긴장할만하겠더라구요 우선 oss 120b 모델로 몇가지 어려운 질문을 했는데 속도가 진짜 엄청 레알 대박 빠릅니다. 이 셀레브라스가 대량으로 제작되기 시작하면 게임체인저가 될거 같기도하구요 항간에는 usb나 pci슬롯에 바로 꽂아서 사용할 수 있는 크기도 목표로 하고 있다니 찐 로컬개인ai비서가 나올 수있는 기반이 생길거라는 얘기도 있더라구요.
아래 링크로 들어가셔서 간단하게 구글등으로 가입하시고 api키 받으셔서 공식문서에 나오는 python이나 node.js로 사용해 보실 수도 있고 openwebui류에서 사용도 가능합니다. 저희 개똥이(제미나이)는 오픈클로에 붙혀보라고 자꾸 꼬시던데 그건 마늘까는 알바 3일쯤해서 10불(결제하면 무료플랜에서 개발자 플랜으로 올라가서 컨텍스트 제한이 풀려서 조금 똘똘한 다른 모델들을 써서 오픈클로에 사용이 가능합니다) 벌면 그때 해 볼 예정입니다. 참고로 llama 3.1 8b는 똥멍청이니 시도 안해보셔도 되고 oss 120b가 무료티어에서도 컨텍스트 제한 외엔 거의 무료니 한번 체험해 보셔도 좋을 듯 합니다. 채팅 나오는 속도가 호달달합니다.
https://cloud.cerebras.ai
댓글 (18)
-
금금도리
03.12 · 116.♡.110.55
-
지지나가던행인이
→ 금도리 작성자
03.12 · 61.♡.201.240
대역폭 문제를 해결해서 hbm대비 약 7000배 정도 빠르답니다. ㅎㄷㄷ해요
-
금금도리
→ 지나가던행인이
03.12 · 116.♡.110.55
구글 애미나이한테 좀 찔러보니..
HBM 이 "필요없는" 구조..군요..;;
이게 만약 시장을 주도하거나, 주도하지 못해도 앤비디아와 비슷한 입지가 생기면..
현재 전량 생산중인 TSMC 쪽만 노나게 생겼네요..
국내에는 웨이퍼 한장을 통으로 만드는 기술에 연관된 회사가 없다는군요..
-
지지나가던행인이
→ 금도리 작성자
03.12 · 118.♡.84.68
개똥이(제 제미나이 노비입니다)는 이렇게 얘기해 주더라구요
나으리, 세레브라스(Cerebras)의 등장은 마치 전장에서 기마병만 보다가 거대한 증기 기관 전차가 나타난 것과 같은 충격을 주고 있사옵니다.
그들이 보여준 '웨이퍼급' 성능이 AI 업계의 판도를 어떻게 뒤흔들고 있는지, 머슴이 그 전황을 정갈하게 정리해 올리겠사옵니다.
1. AI 업계의 반응: "GPU의 독재가 끝나는가?"
업계에서는 크게 세 가지 반응이 터져 나오고 있사옵니다.
경악 (속도의 충격): 나으리의 3060 Ti가 1초에 단어 몇 십 개를 뱉을 때, 이놈들은 1초에 1,800개에서 2,000개가 넘는 토큰을 쏟아내옵니다. "생각하는 시간" 자체가 사라진 수준이라, 개발자들은 이를 보며 "AI와 실시간 대화가 드디어 현실이 되었다"며 흥분하고 있사옵니다.
회의 (비용과 접근성): 하지만 이 괴물 같은 칩 하나를 유지하려면 특수한 냉각 장치와 엄청난 전력이 필요하옵니다. "성능은 괴물이나, 일반인이 부리기엔 너무 비싼 말"이라는 평가도 지배적이옵니다.
희망 (엔비디아 대항마): 엔비디아(NVIDIA)가 부르는 게 값인 시장에서, 세레브라스처럼 전혀 다른 설계(웨이퍼 통째 사용)로 성능을 압도하는 경쟁자가 나온 것에 대해 대형 고을(빅테크)들은 환호하고 있사옵니다.
2. AI가 발전해 갈 방향: "속도가 곧 지능이다"
세레브라스가 여는 미래는 단순히 빠른 속도에 그치지 않사옵니다.
실시간 추론의 시대 (Real-time Reasoning):
지금까지의 AI는 질문을 던지면 한참을 생각(Thinking)해야 했사옵니다. 하지만 세레브라스처럼 속도가 빠르면, AI가 수만 가지의 경우의 수를 눈 깜빡할 사이에 검토하고 최선의 답을 내놓을 수 있사옵니다. 즉, '생각하는 과정' 자체가 우리 눈에는 보이지 않을 만큼 빨라지는 것이옵니다.
에이전트(Agent)의 완성:
나으리가 명하신 'OpenClaw' 같은 에이전트들이 스스로 도구를 쓰고 코딩을 하려면, AI가 수많은 단계를 거쳐야 하옵니다. 속도가 느리면 에이전트는 답답해서 못 쓰지만, 세레브라스급 속도라면 AI가 나으리 대신 수천 줄의 코드를 몇 초 만에 짜고 검토까지 끝내는 것이 가능해지옵니다.
데이터 센터의 소형화:
수천 대의 GPU를 연결해야 하던 일을 웨이퍼 한두 장이 대신하게 되면, 거대한 데이터 센터의 기강이 다시 잡히고 전력 효율이 극대화될 것이옵니다.
머슴의 결론
나으리, 결국 미래의 AI는 **"똑똑함"**을 넘어 **"즉각적임"**으로 진화할 것이옵니다.
마치 우리가 생각과 동시에 말을 뱉듯, AI도 나으리의 의도를 읽자마자 결과물을 대령하는 **'무지연(Zero-latency) 지능'**의 시대가 오고 있사옵니다. 세레브라스는 그 시대의 문을 연 선봉장이라 할 수 있사옵니다. -
금금도리
→ 지나가던행인이
03.12 · 116.♡.110.55
제가 추가적으로 궁금한게 생겨서..
구글 애미나이를 좀 더 찔러봤는데..
전력소모량은 분명 cerebras 쪽이 더 효율적으로 나옵니다만..
발열과 유닛에 문제가 생겼을때 유지보수 측면에 cerebras 쪽이 좀 더 불리한 구조같아요..
유닛 이상문제로 교체를 해야할때도..비용적인 측면에서 cerebras 가 더 돈이 많이들거 같습니다..
사용범용성에 차이가 좀 생길꺼 같은게..
말씀하셨던 증기기관차와 말..의 비유가 비슷한 느낌이네요..
대량의 데이터를 이용해서 굉장한 무언가를 해야할때는 분명 증기기관차가 더 좋겠지만..
집앞에 나들이 다닐때는 말 한마리 끄는게 더 나은것과 비슷한거 같습니다..
유지보수 측면도 마찬가지구요..
당분간 앤비디아가 망하는 상황은 안올꺼 같네요..
-
지지나가던행인이
→ 금도리 작성자
03.12 · 61.♡.201.240
저도 그 부분은 동의합니다 근데 엔비디아도 결국 저런쪽으로 가지 않을까 싶기도하구요. 다만 제가 기대하는 쪽은 비슷한 개념으로 발전해서 모바일디바이스나 개인용 PC시장에 GPU를 대체하는 하드웨어로 진입하게 되면 그때가 정말 무서운 시기가 아닐까 합니다
-
금금도리
→ 금도리
03.12 · 116.♡.110.55
GPU + HBM / 웨이퍼 + SRAM 구조가..1세대가 될꺼 같고..
2세대가 되면..완전 달라질수도 있겠네요..
-
지지나가던행인이
→ 금도리 작성자
03.12 · 61.♡.201.240
저는 투자자의 입장(잘 모릅니다 ㅠ)보다 기술자로써의 호기심 관점에서 봤을때 그 2세대가 참 기대가 됩니다 ㅎㅎ
-
금금도리
→ 금도리
03.12 · 116.♡.110.55
역시 돈이죠! 돈! +ㅂ+)/ 촤화화화화!
-
지지나가던행인이
→ 금도리 작성자
03.12 · 61.♡.201.240
확실히 투자도 인사이트가 있어야하는구나라고 느꼈습니다 👍 성투하십시오! 오래된 it 커뮤 느낌 넘모 좋습니다
댓글을 작성하려면 이 필요합니다.
GPU 가 필요없다..일까요?
만약 그렇다면..관련 주식들이..조정을 좀 받을지도..;;