nvidia에서 만든 dgx spark 임미다 블랙웰 사용하며 128톱합메모리를 가지고 있슴미다 llm용 이기도 하지만 쿠다 연습용 이기도 함미다

대규모 서버에서 연습할 수 없으니 이런 독립적인 기기에서 연습 하라고 만든 기기라고 어디서 들었슴미다

서버로 유명한 hp에서 만든 z2 미니 임미다 amd 395가 들어가 있고 128톱합메모리 임미다 현존하는 최강의 apu임미다 내장 그래픽이 게임으로 따지면 40604060ti급으로 나온다고 함미다

hp에서 나름 서버용 제품으로 만든거라 그런지 클러스터링 할 수 있슴미다 클러스터링으로 llm을 돌렸을때 성능은 장담 못 함미다

그리고 맥스튜디오128g가 땡기는데 지금 홈페이지에서는 최대 96기가 짜리만 판매 함미다 m3울트라도 96기가 까지만 했어요 이제 곧 나올 m5때문인듯 함미다

클라우드모델을 사용해 보면 확실히 대부분의 서버가 중국 아니면 미국이라 레이턴시가 좀 있슴미다 중국은 바로 옆 나라지만 거기에 카드정보를 저장할 순 없고 그래서 미국 중계업체를 거쳐 사용해야 하는데 레이턴시가 있슴미다 그래서 실시간 대화는 좀 그렇고 작업시간이 좀 걸리는 건 서버단에서 계산하고 작업하니 이건 괜찮슴미다 문제는 미국의 사용자들이 몰리는 시간이면 한국 이용자는 리소스를 양보해야 함미다 그래서 주말에 미국사용자가 몰릴때는 로컬 모델을 돌리고 싶은데.... 저거 하나 살 돈이면 클라우드 요금으로 23년 상위,최상위 요금제 유지 가능 함미다

그래도 물리 기기가 가지고 싶은 맘

로또 1등 되믄 하나 지르고 시퍼요

그래서 이번주 로또 1등은 제가 독식하겠슴미다