생각보다 큰거 같기도 작은거 같기도 하면서 묵직 함미다

미니pc를 생각하면 중국제나 맥미니 생각하면 조금 많이 크고

맥스튜디오랑 비교해도 조금 더 큼미다

맥스튜디오는 금속몸체인데 이건 플라스틱인데 묵직해요

amd ai max 395 소문으로만 들어 봤지 처음 사용해 보는데 램 128g라서 gpu에 96기가 몰아주고 램 32기가로 사용함미다

윈도우가 기본으로 있는데 그거 밀고 우분투로 설치해서 세팅했슴미다

우분투설치하는데 삽질해서 3시간 넘게 삽질 했슴미다

상상은 128기가인데 gpu에 96기가를 몰아 주니 거대 모델도 사용가능하겠지???

실제는 35b정도가 아니면 실사용은 naver임미다 gpt-oss-120b 모델이 MoE라서 토큰생성이 생각보다 빨랐지만 액티브가 20b라서 차라리 통으로 35b나 젬마4 31b 모델이 나을때도 있슴미다

그리고 나름 미니서버라 그런지 팬 소음이 우렁참미다 발열 때문에 어쩔 수 없지만 우렁차요

그래서 이럴줄 알았으면 arm칩기반인 dgx spark가 나았을거라 생각을 했지만 이것도 어짜피 gpu는 발열이 쩔고 성능 자체는 amd395가 더 좋은데 대신 dgx는 쿠다가 있어서 쿠다 사용 생태계는 좋슴미다

지금 삽질 하는건 amd 395가 내장그래픽 성능은 좋은데.... 로컬모델의 파인튜닝을 위한 파이토치가 내장그래픽과 충돌이 나고 있슴미다 ai에게 물어봐도 인터넷 찾아봐도 아직 amd에서 이것에 대한 드라이버를 안 내줘서 정식으로 해결이 불가능 할 거 같슴미다 지금 ai에게 어케든 사용할 수 있게 해 보라고 쪼고 있슴미다

llm용으로 많이 팔렸다고 하는데 음.... 그냥 클라우드 사용하세요 전 기기가 갖고 싶다와 지르고 싶다 충동구매 해서 일단 질렀는데 원래는 새 맥스튜디오를 사고 싶었슴미다

3일전으로 돌아 갔으면 안 질렀을 거에요 ㅠㅠ