m4 맥미니 클러스터 구성 + LLM 테스트 영상
U
uatant (118.♡.77.90)
2024년 11월 25일 PM 06:33 · 수정됨(11. 26. 07:26)
조회 1,520 공감 0
댓글 (8)
-
MMDBK
24.11.25 · 172.♡.94.47
-
엉엉클머리
24.11.25 · 211.♡.236.210
:-) -
Ssinoon
24.11.25 · 59.♡.151.61
아까 뜬금 알고리즘에 떠서 봤는데 뭔가 일반인 입장에서는 아는척 할만한 이야기를 많이 하더군요
바로 구독 때렸습니다 ㅋㅋ -
가가사라
24.11.25 · 112.♡.211.243
재미있기는 한데 개인에게 어떤 유용성이 있을까 하는데에서 의구심이 드는군요.
개인입장에서 클라우드에 공개할 수 없는 자료가 있어서 매우 비싼 하드웨어와 유지비를 감당하면서 로컬에서 작업을 해야만 한다라는 상황이 잘 상상이 안갑니다. -
에에피네프린
→ 가사라 24.11.25 · 121.♡.158.120
앞으로는 가벼운모델을 파인튜닝해서 쓰는일이 많아지지 않으려나요? 개발자들에겐 의미가 있을듯 합니다.
그리고 더 시간이 지나면 개인용 ai를 많이 돌릴겁니다 - 가
가사라
→ 에피네프린 24.11.25 · 112.♡.211.243
그럴까요?
저는 자꾸 리눅스 데스크탑 같다는 느낌이 들어서요.
시간이 지나보면 자연히 알게 되겠죠. -
칼칼쓰뎅
→ 가사라 24.11.26 · 119.♡.210.192
저런 클러스터링은 개인에게도 별 의미가 없습니다.
대역폭이 무의미해요... 그냥 ddr5램 큰거 박아놓고 cpu로 돌리는것보다 더 느릴수도 있습니다;;; -
불불의정령
24.11.26 · 223.♡.169.51
대역폭 확보하려면 인피니밴드 정도로 연결해야 가능할듯
댓글을 작성하려면 이 필요합니다.
AI당에 새벽에 올렸는데 AI당에도 놀러와주세요