코미 (172.♡.252.26)
2025년 3월 17일 PM 03:27 · 수정됨(03. 26. 23:25)
전에 맥북 에어 m1 8기가가 ai 한참 부족해서 큰 맘 먹고 300만원 주고 맥북프로 m4 24기가 구매한 바 있습니다.
제 목표는 책이나 자료를 로컬 llm 모델에 학습시킨 후 그걸로 요약글, 퀴즈, 학습지, 프레젠테이션 초안 등을 만드는 겁니다.
그 외에도 여유가 되면 웹을 연동시켜 기존 자료에 최신 자료나 사진을 덧붙이는 것이나, 아예 그렇게 입력한 걸 자동으로 홈페이지에 게시해서 광고비 받아먹는 것도 생각하고 있어요.
ChatGPT를 유료 구독하며 드는 비용을 확 줄일 수 있으니까요.
근데... 역시 제가 너무 꿈이 높은 건지 24기가 램으로도 맛보기가 고작이군요.
어느 회사에 기대서 하기보다 내가 직접 작지만 직접 굴려보고 싶은데 역시 다음엔 128기가 램을 달아야...

댓글 (22)
-
규규링
25.03.17 · 103.♡.140.143
-
MMDBK
→ 규링
25.03.17 · 172.♡.252.30
윈도에서 wsl로 구성한다음에 도메인 연결후 외부접속 만들어놨는데 잘 안쓰게 되더라고요. 그냥 맥에서 하는게 편하긴합니다. -
규규링
→ MDBK
25.03.17 · 103.♡.140.143
전 아예 우분투 깔고 이용하는 본체를 따로 구성했는데...
정작 진짜 가벼운 에이전트 만드는 용도에서는 잘 안쓰게 되더군요.
여러모로 좀 더 심도있게 쓸 때나 학습시킬 때 정도에 주로 돌려보네요. ㅎㅎ -
멤멤피스
→ 규링
25.03.26 · 222.♡.254.207
Tailscale을 사용하면 쉽게 외부에서 집 안 머신에 접속할 수 있습니다 -
규규링
→ 멤피스
25.03.26 · 1.♡.80.16
오, 정보 감사합니다.
Tailscale이라.... 찾아봐야겠습니다. -
반반달곰
25.03.17 · 121.♡.147.110
맥스튜디오로 가셔야 합니다? ㅎㅎㅎ - L
lioncats
25.03.17 · 122.♡.172.80
ㅠㅠㅠㅠ -
김김링크
25.03.17 · 210.♡.105.1
추론은 램용량만 많으면 개인이 쓰기에 충분한 성능이 나오지만
학습은 다른 이야기 입니다.
뭐 학습은 별도의 기기에서 따로 굴린 후 중고로 팔아버려도 되긴 하지만요. -
코코미
→ 김링크 작성자
25.03.17 · 172.♡.52.228
아.. 수명을 갉아먹는다면 오히려 안 하는 게 낫겠네요. -
김김링크
→ 코미
25.03.18 · 106.♡.201.34
수명이 문제가 되는건 아니구요
추론은 그나마 돌려볼만한 정도의 성능이 나온다면
학습은 그냥 신품이든 중고든 최저가로 구할 수 있는 아무 글카나 갖다 써도 그거보다는 빠르겠다 싶은 속도입니다
댓글을 작성하려면 이 필요합니다.
집에 4060 ti 16기가 두장 달아둔 녀석으로도 가능하지만
외부에서 접속이 안쉽네요. ㅠㅠ
가끔 생각나서 돌리는 장난감으로 하나 생각중입니다.