개인용 로컬 AI 머신이 제대로 나오려면 얼마나 걸릴까요..
그
그린내 (222.♡.202.59)
2025년 5월 31일 PM 04:42 · 수정됨(18:19)
조회 816 공감 0
NAS 같은 방식으로 구동되는 로컬 AI 머신이 있었으면 좋겠다.. 생각하는 요즘입니다.
솔직히 돈과 시간, 그리고 AI 지식이 있으면 개인이 구성하는게 마냥 불가능한 것은 아니라고 생각은 듭니다만 너무 복잡하죠...
개인이 구성하려고해도 일단 글카부터 정말 비싸기 때문에, 과연 가능해질까 싶기도 하고요. 요즘 반도체 성장 속도 더뎌진 것을 보면 더더욱 장담이 불가능하네요.
내 데이터는 내껄로 챙기고 싶은데 요즘 추세 보면 이젠 정말 어려운 시대구나 생각도 듭니다. 당장 게임만 해도 예전에 물리적인 매체만 있으면 끝! 이 아닌 내 것이 내 것이 아닌 상황 되는거 보면요...
적고보니 제목과 달리 회의적인 내용만 가득한 본문이 되어버렸네요 ㅋㅋ
댓글 (9)
-
안안시기
25.05.31 · 121.♡.220.161
딥시크가 그런 개념으로 쓸수있지않았나용? 개인이 받아서 구축가능했던걸로 기억나용. -
그그린내
→ 안시기 작성자
25.05.31 · 222.♡.202.59
가능이야한데 문제는 하드웨어가 어느정도 뒷받침 되어줘야한다고 해서요 ㅋㅋㅋ
딥시크도 결국 제대로 쓰려면 하드웨어가 꽤 좋아야하더군요. -
예예지
25.05.31 · 116.♡.254.67
점점 상향 평준화 되어 같은 성능의 기기에서도 더 좋은 AI 성능을 보여주겠지만 그래봤자 결국 더 좋은 기기 성능이 더 좋은 AI 성능인건 변하지 않을거라 결국 돈이죠... -
그그린내
→ 예지 작성자
25.05.31 · 222.♡.202.59
스마트폰처럼 일반인들에게 제대로 보급되기전까지는 시간이 한참 걸릴 듯 합니다.
그나마 스마트폰 온디바이스 처리는 가능성이 쪼금 보이긴 하는데, 문제는 이것도 돈이 엄청 들어갈 것 같고요. -
예예지
→ 그린내
25.05.31 · 116.♡.254.67
딥시크 R1 32b은 돌려봤는데 품질 너무 구려서... 딥시크나 llama 70b는 쓸만하다고는 하던데 그래도 상용 서비스에 비하면 속도도 결과물도 부족하다고 하더라구요. -
셀셀빅아이
25.05.31 · 125.♡.200.218
지금도 간단한건 되니까요.
지금 발전 속도면 몇년안에 어느정도는 되지 않을까 합니다. -
그그린내
→ 셀빅아이 작성자
25.05.31 · 222.♡.202.59
전 딴건 필요없고 검색과 번역 기능만 제대로 되어도 ㅇㅋ일듯 합니다 ㅎㅎ - 크
크루소닉
25.05.31 · 180.♡.6.137
지금도 공개된 LLM 모델중 가벼운것은 돌아가긴 합니다.
Vram 16G로 12b 모델 잘 돌리고 있어요
전문적인걸 굴려보진 않아서 성능은 잘 모르겠습니다.. 그냥 재미삼아+참고용으로는 충분한것 같아요 -
구구소
25.05.31 · 182.♡.150.7
전에 컴퓨터 기술관련 수업에서,
수퍼컴급의 성능이 개인용 워크스테이션에서 가능해지는데 10년 정도 본다더군요.
그리고 워크스테이션급 성능이 모바일 기기로 나오는데도 그정도 시간이 필요하다고..
그럼 20년 잡아야 겠네요.
댓글을 작성하려면 이 필요합니다.