아직은 그단계는 아닙니다.
학습에는 여전히 어마어마한 수준의 ai 연산기 파워가 들어가고
LLM 도 최고사양의 가정용 그래픽 카드로도 못비비는 수준으로 아직은 모델이 커요.
지금 미니라고 불리는 애들도 5090으로는 못돌립니다(vram부족)

진짜 돈걱정없이 가정용 온디바이스로 좀 쓸만하게 돌릴수 있는 시점은 지금 하드웨어 발전속도로 보건데
4~5년정도 더 걸릴거 같습니다.

제가 설명이 부족했네요.
zero 로 수렴할거라는 얘기는 샘 알트만이나 기타 여러 테크수장들이 했던 얘기고요.
당연히 그 기간은 수 년은 걸리겠죠.

그리고, 가정용으로 돌리는거만큼 클라우드 LLM 들이 굉장히 싸질 거라는 뜻입니다.
사실 가정용 sLLM 은 저는 시장이 없다고 보는 편이에요.
클라우드가 다 먹을 수 있다고 봅니다.

공개하진 않았지만 chatgpt 4o-mini모델은 8b정도로 추정되서 양자화를 활용하거나 메모리통합인 맥미니로 돌릴수 있습니다. 다만 공개된 모델이 아니라 현시점에서는 성능이 비슷한 딥시크같은걸 사용해야하죠.