물론 재 개이적인 상황이지만 말이죠.

저희 부부는 한두달 뒤 7개월 정도 해외여행을 계획중입니다.

그래서 그 전에 개인적으로 사용하는 홈페이지 3개 정도를 운영할 서버와 LLM 모델이 운영될 장비를 계속해서

셋팅하고 마련하고 있던 참입니다.

7개월 동안은 처갓집 또는 작은형님네 사무실에 둬야 하는데....

장비가 장비다보니 이게 일반 AMD CPU와 3060(12g)+5060(16G) 또는 3090(12g)로 운영되는 장비는 

소음에 전기세의 압박이 의외로 발생할것 같더라구요.

벌써 몇번째 이 장비 저 장비 바꾸는지는 모르겠지만...

이렇게 저렇게 돌고 돌아서 속도는 RTX GPU 보다 한참 떨어지지만 맥스튜디오 M1 64G, 2TB 모델로 다시 구입하게 됬네요....

처갓집이나 둘째 형님네 사무실 어디에 둬도 소음이나 전기세 압박에서 자유로울수 있을것 같아서....

LLM에 할당한 메모리도 시스템이 사용할 12G 정도 메모리 제외하면 대략 50GB 이상을 LLM에 할당할수 있으니

상황에 따라서 경우에 맞는 모델 2개도 한꺼번에 돌릴수도 있을것 같고....

이젠 그동안 여기저기 장비들 거치면서 밑그림 식으로 구상하고 테스트 해밨던 저만의 프로젝트를 이젠 꼼꼼하게 적용해봐야겠네요....

나만의 지식보관소...온라인 도서관 만들고 있거든요.....공인된 지식들만 모아둔곳...오염되지 않은 정보들로 가득한곳 만들고 있는데 너무 재미집니다. ㅋㅋㅋ

요즘은 LLM 이라는 참 좋은 무기가 있으니 굳이 제가 죽어라 모든 논문을 다 공부할 필요도 많이 없고 ㅋㅋㅋㅋ