알랭드특급 (84.♡.171.26)
2026년 7월 6일 PM 05:12
제미나이가 넘 답답해요. 이게 아무리 컨트롤하려고 해도 맘대로 안 됩니다.
컨텍스트 관리를 어떻게 하든, 하네스 엔지니어링이건 뭐건, 지 맘대로 하는것 같습니다.
정말 나 혼자만 쓰는 걸로 제가 직접 만들고 싶습니다. GPU 두 장만 있으면 어렵지 않겠죠?
댓글 (14)
-
권권도안
07.06 · 125.♡.69.126
-
알알랭드특급
→ 권도안 작성자
07.06 · 84.♡.171.26
물론 농담으로 적은 말이지만, 코딩 AI만드는 이론 자체는 어렵지 않죠. 로컬LLM 위에 다가, 내 말을 어떻게 처리할지를 내 생각의 흐름대로 짜면 괜찮을 같긴 합니다. 빅테크 애들꺼는 내가 원하는 방향이랑 좀 달라서요.
파인튜닝은 개인이 하기에는 컴퓨팅 리소스가 절대적으로 부족해서 몇 달 동안 학습시켜도 큰 의미가 없을테죠.
-
지지나가던행인이
07.06 · 61.♡.201.240
GPU 2장으로는 어림도 없지 않을까요? ㅠ
-
알알랭드특급
→ 지나가던행인이 작성자
07.06 · 84.♡.171.26
ㅋㅋㅋ 어지간한 GPU로는 가을 오기 전에 1 epoch 이라도 끝내면 다행일 것 같습니다.
-
덴덴디
→ 지나가던행인이
07.06 · 125.♡.183.220
20억짜리 말씀하시는 것일지도 =3=3=3
-
남남극백곰
07.06 · 223.♡.74.140
허깅페이스에 올라오는걸 보면 어디서 지원해 줘서 블라블라 하는걸 보면 일반 개인이나 작은 연구소 수준에서 모델 만들기엔 컨퓨팅파워와 시간과 정제데이터가 어마어마 하게 필요할거 같아요
-
알알랭드특급
→ 남극백곰 작성자
07.06 · 84.♡.171.26
글쵸. 파인튜닝은 힘들고, thinking process를 좀 고쳐보면 어떨까 싶습니다. 하지만 로컬LLM 설치할 맥북도 없는게 현실이죠.
-
풀풀빵7x
07.06 · 221.♡.29.192
만드시는 것도 가능하시겠지만. 오픈소스 에이전트 같은걸 이용해서 적당히 튜닝해서 쓰시는건 어떤가요. 에르메스나 오픈코드 같은것들이 있으니. 근데. 로컬로 쓰기엔 LLM 성능도 한계가 있고, 로컬 모델을 고려하지 않아서 답답하긴 해요.
저도 쓸만한 정도는 가능할까봐 이것저것 아직도 해보고 있어요. -
알알랭드특급
→ 풀빵7x 작성자
07.06 · 84.♡.171.26
적당히 똑똑한 자동화 툴이 필요합니다. 신뢰할만한 야간 OP들이요. 당장은 여름 휴가도 있고 하던 프로젝트 마무리도 해야되어서 연말 쯤에 개인용도로 필요한 툴 하나 만들어야겠습니다.
-
낮낮은언덕
07.06 · 112.♡.214.77
그런데 코딩을 왜 굳이 제미나이로 하시려는 이유가 있으신가요? 제미나이는 코딩 용도 보다는 다른 용도로 쓰는 것이 더 좋아보입니다. ㅎ
댓글을 작성하려면 이 필요합니다.
ai는 기본적으로 사용자의 요청을 "완료"할려는 목적의 학습이 강하기 때문에, 기본적으로 해야될 것 보단, 하지말아야될 것 으로 크게 억제시켜야 그나마 통제가 되는 것 같습니다. 아무래도 스킬의 목적도 그런 성향이 강하죠, 이미지 생성에도 포지티브가 따로 있으니까요. 저도 "특히"나 "제미나이"에서 제일 강하게, 완료 할려고 하는 "자 이정도면 됫지?" 라는 성향 강하게 느껴서 제미나이 쓸 때는 작은 유닛 단위로만 작업 지시를 내립니다.
어찌뎃던 코딩 AI 직접 만들기는... 어렵지 않을까요?, 그래도 게시판에 로컬모델에 파인튜닝 하시는 분들 계시던데 원하는 정도까지 가는건 힘들고 어려워보이더라구요. 물론 재미 있는 결과 내시는 분도 보았습니다 하핳