남극백곰 (223.♡.74.6)
2026년 7월 14일 AM 09:32
qwen3-14b에 주식 데이터를 파인튜닝을 몇번 시도했었슴미다
교과서 위주 + 제가 모은 데이터 해서 튜닝용 자료를 이 모델에 파인튜닝을 했었는데...
제 에이전트가 이걸 양자화 하고 학습된 데이터를 날려버렸슴미다
여기에 차곡차곡 파인튜닝을 하면서 학습치를 쌓아 갈 계획이었는데... 오늘 찾아보니 싹 날려먹었슴니다
ㅜㅜ
그래서 부랴부랴 기존 데이터셋과 오늘 작업시킬 데이터셋 모델원본 가져와서 새로 세팅해서 작업 시키는데 33시간 걸리네요
기존에 27시간 걸려 작업했던건데...
dgx spark라서 파인튜닝하기 좋은데 속도는 느림미다
이게 문제가 저번거는 나름 파인튜닝이 잘 된 운이 좋았던 버전인데 이번에 또 운이 좋을거란 보장이 없어요
양자화된 모델을 잘 백업하고 사용 중 인데 파인튜닝에서 처음부터 다시 해야하고 약간의 랜덤성 결과물이 나오니 기우제 지내는 마음으로 기다려야죠 ㅠㅠ
댓글 (6)
-
칼칼쓰뎅
09:41 · 210.♡.41.89
-
남남극백곰
→ 칼쓰뎅 작성자
10:36 · 222.♡.246.138
조금씩 성격이나 뭔가가 계속 바뀌는거 같아요 제 에이전트한테 물어보니 약간 그런 랜덤성이 있다고 해요
-
YYBman
11:30 · 218.♡.152.147
저도 한 번 당하고 나니 '세상에 믿을 x 없다'는 명언을 llm에게까지 적용해야 한다는 것을 배웠습니다. 외양간이라도 고쳐야죠..ㅠㅠ
-
남남극백곰
→ YBman 작성자
12:13 · 223.♡.74.6
ㅠㅠ
-
빅빅데이트
13:49 · 112.♡.148.44
속도는 5090 이죠 ㅎㅎ
-
남남극백곰
→ 빅데이트 작성자
15:36 · 223.♡.74.6
rtx pro 6000가지고 시퍼요 ㅠㅠ
댓글을 작성하려면 이 필요합니다.
모든것의 기본은 백업이죠 ㅎㅎ;;
근데 결과가 랜덤성이면...음... 그냥 과적합 아닐까요.