잡담
Ornith 1.0 9B 좋네요
ehangman

Lv.1 ehangman (218.♡.108.60)

2026년 7월 1일 AM 01:22

조회 886 공감 0

사실 그냥 설치형 LLM은 재미로 쓰고 있지만, 조만간 놋북에서 돌릴 경량 모델을 찾고 있던 중에 Ornith 가 나왔네요.

한줄요약 : 코드작성은 못하는데 훈수는 잘 둠

두줄요약 : 그렇게 훈수두지말고 지가 하라면 또 못함

아래는 제가 만들어 쓰는 코덱스 파이썬 딸깍 벤치 (aka 랩탑에서 돌리기 기준)

조건은 raw Ollama 모델, num_ctx=4096, temperature 0, Python 3.9 호환

전체 점수

모델

Task Pass

Case Score

Accuracy

Avg tok/s

Qwen3-Coder 30B-A3B

5/6

35/37

94.59%

42.27

Ornith 35B Q4 4K

4/6

35/37

94.59%

11.06

Devstral 24B Dense

3/6

31/37

83.78%

15.30

Ornith 9B Q8

4/6

29/37

78.38%

23.00

항목별 점수

모델

코드 작성

에러 수정/버그픽스

자료구조 구현

에러 검출/리뷰

Qwen3-Coder 30B

18/18

12/12

2/2

3/5

Ornith 35B

17/18

11/12

2/2

5/5

Devstral 24B

14/18

12/12

2/2

3/5

Ornith 9B Q8

12/18

12/12

0/2

5/5

에러 검출

모델

Exact

Candidate Acc

Precision

Recall

F1

Ornith 9B

3/5

90.32%

88.89%

94.12%

91.43%

Qwen3-Coder 30B

3/5

87.10%

84.21%

94.12%

88.89%

코드 구조 이해

모델

Exact

Candidate Acc

Precision

Recall

F1

Ornith 9B

3/4

95.83%

92.86%

100.00%

96.30%

Qwen3-Coder 30B

3/4

95.83%

100.00%

92.31%

96.00%

해석은 이렇다:

  • 9B는 리뷰/검출에서 진짜 쓸 만하다. 특히 놓치는 것보다 더 잡으려는 recall 성향이 강함.

  • Qwen 30B는 더 보수적이다. false positive는 구조 이해 쪽에서 적지만, reachable bug 하나를 놓쳤음.

  • false positive control에서는 둘 다 약점이 있었다. 9B는 가짜 버그 2개, Qwen은 3개를 추가로 찍음.

  • 포맷은 9B가 더 위험하다. 내용은 맞는데 JSON array를 안 지키고 {"A","B"} 형태를 냄. reviewer로 쓰려면 parser 보정이 필요함.

추천 구조는 그대로 명확해졌어:

  • 코드 작성/수정: Qwen3-Coder 30B

  • 에러 검출/구조 리뷰 1차: Ornith 9B

  • 최종 적용 판단: Qwen 결과와 9B 리뷰 결과를 교차검증

  • strict block_patch.json 같은 출력은 9B 단독에 맡기면 안 됨.

댓글 (10)

  • 권도안

    권도안 Lv.1

    07.01 · 125.♡.69.126

    한/두줄 요약 보고 웃었습니다 ^^

  • YBman

    YBman Lv.1 → 권도안

    07.01 · 218.♡.152.147

    저도 너무 재밌게 봤습니다.ㅎㅎ. 팍팍 와 닿네요..

  • ehangman

    ehangman Lv.1 → YBman 작성자

    07.01 · 211.♡.203.112

    9B 인데 척척척 대답하는거보고 깜짝 놀랐는데 뒤에가니까 자가당착으로 무한루프에 빠지네요 ㅋㅋㅋㅋ

  • kimjason

    kimjason Lv.1

    07.01 · 110.♡.89.164

    원래 훈수 두는게 재미있거든요... 책임도 안지고.. 잘못되면... 아 그런게 있었네.. 하고 튀튀...

  • ehangman

    ehangman Lv.1 → kimjason 작성자

    07.01 · 211.♡.203.112

    훈수 원툴인 것 같습니다. 이 모델 특징이 Recall을 매우 적극적으로 해서 답을 끝까지 찾아내는 소형 모델이라는 건데, 확실히 에러가 발생해서 멈춘 시점에는 에러를 정말 잘 찾아내는데 에러가 없는 시점에는 없는 에러도 만들어냅니다 ㅋㅋㅋ

  • kimjason

    kimjason Lv.1 → ehangman

    07.02 · 110.♡.89.164

    자신의 가치를 증명해야 하니까요... 사소한것도 부풀려서 예산 타내는 선관X 같다고나 할까요? ㅎㅎ

  • 알아야면장

    알아야면장 Lv.1

    07.01 · 188.♡.253.248

    Ornith 요새 알고리즘때문에 자주 떠서 한 번 돌려보니...Qwable보다는 확실히 어버버..어버버하는 느낌이 많이 들더라구요...바로 지웠습니다.

  • ehangman

    ehangman Lv.1 → 알아야면장 작성자

    07.02 · 211.♡.203.230

    뭘 고치는것도 잘 못해요. 알아차리기만 잘할 뿐

  • 낮은언덕

    낮은언덕 Lv.1

    07.01 · 112.♡.214.77

    훈수 잘 두는 모델이라면 open-code-review 에 물려서 쓰면 쓸만하겠네요. 근데 토큰 나오는 속도가 생각보다 좀 떨어져보이네요.

  • ehangman

    ehangman Lv.1 → 낮은언덕 작성자

    07.02 · 211.♡.203.230

    9B 4K 맥북 프로에서 돌려서 좀 느리네요.

    저는 이걸 회사 컴에서 돌려보려고요. VRAM 8GB첨부 이미지

댓글을 작성하려면 이 필요합니다.