ehangman (218.♡.108.60)
2026년 7월 1일 AM 01:22
사실 그냥 설치형 LLM은 재미로 쓰고 있지만, 조만간 놋북에서 돌릴 경량 모델을 찾고 있던 중에 Ornith 가 나왔네요.
한줄요약 : 코드작성은 못하는데 훈수는 잘 둠
두줄요약 : 그렇게 훈수두지말고 지가 하라면 또 못함
아래는 제가 만들어 쓰는 코덱스 파이썬 딸깍 벤치 (aka 랩탑에서 돌리기 기준)
조건은 raw Ollama 모델, num_ctx=4096, temperature 0, Python 3.9 호환
전체 점수
모델 | Task Pass | Case Score | Accuracy | Avg tok/s |
|---|---|---|---|---|
Qwen3-Coder 30B-A3B | 5/6 | 35/37 | 94.59% | 42.27 |
Ornith 35B Q4 4K | 4/6 | 35/37 | 94.59% | 11.06 |
Devstral 24B Dense | 3/6 | 31/37 | 83.78% | 15.30 |
Ornith 9B Q8 | 4/6 | 29/37 | 78.38% | 23.00 |
항목별 점수
모델 | 코드 작성 | 에러 수정/버그픽스 | 자료구조 구현 | 에러 검출/리뷰 |
|---|---|---|---|---|
Qwen3-Coder 30B | 18/18 | 12/12 | 2/2 | 3/5 |
Ornith 35B | 17/18 | 11/12 | 2/2 | 5/5 |
Devstral 24B | 14/18 | 12/12 | 2/2 | 3/5 |
Ornith 9B Q8 | 12/18 | 12/12 | 0/2 | 5/5 |
에러 검출
모델 | Exact | Candidate Acc | Precision | Recall | F1 |
|---|---|---|---|---|---|
Ornith 9B | 3/5 | 90.32% | 88.89% | 94.12% | 91.43% |
Qwen3-Coder 30B | 3/5 | 87.10% | 84.21% | 94.12% | 88.89% |
코드 구조 이해
모델 | Exact | Candidate Acc | Precision | Recall | F1 |
|---|---|---|---|---|---|
Ornith 9B | 3/4 | 95.83% | 92.86% | 100.00% | 96.30% |
Qwen3-Coder 30B | 3/4 | 95.83% | 100.00% | 92.31% | 96.00% |
해석은 이렇다:
9B는 리뷰/검출에서 진짜 쓸 만하다. 특히 놓치는 것보다 더 잡으려는 recall 성향이 강함.
Qwen 30B는 더 보수적이다. false positive는 구조 이해 쪽에서 적지만, reachable bug 하나를 놓쳤음.
false positive control에서는 둘 다 약점이 있었다. 9B는 가짜 버그 2개, Qwen은 3개를 추가로 찍음.
포맷은 9B가 더 위험하다. 내용은 맞는데 JSON array를 안 지키고
{"A","B"}형태를 냄. reviewer로 쓰려면 parser 보정이 필요함.
추천 구조는 그대로 명확해졌어:
코드 작성/수정: Qwen3-Coder 30B
에러 검출/구조 리뷰 1차: Ornith 9B
최종 적용 판단: Qwen 결과와 9B 리뷰 결과를 교차검증
strict
block_patch.json같은 출력은 9B 단독에 맡기면 안 됨.
댓글 (10)
-
권권도안
07.01 · 125.♡.69.126
-
YYBman
→ 권도안
07.01 · 218.♡.152.147
저도 너무 재밌게 봤습니다.ㅎㅎ. 팍팍 와 닿네요..
-
Eehangman
→ YBman 작성자
07.01 · 211.♡.203.112
9B 인데 척척척 대답하는거보고 깜짝 놀랐는데 뒤에가니까 자가당착으로 무한루프에 빠지네요 ㅋㅋㅋㅋ
-
Kkimjason
07.01 · 110.♡.89.164
원래 훈수 두는게 재미있거든요... 책임도 안지고.. 잘못되면... 아 그런게 있었네.. 하고 튀튀...
-
Eehangman
→ kimjason 작성자
07.01 · 211.♡.203.112
훈수 원툴인 것 같습니다. 이 모델 특징이 Recall을 매우 적극적으로 해서 답을 끝까지 찾아내는 소형 모델이라는 건데, 확실히 에러가 발생해서 멈춘 시점에는 에러를 정말 잘 찾아내는데 에러가 없는 시점에는 없는 에러도 만들어냅니다 ㅋㅋㅋ
-
Kkimjason
→ ehangman
07.02 · 110.♡.89.164
자신의 가치를 증명해야 하니까요... 사소한것도 부풀려서 예산 타내는 선관X 같다고나 할까요? ㅎㅎ
-
알알아야면장
07.01 · 188.♡.253.248
Ornith 요새 알고리즘때문에 자주 떠서 한 번 돌려보니...Qwable보다는 확실히 어버버..어버버하는 느낌이 많이 들더라구요...바로 지웠습니다.
-
Eehangman
→ 알아야면장 작성자
07.02 · 211.♡.203.230
뭘 고치는것도 잘 못해요. 알아차리기만 잘할 뿐
-
낮낮은언덕
07.01 · 112.♡.214.77
훈수 잘 두는 모델이라면 open-code-review 에 물려서 쓰면 쓸만하겠네요. 근데 토큰 나오는 속도가 생각보다 좀 떨어져보이네요.
-
Eehangman
→ 낮은언덕 작성자
07.02 · 211.♡.203.230
9B 4K 맥북 프로에서 돌려서 좀 느리네요.
저는 이걸 회사 컴에서 돌려보려고요. VRAM 8GB

댓글을 작성하려면 이 필요합니다.
한/두줄 요약 보고 웃었습니다 ^^