개발한당

🔥 제목 시위는 [말머리] 또는 임시게시판(불타는앙)을 이용바랍니다.

LLM API 바우처가 생겨서 이것저것 만들어보네요.

알림
|
X

페이지 정보

작성자 NullPointerExce… 112.♡.103.146
작성일 2024.07.29 19:11
559 조회
1 추천
쓰기

본문

불경기라 그런지 회사 일은 줄어들고,

그냥 놀기는 뭐하고 해서 몇군데 바우처 신청해봤는데

덜컥하고 소액이지만 지원을 받았네요.


받을때에는 기분이 좋았는데,

막상 하겠다고 한 것을 이것저것 테스트해보는데

생각보다 성능이나 비용이 애매해서 고민이네요.


최신의 논문이나 지식들을 바탕으로 자동으로 예제나 프로그램을 만들어서

바로바로 교육자료로 사용하려고 테스트하고 있는데 생각보다 이런저런 문제들이 발생하네요.


네이버에서 나온 클로바X는 컨텍스트 길이가 짧아서 쓰기 어렵고,

한글은 그럭저럭 나오는데 전반적인 성능이 떨어지네요.

특히 응답 포맷이 말썽이네요.


OpenAI는 최근에 나온 4o-mini가 가격도 저렴하고 프롬프트만 잘 만들면,

성능도 괜찮게 나와서 Agent용으로 테스트해보고 있네요.


Claude는 성능은 월등한데, 가격이….

최종적으로 여러 데이터 수집 후 한번만 호출하여 공유 할때만 사용하고 있네요.


구글의 Gemini는 가격도 좋고, 성능도 괜찮은 것 같은데…

뭔가 하나씩 부족한듯한 응답때문에,, 잘 안쓰게 되네요.

구글에서 진행하고 있는 Gemini 대회도 나가볼까했는데

거긴 워낙 괴물들이 나올 것 같아서, 소소한 테스트나 진행하고 있습니다.


혹시나 같이 테스트해주실 분들이 계신다면,

아래 사이트에서 테스트 해봐주시면 감사하겠습니다.

https://toldrop.com/


ChatGPT의 GPTs로 테스트 해보실 분은

여기로 해봐주시면, 많은 도움이 될 것 같습니다.

https://chatgpt.com/g/g-qFCKtinJp-summarize-all-by-toldrop


버그나 잘 안되는 것들 댓글로 남겨주시면,

바로바로 수정해보도록 하겠습니다.


불경기에 다들 잘 버티셔서 좋은 날이 오시길 바라겠습니다.


댓글 6

꾸미님의 댓글

작성자 no_profile 꾸미 (112.♡.246.234)
작성일 08.01 14:38
한국어로 선택하고 유튜브 Summarize를 했는데 답변이 영어로 만들어졌어요~

NullPointerException님의 댓글의 댓글

대댓글 작성자 NullPointerExce… (112.♡.103.146)
작성일 08.19 22:54
@꾸미님에게 답글 특정 LLM API가 말썽이라서 그냥 빼버렸습니다.....
이제는 언어에 맞게 잘 나올거에요.
테스트 해주셔서 감사합니다.

NuGenes님의 댓글

작성자 NuGenes (203.♡.66.10)
작성일 08.14 11:11
https://youtu.be/KDM6UM-msZk
붙여넣기 하고 Summarize를 했는데 첨부한 이미지처럼 더 이상 진행이 안 되네요.

NuGenes님의 댓글

작성자 NuGenes (203.♡.66.10)
작성일 08.14 11:16
두 번째 피드백입니다.
https://youtu.be/VVKcSf6r3CM
붙여넣기 하고 Summarize 했더니 이메일 주소를 입력하라고 창이 나오는데, 이메일 주소를 넣어도 더 이상 진행이 안 됩니다.

NuGenes님의 댓글

작성자 NuGenes (203.♡.66.10)
작성일 08.14 11:23
세 번째 피드백입니다.

https://chatgpt.com/g/g-qFCKtinJp-summarize-all-by-toldrop​

여기에 접속해서 맨 위에 있는 유튜브 (랭체인(LangChain) 핵심 개념 - Retrieval-Augmented Generation (RAG) 개념 정리) URL을 입력했더니 다음과 같은 메시지가 나옵니다.

"The video has an auto-generated script available in Korean. Since you requested English, but only Korean is available, would you like to proceed with a summary based on the Korean script, or would you like to provide another video?"

그래서 "한국어로 정리해줘"라고 대답했는데, 영어 요약본을 제시하네요.
"Korean, please"라고 했는데도 같은 결과이구요.
참고하시기 바랍니다.

NullPointerException님의 댓글의 댓글

대댓글 작성자 NullPointerExce… (112.♡.103.146)
작성일 08.19 22:58
@NuGenes님에게 답글 유튜브 접속이 막혀서 발생한 오류였어요.
이제는 잘 되실겁니다.
쓰기
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색