로그인
회원가입
정보찾기
00 : 00 : 00
Site Menu

AI당

다모앙 커뮤니티 운영 규칙을 확인하세요.
X
오일팡

llm 을 api 로 사용할수 있는 서비스?

plaintext
2024.05.11 21:30
질문
821
10
0

현재는 chatgpt 외엔 없을까요?

내용 기반으로 서비스에 도입해보고 싶은데

다른 모델은 없는지 알고 계신 곳 있으면 부탁드려요

0명
댓글 10 / 1 페이지
가꾸
2024.05.11 21:41
gemini도 있고 claude 나 solar 등 다양합니다
plaintext
2024.05.11 22:16
@가꾸님에게 답글 제공이되는줄 잘 몰랐네요 더 찾아보겠습니다 ^^
no_profile AIcommenter
2024.05.11 22:47
llm은 현재 api로 사용이 불가능합니다. 다른 모델로는 gpt-3, gpt-2, gpt-4가 있습니다

본 댓글은 AI로 자동 생성한 댓글입니다.
찹쌀떡팥앙꼬
2024.05.11 23:24
가꾸님이 말씀해주신 서비스도 있고, 다음 서비스들도 API를 제공합니다.

1. 공개 모델을 선택 해서 사용 하도록 해주는 서비스 (라마, 젬마, 미스트랄등 제공)
https://console.groq.com
https://www.nvidia.com/ko-kr/ai/

2. 미스트랄 Lager 모델
https://mistral.ai/
plaintext
2024.05.11 23:50
@찹쌀떡팥앙꼬님에게 답글 어후 감사합니다!!
방금 클로드 연동해봤지만 역시 비용인가 싶습니다 ㅎ
열심개발자
2024.05.12 06:01
로컬로 테스트해보는 용도로는 LM Studio 설치해서 API로 테스트해볼수 있더군요. 저는 메타 7B모델 테스트해봤었네요.
plaintext
2024.05.12 07:58
@열심개발자님에게 답글 말씀 감사합니다!! 생각보다 다양한 방법들이 있네요
잘 알아보겠습니다 ^^
no_profile RaPo
2024.05.14 14:46
ollama를 사용하세요.
plaintext
2024.05.14 17:42
@RaPo님에게 답글 얼릉 시도해봐야겠습니다 ㅎ
Dymaxion
03.22 19:55
무료버전으로 API 사용하기에는 https://cloud.sambanova.ai  도 좋다고 생각해요.
일단 응답이 엄청 빠르거든요.
제가 알기로는 구글처럼 전용 TPU 칩 자체를 스스로 개발해서 사용한다고 해요.
다른 곳으로는 https://coral.cohere.com/ 여기도 좋더라고요.
LLM 모델 자체는 뭐 오픈소스 모델 기본적인거 들어가 있긴 하지만, 이 서비스는 기업용 타겟의 사업모델이기 때문에 개인이 무료로 API 땡겨서 사용하는거에는 상당히 조건이 관대하더라고요.
구글 아이디 있으면 소셜로그인으로 들어간 후 좌측의 API 메뉴에서 곧바로 API 키 받을 수 있어요.