openai api 속도

페이지 정보

348 조회
3 댓글
0 추천

본문

openai api gpt4 터보 얼마전 공개되서 사용중인데 응답이 15초 이상 걸리네요..

3.5터보는 5-6초면 응답이 와서 서비스 만들만합니다. 하지만 성능이 꽤나 차이나서 컨텍스트에서 답을 잘 못찾을 때가 많네요... 리전이 동아시아쪽은 전혀 없는건지 아쉽네요

댓글 3

maplus님의 댓글

개인적으로는 많지 않은 사용자들에게 세계 최고의 성능을 제공하는 것 보다는 매우 많은 사용자들에게 안정적으로 상당히 괜찮은 성능을 제공하는 것이 시장을 독점하는 선결조건이 되지 않을까 생각합니다.
그걸 할 수 있고 준비하는 업체는 구글밖에 없어 보여요.

동탄토깽이님의 댓글의 댓글

@maplus님에게 답글 아직 구글 모델을 사용해보진 못했습니다. ai서비스를 만든다는것이.. 이런저런 해결 방법을 찾아가는 여정같네요.
전체 218 / 3 페이지
전체 검색