클라우드가 최곰미다

집에서 ai모델을 취미로 한다면 ㅡ컴퓨터 사양에 맞게 파라미터와 양자화 된거 계산해서 vram이나 통합램 여유있게 해서 모델 고르시면 되는데...

챗창(터미널)으로 뭔가 물어보고 하는건 대부분 괜찮은 속도를 내 줌미다

텔레그램 같이 외부에서도 내 컴퓨터와 연결 한다 생각하시면 실시간 양방향 통신 보다는 딜레이가 좀 큰 양방향 통신으로 생각 해야 함미다

가장 좋은건 사람들이 몰리지 않는 시간대의 대기업에서 서비스하는 제미나이 gpt 클로드 같은겁니다

그게 아니라면 로컬모델과 모델만 클라우드로 빌려주는 서비스로 하시면 됨미다(전 올라마 클라우드서비스 사용 중 임미다)

그냥 내가 직접 만들어서 나만의 ai를 가진다 라는 느낌은 들지만 생각보다 자주 개이트웨이문제와 모델의 문제때문에 서비스가 안 되는 경우가 빈번하게 발생 했었슴미다

대기업은 이런 일이 거의 없슴미다 엄청난 병렬컴퓨팅 파워로 서비스가 다운된다는건 파워가 모자르기 때문임미다 라는걸 온몸으로 말해 주기 때문 임미다

대기업과 클라우드 모델만 빌려주는 서비스의 차이는 사용량에서 오는거 같슴미다

내가 구축하고 서비스 유지하고 혹시나 모를 문제 대비하는 비용이 다 서비스 사용료에 녹아 들었다고 샹각하면 ..... 클로드님 제미나이님 토큰 양 좀 늘려 주세요 ㅠㅠ