Google Cloud Next 키노트 영상을 보는데 Gemini 추론비용이 엄청 싸네요.
가사라

Lv.1 가사라 (112.♡.211.243)

2025년 4월 10일 PM 01:22 · 수정됨(13:37)

조회 764 공감 0

Google Cloud 의 AI Hypercomputer 에서 추론서비스를 제공하는데, Gemini 2.0 Flash 를 GPT 4o 보다 24배 싸게 추론할 수 있다고 합니다.

DeepSeek R1 보다는 5배 싸게 추론할 수 있다고 하고요.

(평가기준이야 Google 마음이니 감안하고 보셔야...)


이러니 Google 이 SOTA 로 평가받는 Gemini 2.5 Pro 를 무료로 풀고 있는 거겠고요.

AI 는 돈으로 처바르는 전쟁이라는 표현이 와닿네요.


기업들이 온프레미스로 LLM 을 구축하는게 아니라면 어딘가에 LLM 서버를 마련해야 하는데, 성능과 비용 모두 매력적이라면 고려해볼만 하겠네요.



그 밖에 온갖 Google 제품에 다 AI 가 붙었다는게 특기할만 하고요.

저도 Gmail 이나 Google Docs 등에서 요약이나 수정제안등 아주 잘 쓰고 있습니다.

(이건 MS 가 먼저 한다고 했던건데 요즘 MS 는 뭐하고 있는지도 모르겠습니다.)


제일 인상깊은건 오픈소스로 Agent Development Kit 를 발표한 것인데요.

Cloud 쪽 일을 하고 있는게 아니라 잘은 모르지만, MS 가 Agent 구축관련 발표한게 있던데 Google 도 Agent2Agent Protocol 이라는 프로토콜을 발표하고, 요즘 핫한 MCP 도 지원하는 오픈소스 SDK 를 발표한거 같네요.

아무래도 MS 가 독점적인 솔루션을 만든 것에 대항해서 개방적인 프로토콜로 대응하는 것 같습니다.


올해는 Agent 로 의미있는 성과들이 나와주면 좋겠습니다.

요즘 핫한 DeepResearch 도 Agent 의 일종인데, 저도 딸깍~ 하고 시켜보고 싶은 일들이 많거든요.


댓글 (4)

  • Jamesvond_k

    Jamesvond_k Lv.1

    25.04.10 · 1.♡.167.103

    SW업계는 시장선점이 젤 중요하고 그다음은 밑도 끝도없는 가격싸움이죠. 저놈이 제시한가격보다 무조건 싸게 해줄께. 시작도하기전에 치킨게임 들어갔네요.
  • 아킨도 Lv.1

    25.04.10 · 220.♡.41.216

    2.0 flash 첨 공개된게 작년 12월이었는데 대놓고 이야기하는게 성능대비 가격이었습니다.
    입출력 토큰수가 작긴 하지만 그에 맞는 서비스에 이용하기 좋은듯 하네요.
  • 잇츠 Lv.1

    25.04.10 · 211.♡.35.238

    가격경쟁이 되는 이유는...
    자체 TPU 영향이 크겠지요.
  • 리코리안

    리코리안 Lv.1

    25.04.10 · 211.♡.172.252

    api써보려고 하면 gemini 만한게 없더라구요. 가벼운 거의 무료로 운영할 만한 서비스에서는 chatgpt 는 너무 비싸요 ㅎㅎ;;
    구글 욕 많이 먹지만 google ai studio 에서 비교도 가능해서 프롬프트 잘 만들면 쓸만하더라구요.

댓글을 작성하려면 이 필요합니다.