엔비디아 떨어진게 라마3 덕분이라는 주장이 있네요..?
W

Lv.1 wlqehf (61.♡.104.109)

2024년 4월 23일 PM 12:56 · 수정됨(16:40)

조회 1,824 공감 0

{video: https://www.youtube.com/watch?v=DMcny6jxrzc }

 

라마3가 나왔는데 비교적 작은 파라메타 값 그러니까

GPT4가 4천억 파라메타값(추정)인데 더 적은 숫자(거의 1/3?)로 라마3가 비슷한

성능 혹은 더나은부분도 있는 결과가 나와버렸는데

(어떤분이 Groq 으로 돌린거보니까 GPT4 보다 반응성은 더 빠르더라고요.)

이게 오픈소스 였다는거고

 

학습할때는 엔비디아 GPU를 사용하기는 하는데 더 최적화 해버리면

추론 학습 둘다 엔비디아 GPU를 사용하지 않아도 되는 경우를 보여줘버려서

후속 신경망 AI들이 나올때는 엔비디아 GPU를 사용하지 않을 가능성도 있어서

그런 내용을 알게된 애널리스트들이 죄다 익절하고 수익실현 해버렸다는 이야기가

있네요.

이러면 국내에도 희망(?)이 생겼습니다(?) 적은 비용 적은 하드웨어로 잘돌리면

GPT4와 비슷한 신경망이 생길수도 있다. 이게 실제 결과값으로 나오면 한국형 Ai

만들겠다 소리 나올듯?

 

 

댓글 (13)

  • 9

    96230991 Lv.1

    24.04.23 · 221.♡.85.42

    진짜 뇌를 사용할 수 있을까요...
  • W

    wlqehf Lv.1 → 96230991 작성자

    24.04.23 · 61.♡.104.109

    신경망이 뇌를 모사해서 만든거긴 한데 여기서는 별로 관계 없는 이야기예요.
  • 슈퍼식스

    슈퍼식스 Lv.1

    24.04.23 · 210.♡.137.190

    그렇다고 하기엔 메타 주가도 엄청 떨어졌습니다. 그냥 끼워 맞추기 같네요.
  • 타키옹

    타키옹 Lv.1 → 슈퍼식스

    24.04.23 · 221.♡.37.138

    저 돈될 수도 있는 걸 오픈으로 풀어 버리니 주가 상승에는 영향이 없지 않을까요?
  • W

    wlqehf Lv.1 → 타키옹 작성자

    24.04.23 · 61.♡.104.109

    저건 엔비디아 주가 하락 소재예요. 비싼 엔비디아 하드웨어를 쓸 필요 없다는 소리죠.
  • 타키옹

    타키옹 Lv.1 → wlqehf

    24.04.23 · 221.♡.37.138

    맞습니다. 제가 읽은대로라면 초기 학습 세팅할때만 필요하다는것 같네요

    몌타의 라마3를 무료로 푼다니 메타 주가가 오를리가 없다는 댓글이었습니다. 수익모델을 만들어야 주가가 부양되겠죠
  • 타키옹

    타키옹 Lv.1

    24.04.23 · 221.♡.37.138

    역시 어느 한 기업이 승승장구 할 수는 없는 모양입니다. 제제가 걸려야지요
    그러니까 글카 싸게 만들어 내라!!!
  • 런타임 Lv.1

    24.04.23 · 174.♡.243.209

    고마진 자체가 오래 갈 수 없는 형태였죠. 가격 올리니 빅테크들은 직접 칩 제작 시작하고 삼성도 범용 칩 만들고 경쟁이 심해졌습니다.
  • D

    damoim Lv.1

    24.04.23 · 203.♡.3.227

    ollama 로 llama3:8b를 간단히 테스트해보니 llama2:13b보다 속도는 빠르면서 더 그럴듯한 답변이 나오는 것 같네요!
  • 팡파파팡 Lv.1 → damoim

    24.04.23 · 118.♡.14.209

    이번 주말에 갈아끼워야 겠네요

댓글을 작성하려면 이 필요합니다.