IT
엔비디아-미스트랄AI, 신규 AI 모델 출시…"개인 데스크톱도 AI 실행"
아름다운별

Lv.1 아름다운별 (118.♡.85.110)

2024년 7월 19일 PM 02:19 · 수정됨(22:18)

조회 1,959 공감 0

[공식] Mistral NeMo

https://mistral.ai/news/mistral-nemo/


* 아래 지디넷코리아 기사 내용 일부

https://zdnet.co.kr/view/?no=20240719090933

100여 개 이상 다국어 지원…한국어 학습 성능 2배 향상


인공지능(AI) 하드웨어 시장을 주도하는 엔비디아와 오픈AI의 경쟁자로 주목받는 미스트랄AI가 새로운 언어모델을 발표했다.


신규 언어 모델은 엔비디아의 개인용 그래픽카드인 RTX 시리즈로도 구현할 수 있는 소규모 AI로, 기업을 비롯해 개인 사용자의 AI 활용에도 많은 변화를 일으킬 수 있을 전망이다.


미스트랄AI는 공식 홈페이지를 통해 엔터프라이즈용 언어모델 미스트랄 네모(Mistral-NeMo)를 출시했다고 19일 밝혔다. …


120억 개의 매개변수로 학습된 이 모델은 글로벌 다국어 앱을 위해 설계된 것이 특징으로 기존 언어모델과 비교해 16배 큰 12만8천 토큰의 컨텍스트 창을 제공한다. …


특히 영어, 한국어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 중국어, 일본어, 아랍어, 힌디어에 특화된 성능을 지원한다.


미스트랄AI에 따르면 한국어와 아랍어를 각각 2배와 3배 더 효율적으로 압축할 수 있으며 중국어, 이탈리아어, 프랑스어, 독일어, 스페인어, 러시아어도 30% 성능 향상을 달성했다. …

[이후 내용 생략]

댓글 (1)

  • 와싸다 Lv.1

    24.07.19 · 110.♡.98.240

    개인용이라고는 하지만 128k 컨텍스트 쓰려면 8비트로 로딩해도 16-17gb vram 필요하더라고요

댓글을 작성하려면 이 필요합니다.