엔비디아-미스트랄AI, 신규 AI 모델 출시…"개인 데스크톱도 AI 실행"

알림
|
X

페이지 정보

작성자 아름다운별 118.♡.85.110
작성일 2024.07.19 14:19
분류 IT
1,802 조회
3 추천
쓰기

본문

[공식] Mistral NeMo

https://mistral.ai/news/mistral-nemo/


* 아래 지디넷코리아 기사 내용 일부

https://zdnet.co.kr/view/?no=20240719090933

100여 개 이상 다국어 지원…한국어 학습 성능 2배 향상


인공지능(AI) 하드웨어 시장을 주도하는 엔비디아와 오픈AI의 경쟁자로 주목받는 미스트랄AI가 새로운 언어모델을 발표했다.


신규 언어 모델은 엔비디아의 개인용 그래픽카드인 RTX 시리즈로도 구현할 수 있는 소규모 AI로, 기업을 비롯해 개인 사용자의 AI 활용에도 많은 변화를 일으킬 수 있을 전망이다.


미스트랄AI는 공식 홈페이지를 통해 엔터프라이즈용 언어모델 미스트랄 네모(Mistral-NeMo)를 출시했다고 19일 밝혔다. …


120억 개의 매개변수로 학습된 이 모델은 글로벌 다국어 앱을 위해 설계된 것이 특징으로 기존 언어모델과 비교해 16배 큰 12만8천 토큰의 컨텍스트 창을 제공한다. …


특히 영어, 한국어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 중국어, 일본어, 아랍어, 힌디어에 특화된 성능을 지원한다.


미스트랄AI에 따르면 한국어와 아랍어를 각각 2배와 3배 더 효율적으로 압축할 수 있으며 중국어, 이탈리아어, 프랑스어, 독일어, 스페인어, 러시아어도 30% 성능 향상을 달성했다. …

[이후 내용 생략]

댓글 1 / 1 페이지

와싸다님의 댓글

작성자 no_profile 와싸다 (110.♡.98.240)
작성일 07.19 22:18
개인용이라고는 하지만 128k 컨텍스트 쓰려면 8비트로 로딩해도 16-17gb vram 필요하더라고요
쓰기
홈으로 전체메뉴 마이메뉴 새글/새댓글
전체 검색