MS Copilot AI 40TOPS의 NPU에서 로컬 실행가능

알림

logcat 172.♡.223.2

2024.03.30 21:39

1,695

쓰기

https://www.tomshardware.com/pc-components/cpus/intel-confirms-microsoft-copilot-will-soon-run-locally-on-pcs-next-gen-ai-pcs-require-40-tops-of-npu-performance

마이크로소프트의 Copilot AI 서비스가 곧 클라우드가 아닌 PC에서 로컬로 실행될 것이라는 업계 소문과 마이크로소프트가 차세대 AI PC를 위해 40 TOPS의 Neural Processing Unit(NPU) 성능 요구 사항을 제시할 것이라는 소문에 대해 보도한 바 있습니다. 오늘 타이페이에서 열린 인텔의 AI 서밋에서 인텔 임원들이 질의응답 세션에서 Copilot의 일부 요소가 곧 PC에서 로컬로 실행될 것이라고 말했습니다. 또한 차세대 AI PC를 위해 NPU에 40 TOPS의 요구 사항이 있을 것이라고 언급했습니다.

현재 Copilot 계산은 클라우드에서 이루어지고 있지만, 로컬에서 워크로드를 실행하면 대기 시간, 성능 및 프라이버시 이점을 얻을 수 있습니다. 인텔의 출시된 Meteor Lake NPU는 최대 10 TOPS를, AMD의 경쟁 Ryzen Hawk Point 플랫폼은 16 TOPS의 NPU를 제공하고 있어 40 TOPS 요구 사항에 미치지 못합니다. 반면 퀄컴은 올해 후반 45 TOPS 성능의 X Elite 칩을 출시할 예정입니다.

인텔의 차기 Lunar Lake 프로세서는 GPU와 NPU 모두에서 기존 Meteor Lake 칩보다 3배 향상된 AI 성능을 제공할 것입니다. 칩 제조업체들은 NPU의 TOPS 성능을 높이기 위해 경쟁할 것으로 예상됩니다.

클로드 AI 요약입니다.