MS, 인텔과 코파일럿을 클라우드가 아닌 로컬 PC에서 구동하는 방안 모색
페이지 정보
본문
* Ars Technica 기사 - Intel, Microsoft discuss plans to run Copilot locally on PCs instead of in the cloud
(기사 일부 Claude 3 Opus 번역)
마이크로소프트는 1월에 2024년이 'AI PC'의 해가 될 것이라고 말했습니다. AI PC에는 현재 대부분 윈도우 시스템에 포함되어 있지 않은 몇 가지 하드웨어 요소, 즉 내장 신경망 처리 장치(NPU)와 키보드에 마이크로소프트의 새로운 코파일럿(Copilot) 키가 포함될 것으로 알려져 있습니다. 그러나 지금까지 이른바 AI PC가 사용자를 위해 실제로 무엇을 할 것인지에 대해서는 많이 듣지 못했습니다.
마이크로소프트와 인텔은 소프트웨어 개발자들이 로컬 하드웨어를 활용해 앱에 AI 기능을 구현할 수 있도록 독려하는 인텔의 신규 AI PC 개발자 프로그램 발표와 관련하여 일부 세부 내용을 공유하기 시작했습니다.
Tom's Hardware에서 전한 주요 소식은 AI PC가 마이크로소프트 AI 챗봇 어시스턴트인 코파일럿의 "더 많은 요소를 클라이언트 로컬에서" 실행할 수 있게 된다는 것입니다. 현재 코파일럿은 작은 요청에 대해서도 서버 측 처리에 의존하고 있어, 광범위한 정보를 요청할 때는 용인할 수 있는 지연이 발생하지만, 단순히 설정을 변경하거나 기본적인 답변을 얻고자 할 때는 그렇지 않습니다. 생성형 AI 모델을 로컬에서 구동하면 사용자 프라이버시도 개선될 수 있어, 정보를 추가 모델 학습에 활용할 기업에 자동으로 전송하지 않고도 AI가 적용된 소프트웨어를 이용할 수 있게 됩니다.
현재 대부분 PC에는 NPU가 없어서 윈도우에서는 로컬 NPU를 많이 활용하지 않습니다. Surface Studio 웹캠 기능은 NPU를 이용해 전력 효율적인 비디오 효과와 배경 교체를 지원하지만, 이 기사를 쓰는 시점에서는 그것이 전부입니다. 애플과 구글 운영체제는 얼굴 인식, 객체 인식, OCR, 실시간 음성 인식과 번역 등을 비롯한 더 넓은 범위에서 이미지와 오디오 처리 기능에 NPU를 사용합니다.
인텔은 또한 마이크로소프트가 요구 사항을 충족하기 위해 차세대 AI PC에서 초당 40조 연산(TOPS) 속도의 NPU를 요구할 것이라고 말했습니다. 인텔, AMD, 퀄컴 등은 NPU를 비교할 때 TOPS를 상위 수준의 성능 지표로 사용하기도 합니다. 인텔 메테오레이크(Meteor Lake) 노트북 칩은 10 TOPS를 실행할 수 있으며, AMD 라이젠(Ryzen) 7040과 8040 노트북 칩은 각각 10 TOPS와 16 TOPS를 달성합니다.
인텔에는 안타깝게도, 코파일럿을 로컬에서 구동하기에 적합한 NPU를 최초로 출시하는 회사는 퀄컴이 될 가능성이 있습니다. 애플 M 시리즈 Mac 칩에 대한 윈도우 생태계의 대응책으로 오랫동안 주목받아 온 퀄컴 차세대 스냅드래곤 X 프로세서는 최대 45 TOPS 성능을 자랑합니다. 소문에 따르면 마이크로소프트는 인텔과 퀄컴 선택지를 모두 제공한 몇 년 뒤에는 서피스 태블릿 소비자용은 퀄컴 칩으로 전환할 것으로 알려졌습니다. 마이크로소프트는 지난주 인텔 메테오레이크 칩을 탑재한 서피스 프로 업데이트를 발표했으나, 기업 고객 대상으로만 판매될 예정입니다. [후략]
MDBK님의 댓글