[밍치궈] 애플이 온디바이스AI를 정의하는 방법(지원 모델 분석 관점)
페이지 정보
본문
아이폰15는 A16칩을 탑재하고 있기에 Apple Intelligence를 지원할 수 없지만 M1이 장착된 모델은 이를 지원할 수 있습니다. 따라서 현재 Apple Intelligence의 온디바이스 모델을 지원하기 위한 핵심은 컴퓨팅 파워(TOPS)가 아닌 DRAM의 사양이라는 결론을 내릴 수 있습니다.
M1의 AI 컴퓨팅 파워는 약 11 TOPS로 A16의 17 TOPS보다 낮습니다. A16은 6GB의 DRAM을 가지고 있으며 이는 M1의 8GB보다 적습니다. 따라서 현재 Apple Intelligence의 온디바이스 AI LLM에는 약 2GB 이하의 DRAM이 필요합니다.
DRAM에 대한 수요는 다른 방법으로도 확인할 수 있습니다. Apple Intelligence는 온디바이스 3B LLM을 사용하며(이는 M1의 NPU/ANE가 FP16을 잘 지원하므로 FP16이어야 합니다) 압축 후(혼합된 2비트 및 4비트 구성 사용) 약 0.7-1.5GB의 DRAM을 항상 예약하여 Apple Intelligence 온디바이스 LLM을 실행할 수 있습니다.
위의 분석을 통하여 다음과 같은 추가적인 생각과 결론을 도출할 수 있었습니다.
1. 기존의 온디바이스 애플리케이션에 AI를 향상시키려면 최소한 온디바이스 3B LLM을 배포해야 하며 이를 기반으로 DRAM의 사양은 압축 방식에 따라 결정됩니다.
2. 마이크로소프트는 AI PC의 핵심 사양으로 40 TOPS의 컴퓨팅 파워를 중요시합니다. 그러나 애플의 경우 클라우드 AI(프라이빗 클라우드 컴퓨팅)와 통합하여 온디바이스 11 TOPS의 컴퓨팅 파워만으로도 온디바이스 AI 애플리케이션을 제공하기에 충분합니다.
3. 소비자들은 마이크로소프트의 AI PC를 구매할 때 40 TOPS를 충족하는지 계산해야 하므로 혼란을 느낄 수 있지만, 애플은 소비자에게 직접적으로 어떤 모델이 Apple Intelligence를 지원하는지를 알려줍니다. 온디바이스 AI 애플리케이션이 소비자의 요구를 충족하는지의 여부와 관계없이 애플은 시작부터 명확한 판매 우위를 가지고 있습니다.
4. 앞으로 Apple Intelligence의 온디바이스 AI는 업그레이드될 것이 확실하며 이는 더 큰 DRAM을 필요로 하는 7B LLM으로 발전할 가능성이 높습니다. 애플이 이 전략을 통해 고급 모델과 저가 모델을 차별화하게 될 지 지켜볼 만 합니다.
5. 사용자 경험이 애플의 주장만큼 좋은지는 아직 관찰이 필요합니다(예를 들어 구글의 Gemini는 프로모션에서 과장된 주장을 한 적이 있습니다).
6. 삼성 S24의 AI 기능은 제한적이고, 마이크로소프트의 AI PC는 여전히 소비자들을 혼란스럽게 합니다. 애플은 온디바이스 AI를 성공적으로 정의했으며(적어도 소비자들은 이미 애플의 AI 장치가 제공하는 풍부한 AI 기능과 판매 포인트를 알고 있습니다) 이는 경쟁자들의 모방과 추격을 가속화시켜 온디바이스 AI 관련 산업의 빠른 성장을 촉진할 것입니다.
블링블링종현님의 댓글
- Copilot + PC 라고 되어 있으면 40 TOPS, 16기가 램, 256기가 이상 스토리지 등 기본 조건 충족인데 계산하고 말고, 혼란스럽고 말고 할게 있나요.....?
애플의 경우 클라우드 AI(프라이빗 클라우드 컴퓨팅)와 통합하여 온디바이스 11 TOPS의 컴퓨팅 파워만으로도 온디바이스 AI 애플리케이션을 제공하기에 충분합니다
- 그냥 타사처럼 클라우드 AI 에 의존하는 방식인거고 현재 11 TOPS면 램에 이어서 결국 나중에 이걸로 또 발목 잡히는 거죠
삼성 S24의 AI 기능은 제한적이고, 마이크로소프트의 AI PC는 여전히 소비자들을 혼란스럽게 합니다. 애플은 온디바이스 AI를 성공적으로 정의했으며
- 갤럭시: 이미지 수정, 편집, 재작성, 실시간 통역, 번역, 문장 어투 수정, 문법 수정, 녹음 내용 텍스트화 및 요약, 브라우저 내 번역 및 내용 요약, 노트 요약 및 정리 등을 실제 구현 중이고 하방전개도 하고 있지만 제한적 ㅎ
- 마이크로소프트: 코파일럿 기능은 오래전부터 대대적으로 소개했고 이미 적용 중, 다음 윈도우 11 업데이트에는 그림판과 기타 다른 기본 앱에도 AI 기능 추가, 유료 이용시 오피스 코파일럿도 사용가능 등 다 밝혔지만 혼란스러움 ㅎ
- 애플: 기기는 11TOPS 밖에 안 돼서 클라우드에 의존해야 하고 현세대 폰은 램 부족으로 한방에 킬 당했지만 온디바이스 AI를 성공적으로 정의함 ㅎ
서울의밤님의 댓글
ap때문이라고 했는데, 따지고 보니까 램때문이다
이렇게 장황하게 설명해야 하는 순간부터 혼란스러운 겁니다
타회사는 제한적이고 혼란스럽지만, 우리는 아니다 그런데 우리는 아직 출시가 안됐고 그마저 정작 내년이나 돼야 제대로 된 ai 가 나올 것이다!
음...
칼쓰뎅님의 댓글의 댓글
모델별로 되고 안되고 이유 설명하기 까다로운 거겠죠.
근데 참... 최신모델인 아이폰15 에서도 지원안된다고 하는건 ㅎㅎ;;;
어차피 프라이빗 클라우드 된담서요. 그럼 거기로 다 돌림 되는거 아닌가 싶습니다.
pAlE님의 댓글의 댓글
테크쪽에서야 AI 미지원되는 모델들은 RAM때문일거라고 분석하지만, 그조차도 애플이 오피셜로 낸 게 아니라 어디까지나 추측이죠. 일반적인 소비자단에서 접하는 인터페이스는 단순히 '아이폰 15 Pro 이상' 이것만 따지면 그만입니다.
서울의밤님의 댓글의 댓글
같은 15 시리즈인데 왜 15프로 이상만 지원하느냐는 의문이 들 수 밖에요
왜 15는 안되죠? 라는 질문에 대한 대답으로 15 프로는 프로이니까요가 대답이 됩니까? 그건 그냥 강요죠
pAlE님의 댓글의 댓글
어디까지나 일반적인 소비자들 입장에서는 애플처럼 그냥 기종으로 구분짓는 방식이 비교적 덜 혼란스럽다는 거죠. 40TOPS같은 수치와 스펙을 들이밀고 각종 CPU나 RAM 제약 등의 사양표를 들이미는 것보다는 말입니다.
지금 이야기하는 '혼란'은 유저 경험적인 측면인데, 서울의밤 님이 말씀하시는 혼란은 혼란이라기 보다는 단순히 스펙 차별에 대한 불만 정도 아닌가요?
서울의밤님의 댓글의 댓글
그러니까 소비자가 납득할만한 이유가 뭐냐는 겁니다
아니 그 기준이 뭐냐는 겁니다
왜 같은 15시리즈인데 15프로 부터 지원이 되죠? 그 불만도 혼란입니다
ap 때문? 램 때문? ap때문 이라면 m1은 왜 지원이 되지? 이런 의문과 불만도 혼란입니다
혼란 정도야 개인차니까 뭐가 더 크냐는 따질 수도 없구요
그리고 그 논리면 타회사 소비자들도 마찬가지죠
아 지원 하드웨어 스펙이 이렇구나 하고 심플하게 이해하면 되는 게 아닐까요?
pAlE님의 댓글의 댓글
말씀하신 건 그냥 기능 차등에 대한 불만입니다. 뭐가 혼란스러우시다는 건지 잘 이해가 안 가네요. 본인 기종이 AI 기능이 지원이 될 지 직관적으로 이해하는 데 10초도 안 걸리지 않으셨나요? 윈도우 PC였다면 잘 알아도 몇 분은 서칭해야 하고, 모르면 몇 시간씩 물어보고 찾아봐야 했을 지도 모릅니다. 이게 일반 사용자들 입장에서의 혼란이죠.
서울의밤님의 댓글의 댓글
그냥 편하게 s24 이상만 선택하면 됩니다
그건 그냥 스마트폰 제조사들은 다 마찬가지죠
pAlE님의 댓글의 댓글
pAlE님의 댓글의 댓글
서울의밤님의 댓글의 댓글
그건 그냥 스마트폰 제조사들은 다 마찬가지 아닙니까?
갤럭시도 샤오미 폰도 그냥 이번 작부터 지원합니다 하면 그걸 선택하면 된다는 건데 그게 왜 애플만 심플한게 되냐는 겁니다
pAlE님의 댓글의 댓글
2. 마이크로소프트는 AI PC의 핵심 사양으로 40 TOPS의 컴퓨팅 파워를 중요시합니다. 그러나 애플의 경우 클라우드 AI(프라이빗 클라우드 컴퓨팅)와 통합하여 온디바이스 11 TOPS의 컴퓨팅 파워만으로도 온디바이스 AI 애플리케이션을 제공하기에 충분합니다.
3. 소비자들은 마이크로소프트의 AI PC를 구매할 때 40 TOPS를 충족하는지 계산해야 하므로 혼란을 느낄 수 있지만, 애플은 소비자에게 직접적으로 어떤 모델이 Apple Intelligence를 지원하는지를 알려줍니다. 온디바이스 AI 애플리케이션이 소비자의 요구를 충족하는지의 여부와 관계없이 애플은 시작부터 명확한 판매 우위를 가지고 있습니다.
마이크로소프트와의 비교 우위인 거죠... 먼저 본문을 잘 읽으셔야겠습니다.
주류소님의 댓글의 댓글
선택하는 입장에서는 혼란이 없습니다. ‘아이폰 15 프로 이상의 모델에서만 되는구나’ 하면 끝이니까요.
서울의밤님의 댓글의 댓글
어차피 애플은 아직 AI를 내 놓지도 않아서 15프로에서 제대로 작동이 되는지 조차 불분명한데요
pAlE님의 댓글의 댓글
15프로에서 작동이야 뭐 되겠죠 안되는데 가을에 15프로에서 돌아가게 내놓겠다고 했겠습니까...
주류소님의 댓글의 댓글
그냥 (예를 들어) 갤럭시 북 5 프로 부터는 다 됩니다! 하면 되는겁니다. 단지 그간의 윈도우 PC 시장에서는 그놈의 세부모델이 많아서 같은 라인업이여도 세부모델명을 뜯어보고 사야 하는 일이 비일비재 했으니까 다들 걱정하는 것이겠죠.
서울의밤님의 댓글의 댓글
아이폰은 pc가 아닙니다
주류소님의 댓글의 댓글
지금 예를 드신게 PC에 비해 HW 폭이 좁은 스마트폰인데다가, 갤럭시 S라는 전 세계적으로 스펙 격차 (없거나) 최소화하여 단일 모델로 출시라는 기종이라서 그렇지 그 아랫급으로 내려가면 판매 지역에 따라서 모델 파편화가 지옥입니다.
삼성전자에서 2023년에 가장 많이 판매한 갤럭시 모델이 A14 5G 입니다. 근데 이게 디멘시티 700이 탑재된 지역과 엑시노스 1330이 탑재되서 출시한 지역이 다르거든요? 이거 모델명으로 따지면 무려 여섯개입니다. 국가별로 또 달라요.
거기서 부터 내가 사는 지역에 판매하는 갤럭시 A14 5G는 어떤 프로세서를 탑재하고 있는지 확인해야 하죠? 그런게 문제라는거에요.
그에 비해 애플은 전 세계적으로 파편화 없이 단일 모델 파니까 어디서 어떤 소비자가 선택해도 혼란이 없는거고요.
그런데 진짜 혼란은 PC 시장에서 올 수도 있단 겁니다.
서울의밤님의 댓글의 댓글
s24를 출시하면서 지원했던 거라 그냥 속편히 s24 이상부터 선택하면 엑시노스나 스냅드래곤 구분없이 다 지원하는데요
아이촌 15프로 이상 선택하면 되 듯이요
서울의밤님의 댓글의 댓글
그 댓글에 님께서
단순히 '아이폰 15 Pro 이상' 이것만 따지면 그만입니다.
이렇게 다셨습니다
그래서 다른 스마트폰 제조사도 그럼 마찬가지라고 한거구요
pAlE님의 댓글의 댓글
그래서 어느 부분이 더 혼란스러운 건지 의문이 들어서 답글을 단 거구요.
그래서 들어 봤는데 여전히 왜 더 혼란스럽다고 하셨는지 잘 모르겠네요.
서울의밤님의 댓글의 댓글
15프로부터 제대로 지원하는 것은 맞는지? 또 어떤 루머는 내년이나 돼야 제대로 나온다고 하고 17은 돼야 램을 더 늘려서 완벽한 지원을 한다고 하고 그래서 혼란스러운데요?
pAlE님의 댓글의 댓글
이런 것들은 당연히 오피셜을 봐야지, 루머까지 끌고 오시면 뭐 할 말이 없습니다 ㅋㅋ
그냥 님이 맞는 걸로 하죠. 혼란스러운 걸로~
서울의밤님의 댓글의 댓글
그러나!
-핵심은 컴퓨팅 파워(TOPS)가 아닌 DRAM의 사양이라는 결론을 내릴 수 있습니다.
M1의 AI 컴퓨팅 파워는 약 11 TOPS로 A16의 17 TOPS보다 낮습니다. A16은 6GB의 DRAM을 가지고 있으며 이는 M1의 8GB보다 적습니다. 따라서 현재 Apple Intelligence의 온디바이스 AI LLM에는 약 2GB 이하의 DRAM이 필요합니다.-
애플 오피셜대로 ap로 구분지으면 13시리즈도 지원해야 합니다
그런데 아니죠?
그럼 님과 또 다른분이 그렇게 주구장창 주장한 심플하다는게 과연 맞습니까? 애플 주장대로 ap로 구분하니까 아니네? 왜지? 이건 혼란이 아닌가요? 이건 그냥 불만으로 치는 건가요? 뭐 심플하긴 하네요 그냥 그렇게 알고 써 ㅋ 네 님 말이 맞습니다
타 회사들도 ap,cpu,램 따지고 애플도 결국 ap,램으로 구분짓고 그걸 그냥 퉁쳐서 ap때문에 15프로 부터!
이게 심플한겁니까
아니면 pc생태계 특성상 세세한 스펙을 알려줘야 하는게 혼란스러운 겁니까
혼란스러운건 말이죠 ap로 구분한다!
알아보니까 ap때문만은 아닌데? 램 때문이 아니야?
같은 걸 두고 혼란스럽다고 하는 겁니다
그걸 님과 저 다른분은 애플이 그렇다고 하니까 15프로부터 지원이네, 심플하네 하는 거구요
타회사들 그마저도 애플과 다를바 없는 정보 정도가 필요한데 말입니다
네, 그냥 님 말도 맞는 걸로 하죠 애플 "만" 심플한 걸로 ^^
LunaMaria님의 댓글
달려옹님의 댓글의 댓글
nomadism님의 댓글
달려옹님의 댓글의 댓글
문제가 있으니 골치가 아프죠..
이른아침에님의 댓글
금오키도키님의 댓글의 댓글
칼쓰뎅님의 댓글의 댓글
(물론 사진편집,번역 기능에 국한되긴했지만요)
coldsalt님의 댓글의 댓글
금오키도키님의 댓글의 댓글
coldsalt님의 댓글의 댓글
통역등의 기능은 airplane 모드에서 잘 동작합니다. data를 전혀 사용하지 않는데 on-device 가 아니라고 주장하시는 걸까요.
금오키도키님의 댓글의 댓글
다 주장이 아니라 자료 확인한 부분을 말씀드리는겁니다. 말씀이 지나치시네요
금오키도키님의 댓글
일론머스쿵님의 댓글
Sapphire님의 댓글
강변마이크님의 댓글
rymerace님의 댓글의 댓글
15 일반모델도 버려버리는 건 좀 선 넘는 것 같습니다.
15일반 모델만 해도 타사 플래그십 가격 수준을 넘어요. 토사구패드 급의 충격 아닌가 싶습니다.
칼쓰뎅님의 댓글의 댓글
pAlE님의 댓글의 댓글
비ㅡ루님의 댓글의 댓글
16이면 15프로의AP를 쓰니 프로 안사도 되는거 아닌가요?
육손백언님의 댓글