마크 거먼 "애플, AI 개발 최소 2년 뒤처졌다고 자체 판단"

뭔진 몰라도 잘해라 내 AAPL ㅠㅠ..

"ChatGPT가 시리보다 약 25% 더 정확하며, 약 30% 더 많은 질문에 답할 수 있다고 합니다."
...25%밖에 차이가 안난다고??

@프로필님에게 답글 당연하지만 내부 모델 아닐까요... 상용 아이폰에서 돌아가는 건 생성형 AI가 아니죠;

뭐 딴 애들은 노는 줄 아나. 게다가 애플지도가 어떻다고?

@일론머스쿵님에게 답글 한국은 어떤지 모르지만, 제가 사는 캐나다 시골은 애플지도 편의성이 구글 지도보다 더 낫다고 봅니다.
3d 지도 퀄도 더 낫구요. 제가 사는 곳이 시골이라서 그런지 구글은 아직도 3d 위성 화면을 지원 안해주네요. 애플은 된지 꽤 되었는데…
그리고 내비로 사용시 편의성도 더 나은 거 같아요. 제가 애플와치를 사용해서 더 편해서 그렇게 느낄 수도 있지만요.

이젠 구글이나 애플이나 비슷한 느낌… 물론 특정 사업체 찾을 때는 구글이 더 낫습니다..

@일론머스쿵님에게 답글 애플 지도는 나름 인기 많아요... 우리나라 빼고욬ㅋㅋㅋ

@일론머스쿵님에게 답글 미국도 애플지도가 구글지도보다 더 낫습니다. 구글지도보다 사용성 면에선 애초에 훨씬 좋았고, 한 3-4년 전부터는 지도 데이터도 전혀 뒤지지 않아요.

openai가 직접 폰을 만들겠다고 한 것도 이 이유죠. 절대 못 따라올거라 볼지도요

지도가 매년 발전을 해야하는 기술도 아닌데 굳이 지도를 예시로 드는건 좀 짜쳐보이네요

지도하고는 다르죠.
지도만들겠다고 돈싸들고 덤벼드는 투자자가 있던가요?
AI 는 업계선두들도 더 많은 돈을 태우려고 하고 있고, 주요 개발자가 퇴사하고 나오면 투자자들이 먼저 덤벼드는데 격차가 더 날 수밖에 없죠.

뒤쳐졌다고 인지하고 강력한 투자를 한다고 했으니

이게 경쟁사인 Open AI를 자극해서 격차가 더 벌어지는 문제가 생기겠네요.

이게 다 문재인 정권의 실책 입니다

@masquerade님에게 답글 문재인 정권 때 어떤 일이 있었는지 모르겠으나
본문은 애플 이야기인데 문재인 정권이 왜 나오나요...? 문재인이 미국 대통령 이었나요...?

@한조충님에게 답글 저짝분들 비꼬시려다 실패하신것 같습니다.

시리를 10년 방치한 댓가군요. 한심하네요

@파이어러님에게 답글 시리랑 생성형 AI 는 또 별로 관계가 없죠.

2년은 아닌것 같은데 말이죠

이 바닥에서 2년이면 거의 영겁의 시간과 다름이 없는데

2년 밖에 차이가 안날리가... ???

2년 밖에 차이가 안 난다구요? 애플이 진짜 많이 따라 왔나 보네요.
미래의 자율 주행 환경에서는 지도가 핵심적인 역할을 할 겁니다. 모든 운전 정보의 센터가 될 겁니다.
AI 자동차에게 가까운 이탈리안 식당으로 가 달라고 했을 때, 자동차는 과연 어떤 식당을 선택하게 될까요? 지도에 더 많은 광고비를 낸 식당 아닐까요?

애플은 이러다가 갑자기 '짜잔'하고 항상 뭔가를 해냈으니깐요... 믿습니다.

잘 이해가지 않습니다. LLM 만드는 방법이 공개되어 있고, 이제는 학습 데이터가 없어서 더이상 발전을 못한다는 관측이 있습니다. 데이터를 많이 가지고 있을 애플. 애플이 자금을 투입하면 언제라도 Meta의 Llama 수준의 모델을 만들 수 있을 텐데. 결국 2년치 개발비 땡겨줘 이런 소리 같습니다.

@엉클머리님에게 답글 강제로 공개(?)당한 라마는 메타의 태생 상, SNS를 흥하게 만들기위한 콘텐트 생성 쪽에 주안점이 맞추어져 있고요, 데이터 출처도 그렇다 보니, 상대적으로 어휘가 천박한 것도 사실입니다. 3.2에와서는 상당히 나아지기는 했지만요.

무료 및 범용이란 점에서 쓸만한 건 사실이지만, GPT에 비할 바는 아니라고 생각되네요.

애플이 가지는 목표와도 다소 차이가 있을 거라 봅니다.

개인정보 보호 측면은 프라이빗 클라우드 네트워크나 SLM으로 어떻게 한다 치더라도,
Math Prompt등의 우회 탈옥 문제 등 어린이나 범죄자로 부터 안전한 LLM이 필요할 겁니다.
실제로 LLM들 중 라마는 가장 위험한 모델로 평가 됩니다.

애플 AI 에이전트 시스템이 서드 파티 앱들의 데이터를 RAG로 퍼올리는 형태 등도 고민할게 많은 문제구요.

그리고 아마도, 애플이 주안점을 두는 부분은 서버 사이드 LLM이라기 보다 온디바이스 SLM일 텐데 애플 실리콘에서의 추론 성능을 높히는 부분도 더 연구가 필요한 사안이 되겠죠.

루머상으로는 서버 사이드 LLM은 ChatGPT를 프라이빗 네트워크로 임대해 사용하는 걸로 한 번 돌았던거 같은데요. 아마 서버를 직접 구축한다하더라도 NVidia에 줄 돈은 없다라고 봅니다. 이 경우도 역시 쿠다 따위 쓸 수 없는 애플 입장에선 실리콘에 대한 고민이 더 필요할 것 같습니다.

@지이이이율님에게 답글 일부러 흘린(!) 걸 수 있습니다. 상당히 나아진 걸 가늠하기 쉽게 설명하자면 라마 파인튜닝한 엔비디어의 70B 모델이 GPT4 수준에 이르렀습니다. 게임에 최적화를 한 듯하고요. 이렇게 보면 2년 뒤쳐진 거라는 주장이 될 듯합니다. MS는 CPU로 가능하도록 올 초부터 연구를 발표하고 있고 최근 소스도 공개해서 온디바이스는 어찌될지 흥미진진합니다. 새소식에서 자주 교류하면 좋겠습니다.

@지이이이율님에게 답글 애플은 이미 자체 서버사이드 LLM 을 M2 Ultra 기반으로 직접 구축한 대형 클러스터 컴퓨터에서 트레이닝 했다고 공개했습니다. 거짓말 한게 아니라면 애플은 이미 M 시리즈 프로세서의 온칩 GPU 와 자사 API 를 이용해서 트레이닝을 하는 방향으로 가고 있는거죠.

@조알님에게 답글 그렇다면 트레이닝 및 추론 성능부터 하드웨어에서 딱 2년쯤 차이날 것 같은 스펙이란 느낌이 들긴 하네요. 최대 성능치로 뽑았다 해봐야 M2 울트라 메탈 셰이더 API라면, 엔비댜 2세대 이전 게이밍 하이엔드급 + 쿠다정도 아닐까 하는데요.

메탈이 물론 설계 시점 부터 어느정도 쿠다나 GPGPU를 염두에 두긴 했겠지만 적어도 공개된 API로 확인하긴 힘드네요.

따로 사용자 데이터 수집을 하지않는 애플이 어디서 데이터 셋을 얻었을지도 궁금하네요.

@지이이이율님에게 답글 M2 Ultra 를 기반으로 한 클러스터 컴퓨터용 커스텀 칩이라고 했으니 아마 리테일 모델과는 구성이 살짝 다르지 않을까 싶습니다. 더 자세한건 공개를 안했으니 추측일 뿐이지만요