온디바이스 컨텍스트가 4096이라고 합니다...

이미 컨텍스트 길이에서 심심이 확정입니다.

다모앙 길이 웹페이지 하나도 처리 못할 사이즈 입니다.

그런데 이게 애플시리+인텔리젼스 포함인지,

서드파티 LLM만 그렇게 하겠다는지는 명확치 않습니다.

아마 램 12GB라... 컨텍스트를 크게 늘리지는 못할거 같긴 합니다.

LLM in a Flash 가 아직 원하는 수준으로 완성이 안되었나 보군요.

LLM in a Flash 가 완성되었다면 16프로도 가능했을텐데 말입니다.