https://play.google.com/store/apps/details?id=com.alibaba.mnnllm.android.release

요게 올린 사람이 사람이름으로 되어있어서 뭥미 싶은데, 알리바바에서 만든 앱입니다

https://github.com/alibaba/MNN/blob/master/project/android/apps/MnnLlmApp/README.md

MNN(모바일 뉴럴 네트워크?)를 이용해서 llm을 가속

꽤 괜찮은 성능 보여줍니다

(Reddit에 보니 24GB폰에 12GB짜리 llm올려 돌렸다고 ㄷ ㄷ ㄷ...전에 K70 Pro 괜히 팔았네요 ㅜㅡㅜ)

CPU/OpenCL 안드로이드에서 두가지 지원하는데, 진짜 영혼까지 끌어다 쓰는건지, 게임할때보다 발열이 더 심합니다.

음성 입출력 멀티모달까지 지원해서 제미나이 라이브처럼 사용도 가능합니다

그리고 X의 3D모델링 캐릭터가 나와서 하는것도 따로 앱 만들어놨더군요. 그것 역시 풀 local구동

당연히 알리바바 중국 앱이라 단정하게 차려 입고 있습니다 -_-