기술 문서 링크입니다. (영어)

https://squeezlabs.github.io/handcrank/

아래부터는 국내 AI타임스 기사 일부 인용

https://www.aitimes.com/news/articleView.html?idxno=211953

사용자가 직접 손으로 전력을 만들어 구동하는 독특한 AI 기기가 등장했다. 막대한 전력 소비와 환경 문제를 일으키는 거대한 데이터센터에 의존하지 않고 필요한 용도에 맞춰 전력 소비량을 최적화한 장치라는 설명이다.

더 레지스터 등 외신에 따르면, 컴퓨터 과학자 카트린 토마넥과 전 구글 첨단 기술 및 프로젝트(ATAP) 그룹의 리더 알렉스 카우프만은 최근 수동 크랭크 구동식 음성 AI 비서 '크랭크GPT(CrankGPT)'를 공개했다.

이 장치는 사용자가 직접 손잡이(크랭크)를 돌려 전기를 공급해야만 작동한다. 내부에 전력을 임시 저장하는 콘덴서 보드가 내장돼 있지만, 크랭크 작동을 멈추면 20여초만 버틸 수 있어 계속해서 손을 움직여야 한다. 시동을 걸고 AI와 통신을 시작하려면 30초 동안 꾸준히 크랭크를 돌려야 한다.

이들은 아이디어를 만드는 데 일주일이 걸렸고, 실제 작동하는 제품을 만들기 위해서 몇개월의 작업이 필요했디고 밝혔다. 나아가 소형·개인 맞춤형 특화 AI 모델을 개발하는 스타트업 '스퀴즈(Squeez)'를 설립하고, 에너지와 인터넷 연결을 최소화한 엣지 AI의 가능성을 실험 중이다.

장치를 개발한 이유는 확실하다. 카우프만 공동 창립자는 "클로드에게 두 숫자를 더해달라고 요청하는 것은 마치 파리를 잡으려고 거대한 철거용 공(Wrecking ball)을 동원하는 것과 같다"라며 기존 대형언어모델(LLM)의 과도한 리소스 낭비를 지적했다.

이어 "스퀴즈는 특정 문제를 해결하기 위해 작고 저렴한 하드웨어에서 실행될 수 있는 효율적이고 개인 정보 보호가 철저한 모델을 생성한다"라고 소개했다. 그 대상으로 강한 억양이나 언어 장애가 있는 사람을 위한 음성 인식 모델이나 정원 가꾸기, 자동차 수리 등에만 특화된 로컬 AI를 꼽았다.

이번 크랭크GPT 프로젝트는 재미와 핵심 가치 증명을 위한 시연일 뿐, 상용화 제품을 대량 생산할 계획은 없다고 밝혔다. 하지만, 누군가 비용을 부담한다면 기꺼이 시도해 볼 의향은 있다고 덧붙였다.

[나머지 내용 생략]