메타 Llama 3.1 70b 4bit 바보군요. M4 Max 128
페이지 정보
마이너스아이
본문
맥북프로 128기가 Max 모델에서 돌려 봤습니다.
70b 를 돌리니 전체 메모리가 80기가 넘어가네요.
하도 시국이 시국이라 아래와 같이 질문을 던졌습니다.
나라 잃은 슾름에 대한 시를 만들어줘.
답변
나라 은 슬에 대한 시입니다.
나라 은 슬
나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
이쯤에서 맥북프로가 이륙을 합니다.
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
나라 은 슬이 어갑니다 나라 은 슬이 어갑니다 역사에 남겨진 아이 어갑니다 나라 은 슬이 흐르네 물이 흐르고 가슴이 아파합니다
무한 반복 중... 도저히 안되서 멈췄습니다.
그리고 속도도 처음 질문을 이해 하는데 걸리는 시간이 2분 이상 걸리는 것 같습니다.
테스트를 접고 다른 놈으로 잡아 와야 겠습니다.
어머님의 댓글의 댓글
리즈닝이 필요한게 아니면 작은 딥식을 돌릴 이유가 크지 않아요. 밑에분 말처럼 qwq 돌리는게 낫습니다
마이너스아이님의 댓글의 댓글
Dymaxion님의 댓글의 댓글
금방 나온 구글 GEMMA 3도 QWQ와 비견할 만 한 것 같더라고요.
B739님의 댓글
제가 무슨 소리를 했죠?