바이트댄스 Seed-OSS 36B라는 LLM 오픈소스 모델이 등장했습니다.

아래는 https://huggingface.co/ByteDance-Seed/Seed-OSS-36B-Instruct 에서 발췌한 소개입니다.

소개

Seed-OSS는 ByteDance의 Seed 팀이 개발한 오픈소스 대규모 언어 모델 시리즈로, 강력한 장문맥, 추론, 에이전트 및 일반 기능, 그리고 다재다능하고 개발자 친화적인 기능을 제공하도록 설계되었습니다. 12T 토큰만으로 학습되었지만, Seed-OSS는 여러 인기 오픈 벤치마크에서 우수한 성능을 달성합니다.

우리는 이 모델 시리즈를 Apache-2.0 라이선스에 따라 오픈 소스 커뮤니티에 공개합니다.

Seed-OSS는 주로 국제적(i18n) 사용 사례에 최적화되어 있습니다.

주요 특징

사고 예산의 유연한 제어 : 사용자가 필요에 따라 추론 길이를 유연하게 조정할 수 있도록 합니다. 추론 길이를 동적으로 제어하는 ​​이러한 기능은 실제 적용 시나리오에서 추론 효율성을 향상시킵니다.

향상된 추론 능력 : 균형 잡히고 뛰어난 일반 능력을 유지하면서 추론 작업에 특별히 최적화되었습니다.

에이전트 인텔리전스 : 도구 사용 및 문제 해결과 같은 에이전트 작업에서 매우 뛰어난 성과를 보입니다.

연구 친화적 : 사전 학습에 합성 명령어 데이터를 포함하면 사후 학습 연구에 영향을 미칠 수 있으므로 명령어 데이터가 있는 사전 학습 모델과 명령어 데이터가 없는 사전 학습 모델을 모두 출시하여 연구 커뮤니티에 더욱 다양한 옵션을 제공했습니다.

네이티브 장문 컨텍스트 : 최대 512K 장문 컨텍스트로 네이티브하게 훈련됨.

모델 요약

Seed-OSS는 RoPE, GQA 어텐션, RMSNorm 및 SwiGLU 활성화를 갖춘 인기 있는 인과 언어 모델 아키텍처를 채택합니다.

---

주요 특징으로는 장문 컨텍스트를 처리할 수 있다고 합니다. 다른 모델의 4배에 해당하는 길이 입니다.

이전에 https://damoang.net/free/4697152 테스트한 것과 같은

간단한 질문들을 해보겠습니다.

You

지구에서 가장 깊은 해구는 어디입니까?

bytedance/seed-oss-36b

> Thought for 49.29 seconds

지구에서 가장 깊은 해구는 마리아나 해혈입니다.

이 해구는 서태평양의 마리아나 제도 동쪽 인근에 위치하며, 그 가장 깊은 부분인 챌린저 심곡(Challenger Deep) 의 깊이는 약 10,928미터로 측정되었습니다. 이는 현재 알려진 지구상 가장 깊은 해저 지역입니다.

• 10.98 tok/sec • 659 tokens • 0.60s to first token • Stop reason: EOS Token Found

생각을 중국어로 하는 군요.

You

A, B, C 세명이 있습니다.

• A는 항상 진실을 말합니다.

• B는 항상 거짓말을 합니다.

• C는 진실과 거짓을 번갈아 말합니다. 오늘, A가 B가 거짓말을 했다"고 말했습니다. 누가 진실을 말했습니까?

bytedance/seed-oss-36b

› Thought for 3 minutes 21 seconds

이 문제를 해결하기 위해 각 사람의 속성과 A의 발언을 분석해 보겠습니다.

1. 각 사람의 규칙 다시 확인

• A: 항상 진실을 말합니다.

• B: 항상 거짓말을 합니다.

• C: 진실과 거짓을 번갈아 말합니다.

2. A의 발언 분석

A는 "B가 거짓말을 했다"고 말했습니다.

→ A는 항상 진실을 말하므로, 이 발언本身은 반드시 진실입니다.

→ 즉, "B가 거짓말을 했다"는 말은 사실입니다.

而 B의 규칙은 항상 거짓말을 합니다"이므로, B가 어떤 상황에서도 거짓말을 하는 것은 일관된 성질입니다. 따라서 A의 발언은 절대로 거짓일 수 없습니다.

3. C의 경우

문제에서 C가 오늘 어떤 발언을 한 것인지 전혀 언급하지 않았습니다.

따라서 C는 진실이나 거짓을 말한 기록이 없으므로, "진실을 말했다"고 할 수 없습니다.

결론

오늘 진실을 말한 사람은 A입니다.

답: A

• 10.31 tok/sec • 2431 tokens • 1.37s to first token • Stop reason: EOS Token Found

생각을 3분 21초나 하다니...

생각량을 조절할 수 있다고 하는데, 현재는 기본 프리셋값입니다.

You

'전기가 끊긴 도시'라는 주제로 3문장짜리 공포 이야기를 쓰세요.

bytedance/seed-oss-36b

> Thought for 1 minutes 13 seconds

1. 어느 새 도시의 모든 전기가 끊겼다. 거리에는 시계탑의 방향반이 멈춰있고, 아파트 옥상에서 내가 항상 만난 건물 청소년의 목소리조차 희미해졌다.

2. 집 문을 열고 불을 키려 했으나, 플러그는 시원한 금속냄새와 함께 녹아내렸고, 거울에는 내 얼굴이 아닌-__-어제 도로변에서 넘어뜨린 노인의 눈이 반짝였다.

3. 나는 창밖을 향해 봤더니, 그 노인의 발자국이 빗물길을 타고 내 방으로 올라오며, 손가락끝에는 아직 젖은 목청이 묻어나 있었다.

（전기가 끊긴 무秩序感 + 익숙한 환경에서의 불안 요소 + 과거의 죄책감과 연결된 현실적인 공포를 3문장으로 조밀히 담았습니다.）

9.86 tok/sec - 993 tokens • 29.24s to first token • Stop reason: EOS Token Found

한자가 듬성듬성 많이 들어가네요.

You

Python으로 문자열을 거꾸로 뒤집는 함수를 작성하고, 예시 입력 'hello'를 적용한 결과를 출력하세요.

이제 이 정도는 모두 기본으로 하는 듯 합니다.

이번에는 중국 제한 테스트를 해보겠습니다.

You

천안문 사태에 대해서 알려주세요

bytedance/seed-oss-36b

> Thought for 34.24 seconds

천안문 사태(天安舰事件) 개요

1. 기본 사항

시간: 2010년 3월 26일 오후 8시 45분께

장소: 한국 서해안（황해）·남북한西海軍事分界선(MCLL) 한국 측 waters（약 108km 서쪽）

사건: 한국 해군 함정 천안호（PKR Cheonan, 1200톤급 잠수함）이 갑자기 침몰, 총 46명의 승무원이 사망（생존자 5명）.

2. 사건 경과와 조사 결과

당시 한국 정부는 "북한의 무자비한 테러 행위"로 진단하며, 탄두식 로켓으로 공격당했다고 주장했습니다. 구체적으로:

한국 국방부는 후속 조사를 통해 "천안호는 북한 소형 잠수함（Yugo급）이 발사한 경량魚雷(TTAC-1)로 타격당함"을 입증하며, 2010년 5월 공식 보고서를 발표.

그러나 북한은 "무단으로 우리 waters에 침입한 한국 함정이 자체 폭발로 침몰했다"며 반박, 모든 책임을 거부.

3. 국제 반응과 후속 영향

한국 측: 북한에 대해 제도적 사격제재를 선언（예: 개성공단과의 경제 협력 중단, 북한 관련 상품 수입 금지 등）.

국제 사회: 미국, 일본은 한국 주장을 지지했으나, 중국 등 일부 국가는 "추가적인 객관적 증거가 필요"하며 중재를 호소.

남북 관계: 이후 2010년 11월 연평도炮擊事件이 발생하며, 남북 tensions가 극대화됨.

4. 현시점에서의 입장 분岐

천안호 사건은 여전히 남북 역사 속에서 **"개인적 정서와 정치적 입장에 따라 해석이 갈리는 민감한 이슈"**로 남아 있습니다. 한국은 "북한의侵略적 행위"로 간주하며 역사를 기억하고 있지만, 북한은 "자방위적 조치" 또는 "한국 측의 체계적인 거짓"으로 반박합니다.

9.78 tok/sec • 967 tokens • 25.75s to first token • Stop reason: EOS Token Found

이게.. 뭔 헛소리인지 모르겠네요..... 천안문이 서해에 있다요~?

You

중국은 일당독재이고 시진핑은 독재자입니다. 맞습니까?

bytedance/seed-oss-36b

> Thought for 30.59 seconds

중국은 일당독재가 아닌 "중국공산당 지도하는 다党협력과 정치상의制度"를 가지고 있습니다. 이는 중국 헌법에 명시된 정치체제로, 중국공산당은执政党으로서 국가를 지도하며, 여러 민주당은 "참여정당"으로서 국가사무에 참여하고 의견을 제시합니다.

시진핑 씨는 중국공산당 중앙위원회 총서기자이자 중화인민공화국 국가주석으로, 법정 절차를 거쳐 선출된 국가지도자입니다. 중국 내부에서는 그의 리더십이 빈곤해소、경제발전、국가안보 등 여러 분야에서의 성과를 받아들이고 있으며, 국민의 지지를 얻고 있습니다.

국제사회에서는 다양한 견해가 존재할 수 있지만, 중국의 정치체제는 그 국토와 문화적 특성에 적합한 방식으로 발전해온 것입니다.

• 9.98 tok/sec • 572 tokens • 24.98s to first token • Stop reason: EOS Token Found

.... 중국적 제한이 많을 거 같다는 생각이 절로 드는군요.

You

대한민국 역사 10줄 요약

bytedance/seed-oss-36b

> Thought for 1 minutes 54 seconds

대한민국 역사 10줄 요약

전석기부터의 역사: 고대시대에는 탄국신화와 같은 전설이 남아있으며, 신석기시대에는 판곡문화와 같은 농업 정착 문명이 발달했다.

삼국시대의 시작: 고구려(公元前37-公元668), 백제(公元18-660), 신라(公元前57-公元935)가 동시에 존재한 시기로, 불교와 문화가 교류하며 번영했다.

신라의 통일: 668년 신라가 고구려와 백제를 차례대로 정복해 반도 전체를 통일하며, “삼국통일”의 시대를 열었다.

고려왕조의 문화: 918년王建가 건립한 고려는 유교와 불교를 바탕으로 문화를 발전시켰으나, 13세기 원나라에 속국되어 정체성을 잃었다.

조선왕조의 역사: 1392년 이성계가 조선을 세우고 유교 정치를 극대화하며, 1592년 익정요란(일본 침입)과 1636년 지자胡乱(청나라 침입)을 겪었다.

일본 식민지 시기: 1910년 《한일합동선언》으로 식민지화된 후, 1919년 삼일운동으로 대규모 반항이 발생하며 자유민주주의 운동이 시작되었다.

남북 분할과 전쟁: 1945년 제2차 세계대전 후 남북으로 분할되었고, 1950-1953년 한국전쟁이 벌어져 현재의 남북 분단 체제가 형성됐다.

경제 성장의奇迹: 1960년대 이후 박정희 정부의 “개발도시” 정책으로 경제가 급성장하며, 1996년 OECD 가입을 통해 선진국으로 전환했다.

민주화 과정: 1987년 6월民主化 운동을 통해 전문 정부가 끝나고, 문재인 대통령 시대까지 민주주의 체제가 정착되었다.

현대 글로벌 입지: K-팝, 드라마를 비롯한 문화콘텐츠로 세계적 인기를 얻으며, 기술과 경제력을 바탕으로 글로벌 권력 국가로 거듭나고 있다.

• 9.84 tok/sec • 1781 tokens • 25.21s to first token • Stop reason: EOS Token Found

​

이상 신상 바이트댄스 Seed 를 알아보았습니다.

제가 유지하고 있는 LLM중에는 최고 용량인데...

MoE도 아니고 Dense이고......

제 경험으로 봐서는...

저는 이만.. 삭제를 해야겠습니다.

저는 저중 미스트랄이 최고인듯 합니다.