ByteDance의 Seed 팀이 출시되었습니다. 시드-OSS, 오픈 소스 대규모 언어 모델 제품군으로, 시드-OSS-36B, 매우 긴 입력 윈도우를 지원하는 36억 개의 매개변수를 가진 모델로, Apache-2.0 라이선스에 따라 배포됩니다. 코드와 모델 카드는 20년 2025월 XNUMX일 GitHub과 Hugging Face에 공개되었으며, Base 및 Instruct 플레이버(합성 데이터로 학습된 버전 포함)를 포함한 여러 버전이 개발자에게 즉시 제공됩니다.
Seed-OSS가 출시된 이유는 무엇입니까?
ByteDance Seed는 세 가지 Seed-OSS 변형을 출시했습니다. Seed-OSS-36B-Base (합성 데이터가 있는 버전과 없는 버전으로 게시됨) Seed-OSS-36B-Instruct
Seed-OSS의 주요 기술적 하이라이트
- 매개변수 개수: 헤드라인 모델은 다음과 같이 설명됩니다. 36억 개의 매개변수 모델. \
- 매우 긴 컨텍스트 창: ByteDance는 매우 긴 컨텍스트 길이를 광고합니다. 최대 512,000개 토큰 — 긴 문서 추론, 코드베이스 및 다중 문서 에이전트 워크플로를 목표로 합니다.
- 훈련 척도: Seed-OSS는 대략적으로 훈련되었음에도 불구하고 강력한 벤치마크 성능을 달성한 것으로 알려졌습니다. 12조 토큰모델 설명서에 따르면.
Seed-OSS 모델 시리즈는 널리 사용되는 인과 언어 모델 아키텍처를 기반으로 하며, RoPE, GQA 어텐션 메커니즘, RMS Norm, 그리고 SwiGLU 활성화 함수를 활용합니다. 새롭게 출시된 Seed-OSS-36B 모델은 36억 개의 매개변수를 자랑하며 512KB의 긴 맥락을 처리할 수 있습니다. 12조 개의 학습 데이터만 사용함에도 불구하고, 여러 주요 벤치마크에서 뛰어난 성능을 보여줍니다.
Seed-OSS 모델 시리즈는 두 가지 버전으로 구성됩니다. 합성 명령어 데이터가 포함된 Seed-OSS-36B-Base와 합성 명령어 데이터가 없는 Seed-OSS-36B-Base-woSyn입니다. 이 설계는 개발자에게 고성능 기본 모델을 제공할 뿐만 아니라 연구자에게도 더 다양한 옵션을 제공하여 합성 데이터로 인해 연구의 타당성이 손상되지 않도록 보장합니다.
이 모델의 핵심 기능은 사용자가 필요에 따라 추론 길이를 동적으로 조정할 수 있는 유연한 "사고 예산"입니다. 이 기능은 실제 애플리케이션에서 추론 효율성을 크게 향상시킵니다. 더욱이 Seed-OSS는 추론 작업에 최적화되어 있어 우수한 전반적인 성능을 유지하면서도 향상된 추론 기능을 보장합니다.
출시 행사에서 Seed 팀은 Seed-OSS 모델이 학술 연구에 적합할 뿐만 아니라 도구 사용 및 문제 해결과 같은 에이전트 기반 지능 작업과 같은 다양한 개발 작업에도 광범위하게 적용할 수 있다고 강조했습니다. 모델 학습 및 평가 결과는 Seed-OSS가 지식 질의응답, 수학적 추론, 프로그래밍과 같은 작업 전반에서 오픈 소스 분야에서 탁월한 성능을 달성함을 보여줍니다.
시작 가이드
CometAPI는 OpenAI의 GPT 시리즈, Google의 Gemini, Anthropic의 Claude, Midjourney, Suno 등 주요 공급업체의 500개 이상의 AI 모델을 단일 개발자 친화적인 인터페이스로 통합하는 통합 API 플랫폼입니다. CometAPI는 일관된 인증, 요청 형식 지정 및 응답 처리를 제공하여 애플리케이션에 AI 기능을 통합하는 과정을 획기적으로 간소화합니다. 챗봇, 이미지 생성기, 음악 작곡가 또는 데이터 기반 분석 파이프라인 등 어떤 제품을 구축하든 CometAPI를 사용하면 AI 생태계 전반의 최신 혁신 기술을 활용하면서 반복 작업을 더 빠르게 수행하고 비용을 관리하며 공급업체에 구애받지 않을 수 있습니다.
최신 통합 Seed-OSS가 곧 CometAPI에 등장할 예정이므로 계속 지켜봐 주세요! Seed-OSS 모델 업로드를 마무리하는 동안 다음과 같은 다른 이미지 모델을 살펴보세요. 딥시크 V3.1 워크플로에서 사용하거나 AI Playground에서 사용해 보세요. 모델의 기능은 다음에서 살펴볼 수 있습니다. 운동장 자세한 내용은 API 가이드를 참조하세요. 접속하기 전에 CometAPI에 로그인하고 API 키를 발급받았는지 확인하세요. CometAPI는 공식 가격보다 훨씬 저렴한 가격으로 통합을 지원합니다.
