バイトダンスのシードチームは シードOSS、オープンソースの大規模言語モデルのファミリーである シード-OSS-36Bは、36億パラメータのモデルで、非常に長い入力ウィンドウをサポートし、Apache 2.0ライセンスの下で配布されています。コードとモデルカードは20年2025月XNUMX日にGitHubとHugging Faceで公開され、BaseとInstructフレーバー(および合成データで学習したバージョン)を含む複数のバリエーションが開発者に即時利用可能です。
Seed-OSSがリリースされた経緯
ByteDance Seed は、3 つの Seed-OSS バリアントをリリースしました。 Seed-OSS-36B-Base (合成データありとなしのバージョンで公開)および Seed-OSS-36B-Instruct
Seed-OSSの主な技術的ハイライト
- パラメータ数: 見出しモデルは、 36億パラメータ モデル。 \
- 非常に長いコンテキスト ウィンドウ: ByteDanceは非常に長いコンテキスト長を宣伝している — 最大512,000トークン — 長い文書の推論、コードベース、および複数文書のエージェントワークフローを対象としています。\
- トレーニングスケール: Seed-OSSは、約1000万回のトレーニングにもかかわらず、強力なベンチマークパフォーマンスを達成したと報告されています。 12兆トークンモデルドキュメントに従って。
Seed-OSSモデルシリーズは、広く普及している因果言語モデルアーキテクチャをベースとし、RoPE、GQAアテンションメカニズム、RMSノルム、そしてSwiGLU活性化関数を採用しています。新たにリリースされたSeed-OSS-36Bモデルは、36億個のパラメータを誇り、512KBの長いコンテキストを処理できます。わずか12兆個の学習データを使用しているにもかかわらず、複数の主要ベンチマークにおいて優れたパフォーマンスを達成しています。
Seed-OSSモデルシリーズには、合成命令データを搭載したSeed-OSS-36B-Baseと、合成命令データを含まないSeed-OSS-36B-Base-woSynのXNUMXつのバージョンがあります。この設計は、開発者に高性能なベースモデルを提供するだけでなく、研究者にも幅広い選択肢を提供し、合成データによって研究の妥当性が損なわれることを防ぎます。
このモデルの重要な特徴は、柔軟な「思考予算」です。これにより、ユーザーは必要に応じて推論の長さを動的に調整できます。この機能は、実世界のアプリケーションにおける推論効率を大幅に向上させます。さらに、Seed-OSSは推論タスクに特化して最適化されており、優れた総合性能を維持しながら、推論能力の向上を実現します。
発表イベントにおいて、SeedチームはSeed-OSSモデルが学術研究に適しているだけでなく、ツールの使用や問題解決といったエージェントベースインテリジェンスタスクなど、様々な開発タスクに幅広く適用できることを強調しました。モデルのトレーニングと評価の結果、Seed-OSSは知識質問応答、数学的推論、プログラミングといったタスクにおいて、オープンソースにおいて最高レベルのパフォーマンスを達成していることが実証されました。
スタートガイド
CometAPIは、OpenAIのGPTシリーズ、GoogleのGemini、AnthropicのClaude、Midjourney、Sunoなど、主要プロバイダーの500以上のAIモデルを、開発者にとって使いやすい単一のインターフェースに統合する統合APIプラットフォームです。一貫した認証、リクエストフォーマット、レスポンス処理を提供することで、CometAPIはAI機能をアプリケーションに統合することを劇的に簡素化します。チャットボット、画像ジェネレーター、音楽作曲ツール、データドリブン分析パイプラインなど、どのようなアプリケーションを構築する場合でも、CometAPIを利用することで、反復処理を高速化し、コストを抑え、ベンダーに依存しない環境を実現できます。同時に、AIエコシステム全体の最新のブレークスルーを活用できます。
最新の統合Seed-OSSはまもなくCometAPIに登場しますので、お楽しみに!Seed-OSSモデルのアップロードが完了するまで、他の画像モデルもご覧ください。 ディープシークV3.1 ワークフローに組み込んだり、AIプレイグラウンドで試したりできます。モデルの機能については、 プレイグラウンド 詳しい手順についてはAPIガイドをご覧ください。アクセスする前に、CometAPIにログインし、APIキーを取得していることをご確認ください。CometAPIは、連携を容易にするために、公式価格よりもはるかに低価格で提供しています。
