omni-moderation-2024-09-26 の技術仕様
omni-moderation-2024-09-26 は OpenAI Moderation API を通じて公開されているスナップショット版のモデレーションモデルで、OpenAI の API リファレンスには、この正確なモデル ID がサポート対象のモデレーションモデルとして明示的に記載されています。これは旧来のテキスト専用モデレーション系ではなく、より新しい omni-moderation ファミリーに属します。
OpenAI のモデルおよびモデレーションに関するドキュメントによれば、このモデルはコンテンツ安全性の分類を目的として設計されており、テキストと画像の入力を受け付け、生成系のテキスト出力ではなくモデレーション結果を返します。OpenAI は、omni-moderation ファミリーを同社で最も高機能なモデレーション提供と位置付けており、マルチモーダル対応と、従来のモデレーションモデルより幅広い分類を備えると説明しています。
2024 年 9 月 26 日のスナップショットである omni-moderation-2024-09-26 は、OpenAI の強化されたマルチモーダルモデレーションシステムのローンチ世代に相当します。OpenAI によれば、この世代は GPT-4o を基盤としており、従来のモデレーションモデルより精度が向上し、特に英語以外の言語で強化されています。同時公開の資料では、モデレーションモデルが Moderation API を通じて開発者に無償で提供されていることも明記されています。
omni-moderation-2024-09-26 とは？
omni-moderation-2024-09-26 は、アプリケーションの入力がエンドユーザーに届く前後で潜在的に有害なコンテンツを識別するために用いられる固定バージョンのモデレーションモデルです。実務では、開発者がユーザー生成のテキスト、画像、またはその組み合わせからなるマルチモーダルなペイロードを、暴力、憎悪、ハラスメント、性的コンテンツ、自傷行為といったポリシー関連のリスクカテゴリに対して分類するために利用します。
従来のテキストモデレーションモデルと比べ、このスナップショットは OpenAI の新しいマルチモーダルモデレーションスタックに属します。OpenAI は、omni-moderation のスナップショットがより多くのカテゴリ分けオプションとマルチモーダル入力をサポートしており、新規のモデレーション統合に推奨される選択肢であると文書化しています。
可変のエイリアスではなくスナップショット ID omni-moderation-2024-09-26 を使用する主な理由は、バージョンの安定性です。日付付きのスナップショットであり、ローリングな omni-moderation-latest エイリアスではないため、再現可能なモデレーション挙動、制御されたロールアウト、環境間の監査の予見可能性を重視するチームに適しています。この安定性に関する指摘は、OpenAI がスナップショットと最新モデルの識別子を別々に掲載していることに基づく実装上の推測です。
omni-moderation-2024-09-26 の主な特長
- マルチモーダル・モデレーション: Moderation API を通じてテキストと画像の両方の入力をサポートし、単一モデルで一般的なユーザー生成メディアタイプ全体のコンテンツを評価できます。
- より広範な安全カテゴリ: omni-moderation 系は、従来のモデレーションモデルよりも多くのカテゴリ分けオプションを追加しており、この世代で導入された新しい有害クラスも含みます。
- 多言語性能の向上: このモデレーション世代は、従来モデルより精度が高く、特に英語以外や低資源言語の設定で強化されています。
- 確率スタイルのスコア出力: フラグ付きカテゴリのブール値に加え、アプリ固有のしきい値設定やレビュー基準の設計に役立つ、較正済みのカテゴリスコアを提供します。
- カテゴリ別の入力タイプ認識: モデレーションのレスポンススキーマには、カテゴリレベルで適用された入力タイプが含まれており、分類がテキスト、画像、またはその両方に基づくものかを把握できます。
- スナップショットによるバージョン管理:
omni-moderation-2024-09-26は明示的にバージョン管理されたスナップショットであるため、一貫性が重要な回帰テスト、安全性ベンチマーク、制御された本番デプロイに有用です。これは、OpenAI のスナップショットモデル命名と API サポートに基づく実装志向の推測です。
omni-moderation-2024-09-26 へのアクセスと統合方法
手順 1: API キーのサインアップ
まず CometAPI に登録し、ダッシュボードから API キーを生成してください。有効なキーを取得したら、CometAPI の統一モデルゲートウェイを通じて omni-moderation-2024-09-26 API への全リクエスト認証に使用できます。
手順 2: omni-moderation-2024-09-26 API へのリクエスト送信
CometAPI の OpenAI 互換 API 形式を使用し、モデルに omni-moderation-2024-09-26 を指定してください。モデレーション対象のペイロードはテキストとして送信するか、画像とテキストを併せて分類する場合はマルチモーダル入力配列として送信します。OpenAI の公式 Moderation API ドキュメントは、このモデル ID がモデレーションリクエストに対して有効であり、エンドポイントがプレーンテキスト文字列または構造化されたマルチモーダル入力オブジェクトを受け付けることを示しています。
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
手順 3: 結果の取得と検証
リクエスト送信後、トップレベルのモデレーション結果、フラグ状態、カテゴリのブール値、およびカテゴリスコアをレスポンスから確認します。OpenAI のモデレーションレスポンススキーマには、しきい値設定、レビューキュー、ポリシー施行ロジックに活用できるカテゴリごとの詳細も含まれています。本番環境では、自社アプリの代表的なエッジケースでテストし、社内ポリシー期待値との突き合わせを行い、omni-moderation-2024-09-26 のスナップショットモデル ID をログに記録して、モデレーション挙動を長期にわたって追跡可能にしてください。