omni-moderation-latest の技術仕様
| Attribute | Details |
|---|---|
| Model ID | omni-moderation-latest |
| Provider | OpenAI |
| Model type | 安全性分類のためのモデレーションモデル |
| Primary use case | ユーザー入力またはモデル出力に含まれる潜在的に有害なコンテンツの検出 |
| Supported inputs | テキストと画像 |
| Output type | フラグ、カテゴリ、スコアを含むテキスト/JSON 形式の構造化モデレーション結果 |
| Endpoint | Moderations API |
| Multimodal support | はい。画像 URL や base64 画像データを含むマルチモーダル入力オブジェクトに対応 |
| Default/latest status | OpenAI は、最新の omni モデレーションモデルであり、新規モデレーション統合に推奨される選択肢として文書化 |
| Legacy alternative | text-moderation-latest は、分類数が少ない古いテキスト専用オプション |
| Performance profile | OpenAI は、中速ながら高性能なモデレーションとして位置付け |
| Pricing | OpenAI はモデレーションモデルを無料モデルとして説明 |
omni-moderation-latest とは？
omni-moderation-latest は、テキストおよび画像に含まれる不適切またはポリシーに抵触する可能性のあるコンテンツを識別するための、OpenAI の最新モデレーションモデルです。開発者がユーザーのプロンプト、アップロードされたメディア、またはモデル生成出力を、エンドユーザーに表示する前や下流システムに渡す前にスクリーニングする用途を想定しています。
OpenAI は、従来のモデレーションモデルをマルチモーダルに拡張するアップグレードとして omni-moderation-latest を導入しました。OpenAI のドキュメントによれば、従来のテキスト専用モデレーションよりも高機能で、より広いカテゴリ分けに対応し、Moderations エンドポイントを利用する新規アプリケーションに最適とされています。
実務では、入力モデレーション、出力モデレーション、トラスト＆セーフティのパイプライン、フォーラムのフィルタリング、ソーシャルコンテンツレビュー、濫用検知ワークフローなど、迅速な自動トリアージが必要な場面で omni-moderation-latest が用いられます。これは、OpenAI のモデレーションに関するガイダンスと API 設計に基づくアプリケーションレベルの利用像です。
omni-moderation-latest の主な機能
- マルチモーダルなモデレーション: テキストと画像の両方を入力として受け付け、アップロードされたビジュアルコンテンツをメッセージと併せて評価する必要がある現代的なアプリケーションに適しています。
- より広い安全性カテゴリ: omni moderation ファミリーは、従来のテキストモデレーションモデルよりも多くのカテゴリに対応すると OpenAI は述べています。
- 構造化された安全性出力: レスポンスには、
flagged、カテゴリラベル、カテゴリスコアなどのフィールドを含むモデレーションオブジェクトが含まれ、許可・ブロック・レビュー・エスカレーションの自動化が容易になります。 - 精度の向上: 特に非英語コンテンツにおいて、前世代のモデレーションよりも精度が向上したと OpenAI は報告しています。
- 画像対応の分類サポート: 画像 URL や base64 エンコード画像データをモデレーション入力として取り込むことができ、アップロード済みまたはリンクされたビジュアルアセットのスクリーニングを可能にします。
- 新規統合に最適: OpenAI のモデレーションガイドは、レガシーのテキスト専用モデルではなく、より新しい omni moderation モデルを新規アプリケーションに推奨しています。
- プロバイダー側での無料提供: OpenAI のモデル一覧では、モデレーションモデルは無料とされており、大規模な安全性フィルタリングワークフローに適しています。
omni-moderation-latest へのアクセスと統合方法
ステップ 1: API キーの取得
まず CometAPI にサインアップし、ダッシュボードから API キーを生成します。キーを作成したら、COMETAPI_API_KEY のような環境変数に安全に保管してください。このキーは、モデルに送信するすべてのリクエストの認証に使用されます。
ステップ 2: omni-moderation-latest API にリクエストを送信
API キーを取得したら、CometAPI 上の OpenAI 互換チャットエンドポイントを呼び出し、モデルとして omni-moderation-latest を指定できます。例:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
ワークフローに画像が含まれる場合は、クライアントやリクエスト形式が上流のモデレーションスキーマに従っていることを前提に、マルチモーダルのモデレーション入力も送信できます。OpenAI の moderation API ドキュメントによれば、omni-moderation-latest は文字列、文字列配列、マルチモーダル入力オブジェクトをサポートしています。
ステップ 3: 結果の取得と検証
API レスポンスは、使用モデル、flagged の判定、カテゴリレベルのラベル、カテゴリスコアを含むモデレーション結果オブジェクトを返します。レスポンス受領後、コンテンツをプロダクトフローに流す前に、自社アプリケーションのポリシー閾値を超えていないか検証してください。本番運用では、多くのチームが自動閾値判定に加え、ログ記録、手動レビューキュー、ポリシー別のビジネスルールを組み合わせています。