omni-moderation-latest

omni-moderation-latest کی تکنیکی تفصیلات

omni-moderation-latest کیا ہے؟

omni-moderation-latest OpenAI کا موجودہ اعتدال کاری ماڈل ہے جو متن اور تصاویر میں غیر محفوظ یا پالیسی سے حساس مواد کی شناخت کے لیے بنایا گیا ہے۔ اسے ان ڈویلپرز کے لیے ڈیزائن کیا گیا ہے جنہیں صارف پرامپٹس، اپ لوڈ شدہ میڈیا، یا ماڈل سے پیدا شدہ آؤٹ پٹس کو آخر صارفین کو دکھانے یا ڈاؤن اسٹریم سسٹمز کو دینے سے پہلے اسکرین کرنا ہوتا ہے۔

OpenAI نے omni-moderation-latest کو پہلے کے اعتدال کاری ماڈلز کے ایک ملٹی موڈل اپ گریڈ کے طور پر متعارف کرایا۔ OpenAI کی دستاویزات کے مطابق، یہ لیگیسی صرف-متن اعتدال کاری اختیارات سے زیادہ قابل ہے، وسیع تر درجہ بندی کی حمایت کرتا ہے، اور اعتدال کاری اینڈ پوائنٹ استعمال کرنے والی نئی ایپلی کیشنز کے لیے بہترین انتخاب ہے۔

عملی طور پر، ٹیمیں omni-moderation-latest کو ان پٹ اعتدال کاری، آؤٹ پٹ اعتدال کاری، ٹرسٹ اینڈ سیفٹی پائپ لائنز، فورم فلٹرنگ، سماجی مواد کے جائزے، اور بے جا استعمال کی شناخت کے ورک فلو کے لیے استعمال کرتی ہیں، جہاں انسانی جائزے یا نفاذی منطق سے پہلے تیز خودکار چھانٹی درکار ہوتی ہے۔ یہ OpenAI کی اعتدال کاری ہدایات اور API ڈیزائن کی بنیاد پر ایپلی کیشن سطح کا استنباط ہے۔

omni-moderation-latest کی اہم خصوصیات

• ملٹی موڈل اعتدال کاری: یہ ماڈل متن اور تصویر دونوں طرح کی ان پٹس قبول کرتا ہے، جس سے وہ جدید ایپلی کیشنز کے لیے موزوں بنتا ہے جنہیں اپ لوڈ کیے گئے بصری مواد کے ساتھ صارف پیغامات کا بھی جائزہ لینا ہوتا ہے۔
• وسیع تر سلامتی درجہ بندی: OpenAI کے مطابق، omni moderation فیملی لیگیسی متن اعتدال کاری ماڈلز کے مقابلے میں زیادہ درجہ بندی اختیارات کی حمایت کرتی ہے۔
• ساختہ سلامتی آؤٹ پٹ: جوابات میں ایک اعتدال کاری آبجیکٹ شامل ہوتا ہے جس میں flagged، زمرہ لیبلز، اور زمرہ اسکورز جیسے فیلڈز ہوتے ہیں، جو اجازت، بلاک، جائزہ، یا اسکیلیشن منطق کو خودکار بنانا آسان بناتے ہیں۔
• بہتر درستی: OpenAI نے رپورٹ کیا ہے کہ omni-moderation-latest سابقہ اعتدال کاری نسل کے مقابلے میں زیادہ درست ہے، خاص طور پر غیر انگریزی مواد کے لیے۔
• تصویری آگاہ درجہ بندی کی معاونت: API تصویر کے URLs یا base64 انکوڈڈ امیج ڈیٹا کو اعتدال کاری ان پٹس کے طور پر قبول کر سکتی ہے، جس سے اپ لوڈ یا منسلک بصری اثاثوں کی اسکریننگ ممکن ہوتی ہے۔
• نئے انضمامات کے لیے موزوں ترین: OpenAI کی اعتدال کاری گائیڈ نئی ایپلی کیشنز کے لیے لیگیسی صرف-متن ماڈل فیملی کے بجائے نئے omni moderation ماڈلز کی واضح طور پر سفارش کرتی ہے۔
• مہیا کنندہ کی جانب سے مفت اعتدال کاری استعمال: OpenAI کی ماڈل فہرست اعتدال کاری ماڈلز کو مفت قرار دیتی ہے، جو بڑے پیمانے کے حفاظتی فلٹرنگ ورک فلو کے لیے انہیں پرکشش بنا سکتی ہے۔

omni-moderation-latest تک رسائی اور انضمام کا طریقہ

مرحلہ 1: API Key کے لیے سائن اپ کریں

omni-moderation-latest استعمال کرنا شروع کرنے کے لیے، پہلے CometAPI پر سائن اپ کریں اور ڈیش بورڈ سے اپنی API key بنائیں۔ کلید بنانے کے بعد، اسے COMETAPI_API_KEY جیسے انوائرمنٹ ویری ایبل میں محفوظ طور پر رکھیں۔ یہ کلید ماڈل کو بھیجی جانے والی ہر درخواست کی توثیق کے لیے استعمال ہوگی۔

مرحلہ 2: omni-moderation-latest API کو درخواستیں بھیجیں

جب آپ کے پاس API key ہو، تو آپ CometAPI پر OpenAI-compatible چیٹ اینڈ پوائنٹ کو omni-moderation-latest کو ماڈل کے طور پر متعین کرتے ہوئے کال کر سکتے ہیں۔ مثال:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_API_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "Sample text to classify for safety."
  }'

آپ ملٹی موڈل اعتدال کاری ان پٹ بھی بھیج سکتے ہیں جب آپ کے ورک فلو میں تصاویر شامل ہوں، بشرطیکہ آپ کا کلائنٹ اور ریکویسٹ فارمیٹ ماڈل کی جانب سے سپورٹ کیے گئے اپ اسٹریم اعتدال کاری اسکیمہ کی پیروی کرے۔ OpenAI کی اعتدال کاری API دستاویزات ظاہر کرتی ہیں کہ omni-moderation-latest ٹیکسٹ اسٹرنگز، اسٹرنگز کی arrays، اور ملٹی موڈل ان پٹ آبجیکٹس کو سپورٹ کرتا ہے۔

مرحلہ 3: نتائج حاصل کریں اور توثیق کریں

API کے جواب میں ایک اعتدال کاری نتیجہ آبجیکٹ واپس آئے گا جس میں استعمال شدہ ماڈل، flagged فیصلہ، زمرہ جاتی سطح کے لیبلز، اور زمرہ اسکورز شامل ہوں گے۔ جواب موصول ہونے کے بعد، اپنے پروڈکٹ فلو میں شامل کرنے سے پہلے یہ توثیق کریں کہ آیا مواد آپ کی ایپلی کیشن کی پالیسی تھریش ہولڈ سے تجاوز کرتا ہے یا نہیں۔ پروڈکشن استعمال کے لیے، بہت سی ٹیمیں خودکار تھریش ہولڈنگ کو لاگنگ، دستی جائزہ قطاروں، اور پالیسی-خصوصی بزنس رولز کے ساتھ ملاتی ہیں۔