omni-moderation-2024-09-26

Specyfikacje techniczne omni-moderation-2024-09-26

omni-moderation-2024-09-26 to migawkowy model moderacji udostępniony przez OpenAI Moderation API, a dokumentacja API OpenAI wyraźnie wymienia ten dokładny identyfikator modelu jako obsługiwaną opcję moderacji. Należy on do nowszej rodziny omni-moderation, a nie do starszej, wyłącznie tekstowej linii moderacji.

Z dokumentacji OpenAI dotyczącej modeli i moderacji wynika, że ten model służy do klasyfikacji bezpieczeństwa treści, przyjmuje wejścia tekstowe i obrazowe oraz zwraca wyniki moderacji, a nie generatywne odpowiedzi tekstowe. OpenAI opisuje rodzinę omni-moderation jako swoją najbardziej zaawansowaną ofertę moderacji, z obsługą multimodalną i szerszą kategoryzacją niż w modelach starszej generacji.

Jako migawka z 26 września 2024, omni-moderation-2024-09-26 odpowiada generacji uruchomieniowej ulepszonego, multimodalnego systemu moderacji OpenAI. OpenAI stwierdza, że ta generacja jest oparta na GPT-4o, poprawia dokładność względem wcześniejszych modeli moderacji i jest szczególnie lepsza w przypadku treści nieanglojęzycznych. Materiały z tej premiery wskazują także, że modele moderacji są dostępne przez Moderation API bezpłatnie dla deweloperów.

Czym jest omni-moderation-2024-09-26?

omni-moderation-2024-09-26 to model moderacji o stałej wersji, używany do identyfikowania potencjalnie szkodliwych treści w danych wejściowych aplikacji przed ich dotarciem do użytkowników końcowych lub po nim. W praktyce deweloperzy używają go do klasyfikacji generowanych przez użytkowników tekstów, obrazów lub mieszanych, multimodalnych pakietów pod kątem kategorii ryzyka istotnych z perspektywy polityk, takich jak przemoc, nienawiść, nękanie, treści seksualne i samookaleczenie.

W porównaniu ze starszymi, tekstowymi modelami moderacji, ta migawka należy do nowszego, multimodalnego stosu moderacji OpenAI. OpenAI dokumentuje, że migawki omni-moderation obsługują więcej opcji kategoryzacji i wejścia multimodalne, dzięki czemu są zalecanym wyborem do nowych integracji moderacji.

Kluczowym powodem użycia identyfikatora migawki omni-moderation-2024-09-26 zamiast ruchomego aliasu jest stabilność wersji. Ponieważ jest to migawka datowana, lepiej sprawdza się w zespołach, które chcą uzyskać powtarzalne zachowanie moderacji, kontrolowane wdrożenia i bardziej przewidywalny audyt w różnych środowiskach. Ten punkt dotyczący stabilności jest wnioskiem implementacyjnym opartym na odrębnym wykazaniu przez OpenAI identyfikatorów migawkowych i aliasu najnowszej wersji.

Główne cechy omni-moderation-2024-09-26

• Multimodalna moderacja: Obsługuje zarówno dane wejściowe tekstowe, jak i obrazowe przez Moderation API, umożliwiając jednemu modelowi ocenę treści w popularnych typach mediów tworzonych przez użytkowników.
• Szersza kategoryzacja bezpieczeństwa: OpenAI dokumentuje, że linia omni-moderation dodaje więcej opcji kategoryzacji niż starsze modele moderacji, w tym nowsze klasy szkód wprowadzone wraz z tą generacją.
• Ulepszona wielojęzyczna skuteczność: OpenAI podaje, że ta generacja moderacji jest dokładniejsza niż wcześniejsze modele, szczególnie w językach innych niż angielski i w ustawieniach o mniejszych zasobach.
• Wyjście z ocenami w stylu prawdopodobieństw: Oprócz boole’owskich flag kategorii model dostarcza skalibrowane wyniki kategorii, które pomagają zespołom definiować progi specyficzne dla aplikacji i logikę przeglądu.
• Rozróżnienie typu wejścia na poziomie kategorii: Schemat odpowiedzi moderacji obejmuje na poziomie kategorii wskazanie zastosowanych typów wejścia, co pomaga zrozumieć, czy dana klasyfikacja wynikała z tekstu, obrazu, czy obu.
• Kontrola wersji poprzez migawkę: Ponieważ omni-moderation-2024-09-26 jest wyraźnie wersjonowaną migawką, przydaje się do testów regresyjnych, benchmarków bezpieczeństwa i kontrolowanych wdrożeń produkcyjnych, gdzie liczy się spójność. Jest to wniosek zorientowany na implementację, wynikający z nazewnictwa migawek i wsparcia w API OpenAI.

Jak uzyskać dostęp i zintegrować omni-moderation-2024-09-26

Krok 1: Zarejestruj się po klucz API

Aby zacząć, zarejestruj się w CometAPI i wygeneruj klucz API w panelu. Gdy masz aktywny klucz, możesz używać go do uwierzytelniania wszystkich żądań do API omni-moderation-2024-09-26 przez zunifikowaną bramkę modeli CometAPI.

Krok 2: Wysyłanie żądań do API omni-moderation-2024-09-26

Użyj formatu API zgodnego z OpenAI w CometAPI i określ model jako omni-moderation-2024-09-26. Wyślij ładunek moderacji jako tekst lub jako multimodalną tablicę wejściową przy klasyfikacji treści łączących obraz i tekst. Oficjalna dokumentacja Moderation API OpenAI pokazuje, że ten identyfikator modelu jest prawidłowy dla żądań moderacji i że endpoint akceptuje zarówno zwykłe łańcuchy tekstowe, jak i strukturalne, multimodalne obiekty wejściowe.

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_API_KEY" \
  -d '{
    "model": "omni-moderation-2024-09-26",
    "input": "Example content to classify"
  }'

Krok 3: Odbieranie i weryfikacja wyników

Po wysłaniu żądania sprawdź w odpowiedzi nadrzędny wynik moderacji, status oflagowania, wartości boole’owskie kategorii oraz wyniki kategorii. Schemat odpowiedzi moderacji OpenAI zawiera także szczegóły dla poszczególnych kategorii, które można wykorzystać do ustalania progów, kolejek przeglądu i logiki egzekwowania polityk. W środowisku produkcyjnym weryfikuj wyniki, testując reprezentatywne przypadki brzegowe z własnej aplikacji, porównując rezultaty z oczekiwaniami wynikającymi z wewnętrznych polityk oraz rejestrując identyfikator migawki modelu omni-moderation-2024-09-26, aby zachowanie moderacji pozostawało możliwe do śledzenia w czasie.