OpenAIGPT-4o dari OpenAI merupakan kemajuan signifikan dalam AI multimoda, yang mampu menghasilkan teks dan gambar. Seiring dengan berkembangnya kemampuannya, muncul pertanyaan mengenai kemampuannya untuk menghasilkan konten Not Safe For Work (NSFW), khususnya materi yang eksplisit secara seksual. Artikel ini mengkaji pendirian OpenAI saat ini, perkembangan kebijakan, dan implikasi yang lebih luas dari konten NSFW yang dihasilkan oleh AI.
Apa itu Generasi Gambar GPT-4o
Sebuah Lompatan dalam AI Multimodal
GPT-4o menonjol sebagai model OpenAI yang paling canggih, yang mengintegrasikan pemrosesan teks, gambar, dan audio ke dalam satu kerangka kerja. Integrasi ini memungkinkan transisi yang mulus antara modalitas, yang memungkinkan pengguna untuk memasukkan kombinasi teks dan gambar serta menerima keluaran yang koheren dalam berbagai format. Kemampuan pembuatan gambar model ini sangat penting, menawarkan gambar berkualitas tinggi dan fotorealistik yang sangat sesuai dengan perintah pengguna.
Penerapan dan Keterbatasan Praktis
Dalam aplikasi praktis, GPT-4o telah menunjukkan kemahiran dalam tugas-tugas seperti meningkatkan estetika foto, membuat kolase, dan mengubah gambar berdasarkan perintah tertentu. Misalnya, pengguna telah menggunakan GPT-4o untuk menata ulang gambar desain interior, menambahkan elemen seperti lemari hitam sambil mempertahankan detail lainnya. Namun, terlepas dari kemajuan ini, GPT-4o bukannya tanpa keterbatasan. Pengguna telah melaporkan masalah seperti pemotongan yang tidak perlu dan kesulitan dalam merender adegan kompleks dengan beberapa objek secara akurat.
Apa itu Konten NSFW dalam AI
Mendefinisikan NSFW dalam Konteks AI
Konten NSFW mencakup materi yang dianggap tidak pantas untuk lingkungan profesional, termasuk erotika, bahasa vulgar, kekerasan grafis, dan tema dewasa lainnya. Dalam aplikasi AI, ini mengacu pada pembuatan dan penyebaran konten tersebut melalui teks atau gambar.
Pendekatan Historis OpenAI
Secara historis, OpenAI telah menerapkan pedoman ketat yang melarang pembuatan konten NSFW. Ini termasuk larangan tegas terhadap pornografi dan deepfake yang dihasilkan AI, dengan menekankan pentingnya keselamatan pengguna dan pertimbangan etika.
Bisakah GPT-4o menghasilkan gambar NSFW?
Kebijakan dan Pengamanan Saat Ini
OpenAI telah menerapkan perlindungan yang kuat untuk mencegah penyalahgunaan GPT-4o dalam menghasilkan konten yang berbahaya atau eksplisit. Semua gambar yang dihasilkan oleh GPT-4o menyertakan metadata C2PA, yang membantu mengidentifikasi gambar yang dihasilkan AI dan memastikan transparansi. Selain itu, OpenAI telah mengembangkan alat internal untuk mendeteksi dan mencegah pembuatan konten yang terkait dengan pelecehan seksual anak dan deepfake seksual.
Perusahaan tersebut mempertahankan kebijakan penggunaan yang ketat yang melarang pembuatan konten NSFW dewasa, khususnya pornografi. Meskipun OpenAI telah mempertimbangkan untuk mengizinkan pembuatan konten NSFW dalam konteks yang sesuai usia, seperti erotika berbasis teks atau adegan berdarah, perusahaan tersebut telah mengklarifikasi bahwa tidak ada niat untuk memungkinkan pembuatan pornografi yang dihasilkan oleh AI.
Perkembangan Perspektif dan Umpan Balik Masyarakat
CEO OpenAI, Sam Altman, telah mengakui kompleksitas moderasi konten dan pentingnya menyelaraskan kemampuan AI dengan harapan masyarakat. Dalam diskusi di platform seperti Reddit, Altman telah menyatakan minatnya untuk memungkinkan pembuatan konten NSFW untuk penggunaan pribadi dalam konteks yang sesuai, dengan menekankan perlunya implementasi yang bertanggung jawab. Perspektif ini mencerminkan pendekatan yang terus berkembang terhadap moderasi konten, yang menyeimbangkan otonomi pengguna dengan pertimbangan etika.
Peran Penelitian dan Pengamanan Teknologi
Untuk mengurangi risiko yang terkait dengan konten NSFW yang dihasilkan AI, para peneliti telah mengembangkan berbagai kerangka kerja dan alat. Khususnya:
- AmanGen: Suatu kerangka kerja yang dirancang untuk mengurangi pembuatan konten seksual eksplisit dalam model teks-ke-gambar dengan menghilangkan representasi visual eksplisit dari model, apa pun teks yang dimasukkan.
- TANAMAN-TANAMAN: Kerangka kerja yang bebas pelatihan dan agnostik model untuk sintesis gambar yang aman dengan model difusi laten, yang bertujuan untuk mempertahankan diri terhadap serangan adversarial yang menghasilkan gambar NSFW.
- Bangku Beracun: Sebuah tolok ukur sumber terbuka untuk mengevaluasi pembuatan teks NSFW dalam gambar, menyediakan kumpulan data terpilih dari perintah-perintah yang membahayakan dan metrik baru untuk penilaian.
Prakarsa ini merupakan langkah proaktif untuk memastikan bahwa teknologi AI dikembangkan dan diterapkan secara bertanggung jawab.
Kesimpulan
Sementara GPT-4o memiliki kemampuan pembuatan gambar tingkat lanjut, OpenAI telah menerapkan kebijakan ketat dan perlindungan teknis untuk mencegah pembuatan konten NSFW.
Seiring terus berkembangnya AI, para pemangku kepentingan—termasuk pengembang, pembuat kebijakan, dan pengguna—harus terlibat dalam dialog dan kolaborasi yang berkelanjutan. Dengan mendorong transparansi, akuntabilitas, dan pertimbangan etika, kita dapat memanfaatkan manfaat AI sekaligus mengurangi risikonya.
CometAPI Menyarankan
Anda mungkin harus menghabiskan banyak upaya untuk menghasilkan konten NSFW dengan gpt 4o, Beat Filters, Avoid Flags, dan Mendapatkan Hasil yang Anda Inginkan. Mengapa tidak mempertimbangkan alat lain? Misalnya, API Midjourney API Difusi Stabil (API Difusi Stabil XL 1.0) dan Flux API(FLUX.1 API dll), API komet memiliki koleksi berbagai alat pembuat gambar, Anda dapat memilih salah satu yang paling sesuai untuk Anda! CometAPI juga mengintegrasikan API gambar GPT-4o API, dan mungkin dapat melewati batasan openai melalui API pihak ketiga, CometAPI mengintegrasikan gpt-4o-image menghasilkan gambar Dokumen API panduan untuk pengembang di, ,Untuk detail teknis lihat API gambar GPT-4o.
