OpenAIGPT-4o mewakili kemajuan ketara dalam AI multimodal, yang mampu menjana kedua-dua teks dan imej. Apabila keupayaannya berkembang, persoalan timbul mengenai keupayaannya menghasilkan kandungan Tidak Selamat Untuk Kerja (NSFW), terutamanya bahan seksual yang eksplisit. Artikel ini mengkaji pendirian semasa OpenAI, perkembangan dasar dan implikasi yang lebih luas daripada kandungan NSFW yang dijana AI.
Apakah Penjanaan Imej GPT-4o
Lonjakan dalam AI Multimodal
GPT-4o menonjol sebagai model OpenAI yang paling maju, menyepadukan teks, imej dan pemprosesan audio ke dalam satu rangka kerja. Penyepaduan ini membolehkan peralihan yang lancar antara modaliti, membolehkan pengguna memasukkan gabungan teks dan imej dan menerima output yang koheren merentas format yang berbeza. Keupayaan penjanaan imej model amat perlu diberi perhatian, menawarkan imej fotorealistik berkualiti tinggi yang mematuhi gesaan pengguna.
Aplikasi dan Had Praktikal
Dalam aplikasi praktikal, GPT-4o telah menunjukkan kecekapan dalam tugas seperti meningkatkan estetika foto, mencipta kolaj dan mengubah imej berdasarkan gesaan tertentu. Sebagai contoh, pengguna telah menggunakan GPT-4o untuk menggayakan semula imej reka bentuk dalaman, menambahkan elemen seperti kabinet hitam sambil mengekalkan butiran lain. Walau bagaimanapun, walaupun kemajuan ini, GPT-4o bukan tanpa batasan. Pengguna telah melaporkan isu seperti pemangkasan yang tidak perlu dan kesukaran untuk memaparkan adegan kompleks dengan berbilang objek dengan tepat.
Apakah Kandungan NSFW dalam AI
Mentakrifkan NSFW dalam Konteks AI
Kandungan NSFW merangkumi bahan yang dianggap tidak sesuai untuk tetapan profesional, termasuk erotika, bahasa eksplisit, keganasan grafik dan tema dewasa yang lain. Dalam aplikasi AI, ini merujuk kepada penjanaan dan penyebaran kandungan tersebut melalui teks atau imej.
Pendekatan Sejarah OpenAI
Dari segi sejarah, OpenAI telah mengekalkan garis panduan ketat yang melarang penjanaan kandungan NSFW. Ini termasuk larangan tegas terhadap pornografi dan deepfakes yang dijana AI, menekankan kepentingan keselamatan pengguna dan pertimbangan etika.
Bolehkah GPT-4o Menjana gambar NSFW?
Dasar dan Perlindungan Semasa
OpenAI telah melaksanakan perlindungan yang teguh untuk mengelakkan penyalahgunaan GPT-4o dalam menjana kandungan berbahaya atau eksplisit. Semua imej yang dijana oleh GPT-4o termasuk metadata C2PA, yang membantu mengenal pasti imej yang dijana AI dan memastikan ketelusan. Selain itu, OpenAI telah membangunkan alat dalaman untuk mengesan dan menghalang penjanaan kandungan yang berkaitan dengan penderaan seksual kanak-kanak dan pemalsuan seksual.
Syarikat itu mengekalkan dasar penggunaan yang ketat yang melarang penjanaan kandungan NSFW dewasa, terutamanya pornografi. Walaupun OpenAI telah mempertimbangkan untuk membenarkan penjanaan kandungan NSFW dalam konteks yang sesuai dengan umur, seperti erotika atau gore berasaskan teks, ia telah menjelaskan bahawa tiada niat untuk membolehkan penciptaan pornografi yang dijana AI.
Perspektif Berkembang dan Maklum Balas Komuniti
Ketua Pegawai Eksekutif OpenAI, Sam Altman, telah mengakui kerumitan penyederhanaan kandungan dan kepentingan menyelaraskan keupayaan AI dengan jangkaan masyarakat. Dalam perbincangan mengenai platform seperti Reddit, Altman telah menyatakan minat untuk membolehkan penjanaan kandungan NSFW untuk kegunaan peribadi dalam konteks yang sesuai, menekankan keperluan untuk pelaksanaan yang bertanggungjawab. Perspektif ini mencerminkan pendekatan yang berkembang untuk penyederhanaan kandungan, mengimbangi autonomi pengguna dengan pertimbangan etika.
Peranan Penyelidikan dan Perlindungan Teknologi
Untuk mengurangkan risiko yang berkaitan dengan kandungan NSFW yang dijana AI, penyelidik telah membangunkan pelbagai rangka kerja dan alatan. Terutamanya:
- SafeGen: Rangka kerja yang direka untuk mengurangkan penjanaan kandungan seksual eksplisit dalam model teks-ke-imej dengan menghapuskan perwakilan visual eksplisit daripada model, tanpa mengira input teks.
- TANAMAN: Rangka kerja model-agnostik, tanpa latihan untuk sintesis imej yang selamat dengan model penyebaran terpendam, bertujuan untuk mempertahankan diri daripada serangan musuh yang menjana imej NSFW.
- Bangku Beracun: Penanda aras sumber terbuka untuk menilai penjanaan teks NSFW dalam imej, menyediakan set data susun atur bagi gesaan berbahaya dan metrik baharu untuk penilaian.
Inisiatif ini mewakili langkah proaktif ke arah memastikan teknologi AI dibangunkan dan digunakan secara bertanggungjawab.
Kesimpulan
Walaupun GPT-4o mempunyai keupayaan penjanaan imej lanjutan, OpenAI telah melaksanakan dasar yang ketat dan perlindungan teknikal untuk menghalang penjanaan kandungan NSFW.
Memandangkan AI terus berkembang, adalah penting bagi pihak berkepentingan—termasuk pembangun, penggubal dasar dan pengguna—untuk melibatkan diri dalam dialog dan kerjasama yang berterusan. Dengan memupuk ketelusan, akauntabiliti dan pertimbangan etika, kami boleh memanfaatkan manfaat AI sambil mengurangkan risikonya.
Cadangan CometAPI
Anda mungkin perlu menghabiskan banyak usaha untuk menjana kandungan NSFW dengan gpt 4o, Beat Filters, Elakkan Bendera dan Dapatkan Hasil Yang Anda Inginkan. Mengapa tidak mempertimbangkan alat lain? Sebagai contoh, API Pertengahan Perjalanan API Resapan Stabil(Stable Diffusion XL 1.0 API) dan Flux API(FLUX.1 API dan lain-lain), kometAPI mempunyai koleksi pelbagai alat penjanaan imej, anda boleh memilih yang paling sesuai untuk anda! CometAPI juga berintegrasi API imej GPT-4o API, dan mungkin boleh memintas sekatan openai melalui API pihak ketiga, CometAPI menyepadukan gpt-4o-image menjana imej Dokumen API panduan untuk pembangun dalam, ,Untuk butiran teknikal lihat API imej GPT-4o.
