OpenAIGPT-4o ของ OpenAI ถือเป็นความก้าวหน้าครั้งสำคัญในด้าน AI แบบหลายโหมดที่สามารถสร้างทั้งข้อความและรูปภาพได้ เมื่อขีดความสามารถของ GPT-XNUMXo ขยายตัวขึ้น คำถามเกี่ยวกับความสามารถในการผลิตเนื้อหาที่ไม่ปลอดภัยสำหรับการทำงาน (NSFW) โดยเฉพาะเนื้อหาที่มีเนื้อหาทางเพศอย่างชัดเจนก็เกิดขึ้น บทความนี้จะตรวจสอบจุดยืนปัจจุบันของ OpenAI การพัฒนาของนโยบาย และผลกระทบที่กว้างขึ้นของเนื้อหา NSFW ที่สร้างโดย AI
การสร้างภาพ GPT-4o คืออะไร
ก้าวกระโดดใน AI มัลติโหมด
GPT-4o ถือเป็นโมเดลขั้นสูงที่สุดของ OpenAI โดยผสานการประมวลผลข้อความ รูปภาพ และเสียงเข้าไว้ในกรอบงานเดียว การผสานรวมนี้ช่วยให้สามารถเปลี่ยนแปลงระหว่างโหมดต่างๆ ได้อย่างราบรื่น ทำให้ผู้ใช้สามารถป้อนข้อความและรูปภาพรวมกัน และรับผลลัพธ์ที่สอดคล้องกันในรูปแบบต่างๆ ความสามารถในการสร้างภาพของโมเดลนี้มีความโดดเด่นเป็นพิเศษ เนื่องจากให้ภาพคุณภาพสูงที่สมจริง ซึ่งปฏิบัติตามคำแนะนำของผู้ใช้ได้อย่างใกล้ชิด
การใช้งานจริงและข้อจำกัด
ในการใช้งานจริง GPT-4o ได้แสดงให้เห็นถึงความชำนาญในงานต่างๆ เช่น การปรับปรุงความสวยงามของภาพถ่าย การสร้างภาพตัดปะ และการแปลงภาพตามคำแนะนำเฉพาะ ตัวอย่างเช่น ผู้ใช้ได้ใช้ GPT-4o เพื่อปรับแต่งรูปภาพการออกแบบภายในใหม่ โดยเพิ่มองค์ประกอบต่างๆ เช่น ตู้สีดำ ในขณะที่ยังคงรายละเอียดอื่นๆ ไว้ อย่างไรก็ตาม แม้จะมีความก้าวหน้าเหล่านี้ GPT-4o ก็ยังไม่ใช่ไร้ข้อจำกัด ผู้ใช้รายงานปัญหาต่างๆ เช่น การครอบตัดที่ไม่จำเป็น และความยากลำบากในการเรนเดอร์ฉากที่ซับซ้อนด้วยอ็อบเจ็กต์หลายรายการอย่างแม่นยำ
เนื้อหา NSFW ใน AI คืออะไร
การกำหนด NSFW ในบริบท AI
เนื้อหา NSFW ครอบคลุมเนื้อหาที่ถือว่าไม่เหมาะสมสำหรับใช้ในที่ทำงาน เช่น สื่อลามก ภาษาที่หยาบคาย ความรุนแรง และเนื้อหาสำหรับผู้ใหญ่อื่นๆ ในแอปพลิเคชัน AI หมายถึงการสร้างและเผยแพร่เนื้อหาดังกล่าวผ่านข้อความหรือรูปภาพ
แนวทางเชิงประวัติศาสตร์ของ OpenAI
ในอดีต OpenAI ได้กำหนดแนวปฏิบัติที่เข้มงวดในการห้ามสร้างเนื้อหา NSFW ซึ่งรวมถึงการห้ามสื่อลามกอนาจารและ Deepfake ที่สร้างโดย AI โดยเน้นย้ำถึงความสำคัญของความปลอดภัยของผู้ใช้และการพิจารณาทางจริยธรรม
GPT-4o สามารถสร้างรูปภาพ NSFW ได้หรือไม่?
นโยบายและการป้องกันในปัจจุบัน
OpenAI ได้นำมาตรการป้องกันที่แข็งแกร่งมาใช้เพื่อป้องกันการใช้ GPT-4o ในทางที่ผิดในการสร้างเนื้อหาที่เป็นอันตรายหรือชัดเจน รูปภาพทั้งหมดที่สร้างโดย GPT-4o มีข้อมูลเมตาของ C2PA ซึ่งช่วยระบุรูปภาพที่สร้างโดย AI และรับรองความโปร่งใส นอกจากนี้ OpenAI ยังได้พัฒนาเครื่องมือภายในเพื่อตรวจจับและป้องกันการสร้างเนื้อหาที่เกี่ยวข้องกับการล่วงละเมิดทางเพศเด็กและเนื้อหาทางเพศปลอม
บริษัทมีนโยบายการใช้งานที่เคร่งครัดซึ่งห้ามการสร้างเนื้อหา NSFW สำหรับผู้ใหญ่ โดยเฉพาะสื่อลามก แม้ว่า OpenAI จะพิจารณาอนุญาตให้สร้างเนื้อหา NSFW ในบริบทที่เหมาะสมกับวัย เช่น สื่อลามกอนาจารแบบข้อความหรือเลือดสาด แต่บริษัทได้ชี้แจงว่าไม่มีเจตนาที่จะอนุญาตให้สร้างสื่อลามกอนาจารที่สร้างโดย AI
การพัฒนามุมมองและข้อเสนอแนะจากชุมชน
Sam Altman ซีอีโอของ OpenAI ยอมรับถึงความซับซ้อนของการควบคุมเนื้อหาและความสำคัญของการปรับความสามารถของ AI ให้สอดคล้องกับความคาดหวังของสังคม ในการอภิปรายบนแพลตฟอร์มต่างๆ เช่น Reddit Altman แสดงความสนใจในการเปิดใช้การสร้างเนื้อหา NSFW สำหรับการใช้งานส่วนบุคคลในบริบทที่เหมาะสม โดยเน้นย้ำถึงความจำเป็นในการนำไปปฏิบัติอย่างมีความรับผิดชอบ มุมมองนี้สะท้อนถึงแนวทางที่พัฒนาอย่างต่อเนื่องในการควบคุมเนื้อหา โดยรักษาสมดุลระหว่างอำนาจตัดสินใจของผู้ใช้กับการพิจารณาทางจริยธรรม
บทบาทของการวิจัยและการป้องกันทางเทคโนโลยี
เพื่อลดความเสี่ยงที่เกี่ยวข้องกับเนื้อหา NSFW ที่สร้างโดย AI นักวิจัยได้พัฒนากรอบงานและเครื่องมือต่างๆ ดังต่อไปนี้:
- เซฟเจน:กรอบการทำงานที่ออกแบบมาเพื่อลดการสร้างเนื้อหาที่มีเนื้อหาทางเพศอย่างชัดเจนในโมเดลข้อความเป็นรูปภาพ โดยการกำจัดการแสดงภาพที่ชัดเจนออกจากโมเดล โดยไม่คำนึงถึงอินพุตข้อความ
- พืชผล:กรอบงานที่ไม่ขึ้นอยู่กับโมเดลและไม่ต้องฝึกอบรมเพื่อการสังเคราะห์ภาพอย่างปลอดภัยโดยใช้โมเดลการแพร่กระจายแฝง ซึ่งมุ่งหวังที่จะป้องกันการโจมตีจากฝ่ายตรงข้ามที่สร้างภาพ NSFW
- พิษม้านั่ง:เกณฑ์มาตรฐานโอเพ่นซอร์สสำหรับการประเมินการสร้างข้อความ NSFW ในรูปภาพ โดยมอบชุดข้อมูลที่มีการคัดสรรของคำเตือนที่เป็นอันตราย และมาตรวัดใหม่สำหรับการประเมิน
โครงการริเริ่มเหล่านี้เป็นขั้นตอนเชิงรุกเพื่อให้แน่ใจว่าเทคโนโลยี AI ได้รับการพัฒนาและนำไปใช้อย่างมีความรับผิดชอบ
สรุป
แม้ว่า GPT-4o จะมีความสามารถในการสร้างภาพขั้นสูง แต่ OpenAI ก็ได้นำนโยบายที่เข้มงวดและการป้องกันทางเทคนิคมาใช้เพื่อป้องกันการสร้างเนื้อหา NSFW
เนื่องจาก AI ยังคงพัฒนาอย่างต่อเนื่อง จึงเป็นสิ่งสำคัญที่ผู้มีส่วนได้ส่วนเสีย รวมถึงนักพัฒนา ผู้กำหนดนโยบาย และผู้ใช้ จะต้องมีส่วนร่วมในการสนทนาและการทำงานร่วมกันอย่างต่อเนื่อง โดยการส่งเสริมความโปร่งใส ความรับผิดชอบ และการพิจารณาทางจริยธรรม เราสามารถใช้ประโยชน์จาก AI ได้พร้อมทั้งลดความเสี่ยง
CometAPI แนะนำ
คุณอาจต้องใช้ความพยายามอย่างมากในการสร้างเนื้อหา NSFW ด้วย gpt 4o, Beat Filters, Avoid Flags และ Get the Results You Want ทำไมไม่ลองพิจารณาเครื่องมืออื่น ๆ ดูล่ะ ตัวอย่างเช่น API กลางการเดินทาง API การแพร่กระจายที่เสถียร(การกระจายตัวที่เสถียร XL 1.0 API) และ Flux API(API FLUX.1 ฯลฯ ) ดาวหางAPI มีชุดเครื่องมือสร้างภาพต่างๆ ให้คุณเลือกใช้ได้ตามต้องการ! CometAPI ยังผสานรวม GPT-4o-ภาพ API API และอาจสามารถหลีกเลี่ยงข้อจำกัดของ openai ได้ผ่านทาง API ของบุคคลที่สาม CometAPI ผสาน gpt-4o-image สร้างภาพ เอกสาร API คู่มือสำหรับนักพัฒนาใน, สำหรับรายละเอียดทางเทคนิคโปรดดู GPT-4o-ภาพ API.
