OpenAI的 GPT-4o 代表了多模式人工智慧的重大進步，能夠產生文字和圖像。隨著其能力的擴大，人們開始質疑是否有能力製作不適合工作場所（NSFW）的內容，尤其是色情內容。本文探討了 OpenAI 的當前立場、政策發展以及 AI 產生的 NSFW 內容的更廣泛影響。
GPT-4o 的圖像生成是什麼
多模態人工智慧的飛躍
GPT-4o 是 OpenAI 最先進的模型，將文字、圖像和音訊處理整合到一個框架中。這種整合允許模式之間的無縫轉換，使用戶能夠輸入文字和圖像的組合併接收不同格式的連貫輸出。該模型的圖像生成能力尤其值得注意，它能夠提供高品質、逼真的圖像，並緊密遵循使用者提示。
實際應用和限制
在實際應用中，GPT-4o 已證明能夠熟練完成增強照片美感、創建拼貼畫以及根據特定提示轉換圖像等任務。例如，使用者使用 GPT-4o 重新設計室內設計圖像，添加黑色櫥櫃等元素，同時保留其他細節。然而，儘管取得了這些進步，GPT-4o 並非沒有限制。使用者報告了一些問題，例如不必要的裁剪以及難以準確渲染具有多個物件的複雜場景。
AI 中的 NSFW 內容是什麼
在人工智慧情境下定義NSFW
NSFW 內容包括被認為不適合專業場合的資料，包括色情、露骨語言、暴力畫面和其他成人主題。在人工智慧應用中，這指的是透過文字或圖像產生和傳播此類內容。
OpenAI 的歷史方法
從歷史上看，OpenAI 一直堅持嚴格的指導方針，禁止產生 NSFW 內容。其中包括堅決禁止人工智慧生成的色情內容和深度偽造，強調用戶安全和道德考慮的重要性。
GPT-4o 可以產生 NSFW 圖片嗎？
現行政策和保障措施
OpenAI 已經實施了強有力的保障措施，以防止濫用 GPT-4o 產生有害或露骨的內容。 GPT-4o 產生的所有影像都包含 C2PA 元數據，這有助於識別 AI 產生的影像並確保透明度。此外，OpenAI 還開發了內部工具來檢測和防止與兒童性虐待和性深度偽造相關的內容的生成。
該公司製定了嚴格的使用政策，禁止產生成人 NSFW 內容，尤其是色情內容。儘管 OpenAI 曾考慮允許在適合年齡的環境中產生 NSFW 內容，例如基於文字的色情內容或血腥內容，但它已澄清說，他們無意允許創建由 AI 生成的色情內容。
不斷發展的觀點和社群回饋
OpenAI 執行長 Sam Altman 承認內容審核的複雜性以及將人工智慧能力與社會期望相結合的重要性。在 Reddit 等平台的討論中，奧特曼表示有興趣在適當的環境中為個人使用產生 NSFW 內容，並強調需要負責任地實施。這種觀點反映了內容審核方法的不斷發展，在使用者自主性和道德考量之間取得平衡。
研究與技術保障的作用
為了減輕與人工智慧產生的 NSFW 內容相關的風險，研究人員開發了各種框架和工具。尤其：
- 賽福根：一個旨在透過從模型中消除明確的視覺表示（無論文字輸入如何）來減輕文字到圖像模型中色情內容的生成的框架。
- 裁剪：一種與模型無關、無需訓練的框架，用於使用潛在擴散模型進行安全影像合成，旨在防禦生成 NSFW 影像的對抗性攻擊。
- 毒性基準：用於評估影像中 NSFW 文字產生的開源基準，提供有害提示的精選資料集和新的評估指標。
這些舉措代表著確保人工智慧技術以負責任的方式開發和部署的積極步驟。
結論
雖然 GPT-4o 擁有先進的影像產生能力，但 OpenAI 實施了嚴格的政策和技術保障措施，以防止產生 NSFW 內容。
隨著人工智慧的不斷發展，利害關係人（包括開發人員、政策制定者和使用者）參與持續的對話和合作至關重要。透過促進透明度、問責制和道德考慮，我們可以利用人工智慧的優勢，同時降低其風險。
CometAPI建議
您可能需要花費大量精力才能使用 gpt 4o、Beat Filters、Avoid Flags 產生 NSFW 內容並獲得您想要的結果。為什麼不考慮其他工具？例如， Midjourney API 穩定擴散 API（穩定擴散 XL 1.0 API) 和 Flux API(FLUX.1 API ETC）， 彗星API 收集了各種圖像生成工具，您可以選擇最適合您的工具！ CometAPI 也整合了 GPT-4o-圖像 API API，並且可以透過第三方API繞過OpenAI的限制，CometAPI整合GPT-4O-Image產生映像 API 文件 開發人員指南，有關技術細節，請參閱 GPT-4o-圖像 API.
