OpenAI 的 GPT-4o 在多模态 AI 领域取得了显著进步，能够生成文本与图像。随着其能力扩展，关于其是否能够生成不适合在工作环境浏览（NSFW）的内容，尤其是露骨的性材料的问题随之而来。本文探讨 OpenAI 的当前立场、政策发展，以及 AI 生成 NSFW 内容的更广泛影响。
什么是 GPT-4o 的图像生成
多模态 AI 的一次飞跃
GPT-4o 作为 OpenAI 最先进的模型，将文本、图像与音频处理整合到一个统一框架中。这种整合使不同模态之间的切换更加顺畅，用户可以输入文本与图像的组合，并在不同格式中获得连贯的输出。该模型的图像生成能力尤为突出，能够生成高度逼真、质量上乘且紧贴用户提示的图像。
实际应用与局限
在实际应用中，GPT-4o 展现了在提升照片美感、创建拼贴，以及根据特定提示对图像进行转换等任务上的熟练度。例如，用户使用 GPT-4o 为室内设计图片重新配色与风格，在保留其他细节的同时添加黑色橱柜等元素。然而，尽管取得了这些进步，GPT-4o 仍存在局限。用户反馈的问题包括不必要的裁剪，以及在准确呈现包含多个物体的复杂场景方面的困难。
AI 中的 NSFW 内容是什么
在 AI 语境下对 NSFW 的定义
NSFW 内容涵盖被认为不适合在职业环境中出现的材料，包括情色、露骨语言、血腥暴力及其他成人主题。在 AI 应用中，这既指通过文本或图像生成此类内容，也指传播此类内容。
OpenAI 的历史做法
一贯以来，OpenAI 都坚持严格的准则，禁止生成 NSFW 内容。这包括明确禁止 AI 生成的色情作品与深度伪造，强调用户安全与伦理考量的重要性。
GPT-4o 能生成 NSFW 图片吗？
现行政策与防护措施
OpenAI 已实施强有力的防护措施，以防止将 GPT-4o 滥用于生成有害或露骨内容。所有由 GPT-4o 生成的图像都包含 C2PA 元数据，以帮助识别 AI 生成图像并确保透明性。此外，OpenAI 开发了内部工具，检测并阻止与儿童性虐待和性相关深度伪造有关的内容生成。
该公司维持严格的使用政策，禁止生成成人 NSFW 内容，尤其是色情作品。尽管 OpenAI 曾考虑在适龄语境下允许生成 NSFW 内容，例如基于文本的情色或血腥内容，但已明确表示并无允许生成 AI 色情作品的意图。
不断演进的观点与社区反馈
OpenAI 的 CEO Sam Altman 承认内容审核的复杂性，并强调使 AI 能力与社会期望相一致的重要性。在 Reddit 等平台的讨论中，Altman 表示有兴趣在合适语境下为个人用途启用 NSFW 内容生成，同时强调需要负责任的实施。这一观点反映了对内容审核不断演进的思路，在用户自主与伦理考量之间寻求平衡。
研究与技术防护的作用
为缓解与 AI 生成 NSFW 内容相关的风险，研究者开发了多种框架与工具。值得注意的包括：
- SafeGen：一种旨在缓解文生图模型生成露骨性内容的框架，通过从模型中移除露骨的视觉表征来实现，无论文本输入为何。
- CROPS：一种与模型无关、免训练的安全图像合成框架，适用于潜变量扩散模型，旨在防御生成 NSFW 图像的对抗性攻击。
- ToxicBench：一个用于评估图像中 NSFW 文本生成的开源基准，提供经策划的有害提示词数据集与新的评估指标。
这些举措是确保 AI 技术得到负责任开发与部署的积极步骤。
结论
尽管 GPT-4o 具备先进的图像生成能力，OpenAI 已实施严格的政策与技术防护，以防止生成 NSFW 内容。
随着 AI 持续演进，相关利益方——包括开发者、政策制定者与用户——持续开展对话与协作至关重要。通过促进透明性、问责机制与伦理考量，我们可以在降低风险的同时充分利用 AI 的优势。
CometAPI 建议
使用 gpt 4o 生成 NSFW 内容可能需要投入大量精力，击败过滤器、避免触发标记，并获得你想要的结果。为何不考虑其他工具？例如，Midjourney API Stable Diffusion API(Stable Diffusion XL 1.0 API) 和 Flux API(FLUX.1 API etc)，cometAPI 汇集了各类图像生成工具，你可以选择最适合自己的！CometAPI 也集成了 GPT-4o-image API API，并可能通过第三方 API 绕过 openai 的限制，CometAPI 集成 gpt-4o-image 生成图像 API doc guide for developer in, ,For technical details see GPT-4o-image API。