{"error":{"message":"The response was filtered due to the prompt triggering

OpenAI，作为一家美国人工智能巨头，近日在征求产品规则反馈意见的文件中透露了一项引人关注的内容。他们正在考虑在“负责任”的前提下允许用户制作AI生成的色情内容。据OpenAI目前的规则，性暗示和色情内容大多被禁止，但现在他们正在重新审视这一严格的禁令。

OpenAI对NSFW内容探索的思考

在文件中，OpenAI表示：“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成NSFW内容的能力。” NSFW内容包括不雅用语、极端血腥和色情内容。该公司的模型负责人Joanne Jang在接受NPR采访时表示，OpenAI希望就AI产品中的色情文本和裸体图像是否应永远禁止展开讨论。

AI生成的色情内容的可能性

与此同时，OpenAI也在考虑有一天允许用户创建AI生成的被视为色情内容的图像。然而，这可能引发一系列问题。其中之一就是AI应用和服务可能会为人们的图像“去衣”，这在青少年中尤为引起关注，形成了一种“在学校迅速蔓延的新形式的同龄人性侵犯和骚扰”。这一问题令人特别担忧。

对于色情内容的滥用担忧

此外，研究人员也对最近一种令人不安的高级人工智能技术用途感到越来越担心，即创建所谓的深度伪造色情内容，以用于骚扰、勒索或羞辱受害者。在OpenAI公布的文件中，包括了一个ChatGPT的示例，涉及性健康，这是它可以回答的问题。但是，在另一则用户要求聊天机器人写一段色情文字的例子中，该请求被拒绝了。然而，OpenAI的Jang表示，也许聊天机器人应该能够回答这个问题，作为创意表达的一种形式，这个原则也可能会扩展到图像和视频，只要不违反法律并且不滥用。

色情内容可能被滥用造成伤害

然而，允许任何形式的AI生成图像或视频色情内容都可能被不法分子利用，并造成最严重的伤害。因此，即使是色情文本也可能被滥用。OpenAI的Jang表示：“如果我的目标是创造色情内容，那我会去其他地方工作。”

在探索AI生成的色情内容的同时，我们必须谨慎对待，确保避免其被滥用，以保护社会和个人的利益。我们需要制定明确的政策和规则来确保AI技术的合理和负责任的使用。

结论：色情内容在AI技术中的应用仍处于讨论阶段，OpenAI在探索是否允许用户制作AI生成的色情内容。然而，鉴于滥用和潜在的伤害，个人和社会都需要对这一问题保持高度警惕，并制定合适的规则和措施来确保技术的负责任使用。感谢您阅读本文，请留下您的评论，关注我们的更新并点赞支持！

本文链接：https://www.24zzc.com/news/171522728872789.html