OpenAI正开发新的AI图像检测工具: 了解DALL-E3生成照片的特征及预测准确度

5月8日 消息:

OpenAI 近日宣布，他们已开始开发新的溯源方法，用于跟踪内容并证明其是否由人工智能生成。其中包括使用人工智能来确定照片是否是由 AI 生成的新的图像检测分类器，以及一种耐篡改的水印技术，可为内容添加不可见信号。

这个分类器可以预测照片是否由 DALL-E3生成。OpenAI 声称，即使图像被裁剪、压缩或饱和度发生变化，该分类器也能以约98% 的准确率检测出图像是否由 DALL-E 生成。然而，该工具在确定内容是否来自其他 AI 模型的性能则不佳，只能标记出来自其他图像生成器（如 Midjourney）的照片的5% 至10%。

水印技术的应用

除了图像分类器，OpenAI 还开始向其文本到语音平台 Voice Engine 的片段添加水印。这一功能目前处于有限预览阶段。

OpenAI 和 C2PA

此前，OpenAI 已经在图像的元数据中加入了 Coalition of Content Provenance and Authority (C2PA) 提供的内容凭证。内容凭证本质上就是水印，包含有关图像所有者和创建方式的信息。OpenAI 与微软、Adobe 等公司一样，是 C2PA 的成员之一。此外，本月，OpenAI 还加入了 CPA 的指导委员会。

不断完善中的技术

无论是图像分类器还是音频水印技术，都还在不断完善中。OpenAI 表示需要从用户处获得反馈以测试其有效性。研究人员和非营利新闻机构可以通过 OpenAI 的研究访问平台测试图像检测分类器。

AI 写作的挑战

多年来，OpenAI 一直致力于检测由 AI 生成的内容。然而，在2023年，他们不得不终止一项旨在识别 AI 写作文本的计划，因为 AI 文本分类器一直准确率很低。

感谢观看本文，如果您有任何问题或者想法，欢迎在下方评论区留言。我们鼓励读者们积极参与讨论，与我们分享您的观点和经验。同时，如果您觉得本文对您有帮助，请关注我们的更新动态并点赞支持，祝您一切顺利！

本文链接：https://www.24zzc.com/news/171513378572749.html