OpenAI 官宣推出专用的 AI 检测工具，用于监测图片是否由其旗下 AI 图片生成工具 DALL-E 生成，准确率高达 98.8%。不过该公司表示，这个检测工具并非旨在检测 Midjourney 和 Stability 等其他流行生成器生成的图像。
OpenAI 还宣布他们加入了内容来源和真实性联盟（C2PA）的指导委员会，C2PA 是一种广泛使用的数字内容认证标准，可用于证明内容来自特定来源。OpenAI 表示自今年早些时候，在 ChatGPT 和 OpenAI API 中创建和编辑的所有图像中，均添加了 C2PA 元数据。未来 Sora 也会集成 C2PA 数据。
检测器的功能和性能
OpenAI 的图像检测分类器能够区分非人工智能生成的图像和 DALL-E 3 生成的图像，能在约 98% 的时间内正确识别出 DALL-E 3 生成的图像。此外，该分类器还可以处理常见的修改，如压缩、裁剪和饱和度变化。然而，对于由其他 AI 模型生成的图像，分类器的标记效率相对较低，在内部数据集上只能标记约 5%-10% 的图像。
检测器的应用场景
OpenAI 的图像检测分类器主要用于帮助识别由其自己的工具创建的内容，同时也与其他公司一起采用、开发和推广一种开放标准，即 C2PA（内容真实性联盟），以帮助人们验证用于创建或编辑多种数字内容的工具。C2PA 是一个被广泛采用的数字内容认证标准，由软件公司、相机制造商和在线平台等众多参与者开发和使用，可用于证明内容来自特定来源。
检测器的研发背景
随着人工智能技术的发展，AI 生成的内容越来越多，如何保证这些内容的真实性成为一个重要问题。为了应对这个问题，OpenAI 开发了这款图像检测分类器，并加入了 C2PA 指导委员会，以推动开放标准的制定和实施。
检测器的局限性
尽管 OpenAI 的图像检测分类器在识别 DALL-E 3 生成的图像方面表现出色，但其在区分其他 AI 模型生成的内容方面的性能较低。此外，该分类器对于经过多轮编辑和处理的图像的分类能力尚未明确。这些问题表明，虽然 OpenAI 的检测器在一定程度上能够帮助识别 AI 生成的图片，但仍存在一定的局限性。
OpenAI 发布的 AI 生成图片检测器是一项有益的尝试，能够在一定程度上帮助识别 AI 生成的图片。然而，该检测器在处理其他 AI 模型生成的图片以及编辑过的图片时的表现较差，需要进一步改进和完善。随着技术的进步和标准的建立，我们可以期待 AI 生成图片检测器在未来发挥更大的作用。
相关文章
