OpenAI正在开发全新AI图像检测工具

OpenAI添加了一个新工具来检测图像是否基于DALL-E AI图像生成器制作，以及新的水印方法以更清晰标记生成的内容。

OpenAI在一篇博文中宣布，已开始开发新的来源方法来追踪内容以证明是否由人工智能生成；其中包括一个新的图像检测分类器，基于人工智能机制来确定照片是否为AI生成，以及一个防篡改水印，可应用于不可见的信号标记音频等内容。

该分类器可预测图片是否由DALL-E 3创建。OpenAI声称，即使图像被裁剪或压缩或饱和度发生变化，分类器也能运行；虽然该工具可检测图像是否基于DALL-E 3制作，且准确率约为98%，但在判断内容是否来自其他AI模型方面并不那么灵敏，仅标记出来自其他图像生成器（如Midjourney）5%到10%的图片。

OpenAI之前将内容凭证添加到内容来源和权威联盟（C2PA）图像元数据中，内容凭证本质上是水印，其中包含有关图像所有者及其创建图像的信息。OpenAI与微软和Adobe等公司都是C2PA的成员，本月，OpenAI也加入了C2PA指导委员会。

不仅如此，这家人工智能公司还开始在基于语音引擎的视频片段中添加水印，该文本转语音平台目前处于有限预览状态。

另外，图像分类器和音频水印信号仍在完善中，OpenAI表示，将根据用户反馈来测试有效性。研究人员和非营利新闻团体可以通过将图像检测分类器应用到OpenAI研究访问平台以测试。

OpenAI多年来一直致力于检测人工智能生成的内容。然而，在2023年，其不得不终止一个试图识别AI书写文本的项目，因为AI文本分类器的准确度始终较低。