OpenAI推出图像检测新工具！可检测DALL·E 3生成图像，准确率达98%

编译|长颈鹿
编辑|李水青

智东西5月8日消息，5月7日，OpenAI宣布推出一个面向文生图模型DALL·E3的图像检测分类器，该工具能帮助用户识别AI工具生成的内容。据内部测试，该工具识别DALL·E3生成图片的准确率达到了98%。

此外，OpenAI称为了应对图片内容是否真实的挑战，公司希望与业界各方机构一起采用、开发和推广开放标准。据悉，OpenAI昨日开放了图像检测分类器的API，希望通过技术共享来提升数字内容的真实性和完整性。

▲添加了C2PA元数据的DALL·E3

图像检测分类器可以识别出压缩、裁剪、更改饱和度/颜色、去除水印等常规图片操作。OpenAI称，图像检测器在内部测试中，能正确识别约98%由DALL·E3生成的图像，有约0.5%的概率会将非AI生成的图像误判为AI生成。但其在区分DALL·E3生成图像和其他AI模型生成图像方面性能较低，约有5-10%的误判。

OpenAI的图像检测分类器现已向AI实验室和AI初创公司开放申请，公司希望通过业内集体协作共同完善图像检测技术。

OpenAI还在其语音模型VoiceEngine中引入了音频水印技术，目前处于产品预览阶段。

OpenAI正积极参与构建一个标准化、可信赖的数字内容生态系统。其不仅加入C2PA指导委员会并集成C2PA元数据于DALL·E3中，还正自研图像检测分类器。

OpenAI与微软共同推出的“社会韧性基金”进一步凸显了OpenAI对于普及AI知识、提升公众对AI技术认知的承诺。

OpenAI的这些努力将使AI生成内容向更规范、透明的方向发展。我们也希望有更多AI企业间技术共享、开放合作的行为来构建一个更加真实和可信的数字世界。