AI 图像生成工具越来越先进，已经达到能够以假乱真的程度，因此也令人担心会被滥用来制作假资讯。 OpenAI 有见及此就开发了AI 生成图片侦测器，方便分辨真假照片。

据OpenAI 表示，这个工具能够以约98% 的准确率确定图像是否由其DALL-E 3 生成器制作，而且就算图像经过裁剪、压缩或色彩饱和度调整，侦测器仍然有效。不过如果不是DALL-E 3 制作的图像，例如Midjourney 等等，其准确度就会大幅下降，只有5% 到10% 图像能被准确分辨。

此外，OpenAI 正在实施一种防篡改水印技术，该技术可对音频内容进行隐形标记，有助于验证其来源。不过类似的工具虽然有一定需求，但仍然有相当大的改善空间，之前OpenAI 曾经开发用于识别AI 生成文字的工具，不过其准确度偏低因此最后被放弃，至今也仍然没有能够准确分辨AI生成文字的工具。取而代之的是内容出处和授权联盟（C2PA），打算透过将内容凭证嵌入图像元数据来标注AI 生成内容。