AI生成图检测可靠吗：如何理解分数、误判与人工复核
AI生成图检测分数可以提示复核方向，却不能单独确证生成来源。区分像素分析、来源记录与肉眼观察，理解压缩、裁切和混合编辑带来的判断边界。
·
AI生成图检测（ai generated image detection）可以提供复核线索，但一个高分并不等于“已经证明这张图由AI生成”。要决定是否标注、限制传播或处理账号，还需要知道：检测器分析了什么、图片经历过什么处理，以及有没有可核对的来源记录。
目前提供的资料足以解释一种检测工具的工作方式，却不足以给出独立准确率或通用处罚阈值。把“检测器认为可疑”和“来源已经查明”分开，是使用这类工具最重要的前提。
分数回答的是分类问题，不是完整的来源问题
Sightengine的检测文档说明，其模型分析图片像素，不使用元数据；ai_generated是0到1之间、反映图片由生成式AI制作或编辑的模型置信分数。
这意味着，同一个分数可能涉及整图生成，也可能涉及真实照片中的生成式编辑。它本身没有交代编辑区域、处理时间、操作者或发布上下文。文档还提供按生成器区分的分数，但这些仍是分类输出，不是生成过程的原始记录。
也不要自动把0.9读成“这张图有经过验证的90%概率是AI生成”。要做这种解释，需要知道分数在与你的图片相似的数据上是否经过校准；当前资料没有提供这项验证。
| 线索 | 可以帮助判断什么 | 不能单独证明什么 |
|---|---|---|
| 像素分类器分数 | 图片是否呈现模型判为AI相关的特征 | 具体创作者、完整制作过程、事件真假 |
| 可核对的原文件、发布记录和编辑记录 | 文件来自哪里，版本之间如何关联 | 单份记录本身是否真实、是否完整 |
| 肉眼发现的纹理、文字或结构异常 | 哪些部位值得进一步检查 | 异常必然来自AI，或没有异常就是真实照片 |
来源记录也要验证，不能因为文件里写了一个工具名称就直接采信。反过来，暂时没有来源记录，也不应直接判定为AI生成。
为什么看似不错的检测器仍可能带来大量误报
下面只是数学假设，不是任何产品的实测：某批1000张图片中，100张确为AI生成。假设检测器找出其中90张，同时把另外900张中的45张误报为AI。
于是，135张被标记的图片中，有45张并非AI生成，误报占被标记图片的三分之一。这里“非AI图片的误报率”为45÷900，也就是5%；它和“被标记结果里有多少是错的”不是同一个比例。
这个例子说明，审核结果是否可信，不只取决于检测器，还取决于待审内容中AI图片的实际比例。低分也不等于真实性认证：没有被检测出来，和已经证明是相机拍摄，是两件事。
图片经过处理后，要重新问检测结论适用于什么
Sightengine文档称其检测面向压缩、缩放和重新编码等传播处理，同时指出严重退化或带有大量界面元素的截图可能降低置信度。这是供应商对自身模型的说明，不应扩展成所有检测器的性能保证。
| 情况 | 判断中的缺口 | 建议补充的材料或操作 |
|---|---|---|
| 多次压缩、截图或转发 | 检测的是衍生文件，不一定保留原文件的全部特征 | 索取最早可得文件，分别记录版本与结果 |
| 裁切 | 输入范围已经变化，裁切图的分数不能代表画面外内容 | 保留完整画面，说明实际送检区域 |
| 真实照片中局部生成式编辑 | 全图分数不能说明修改区域和修改程度 | 核对编辑前后文件与操作记录，不直接写成“整图虚构” |
| 新生成器或新版本 | 不能仅凭支持列表推定对新内容的识别表现 | 核对检测器版本和覆盖说明；缺乏证据时保留不确定结论 |
不要为了让图片“更容易检测”而覆盖原文件。需要比较裁切版或压缩版时，应制作副本，记录处理方式；不同版本的分数不是同一输入上的重复测量。
人工复核要留下什么
以下是建议的复核方法，不是经实测验证的检测方案。
先保存收到的文件、来源链接、获取时间和随附说明；如能取得原始文件，将其与截图、转发版分别保存。记录检测服务名称、分析时间、可见的模型版本、原始返回值，以及实际送检的是哪个文件。文件哈希可用于核对后续是否仍是同一文件，但不能证明画面内容真实。
随后核查发布者和上下文：最早能找到的发布记录是什么？对方能否提供拍摄原文件、连续照片或编辑历史？相关材料是否确实对应这张图，而不是仅仅描述相似场景？肉眼异常应作为继续提问的线索，而不是替代来源核查。
如果证据冲突，复核记录可以写成：
> 检测器返回较高的AI相关分数，但目前仅取得转发截图，尚无原文件及可核对的制作记录。暂不能确认整图生成或局部编辑，建议补充材料后复核。
这比“检测为AI，因此造假”更准确。涉及处罚或公开指控时，不应只凭一个检测分数作决定；应保留补充材料与再次复核的路径。最终需要回答的是证据支持到哪一步，而不是把一个小数变成超出证据范围的确定结论。