AI生成画像の検出は信頼できる？スコア・誤判定・人による再確認
AI画像検出の高スコアは、生成元を確定する証拠ではありません。画素の分類結果と出所の記録を分け、圧縮・切り抜き・部分編集を含む画像をどう再確認するか解説します。
·
AI生成画像の検出（ai generated image detection）は、詳しく調べるべき画像を見つける手掛かりになります。ただし、高いスコアが出たことと、制作経緯が確認できたことは別です。ラベルの付与や配信制限、アカウントへの処分を検討するなら、検出器が何を分析したのか、その結果以外にどのような証拠があるのかを確かめる必要があります。
今回の資料から説明できるのは、ある提供元の検出方式と出力の意味です。独立した精度評価や、どの現場でも使える処分基準までは示されていません。
スコアは分類結果であり、制作履歴ではない
Sightengineの文書によると、同社のモデルはメタデータを使わず、画像の画素を分析します。ai_generatedは、生成AIによって制作または編集された画像であるというモデルの確信度を、0から1で表すものと説明されています。
つまり、対象には全面的に生成された画像だけでなく、写真の一部に生成AIを使った編集も含まれます。スコアだけでは、編集箇所、作業者、制作時刻、公開時の文脈は分かりません。生成器別のスコアも案内されていますが、それも分類の出力であり、生成時に残された記録ではありません。
0.9をそのまま「この画像がAI生成である確率は、検証済みの90％」と読むことも避けましょう。その解釈には、利用対象に近いデータでスコアの校正が検証されているかを確認する必要があります。今回の資料には、その検証結果はありません。
| 手掛かり | 判断に役立つこと | 単独では証明できないこと |
|---|---|---|
| 画素分類器のスコア | モデルがAI関連と判断する特徴があるか | 制作者、制作工程の全体、写っている出来事の真偽 |
| 照合可能な元ファイル・公開記録・編集履歴 | ファイルの出所や各版の関係 | 個々の記録が真正かつ完全であること |
| 質感・文字・構造などの見た目の不自然さ | 追加確認すべき箇所 | 不自然さの原因が必ずAIであること、違和感がなければ実写であること |
出所の記録自体にも確認が必要です。ファイルにツール名が書かれているだけでは制作履歴を確定できません。一方、記録が見つからないことも、AI生成の証明にはなりません。
誤検出率と「検出された画像のうち誤りの割合」は違う
次は製品の実測ではなく、説明のための仮定です。1000枚のうち100枚がAI生成画像だったとします。検出器がそのうち90枚を検出し、AI生成ではない900枚からも45枚を誤って検出した場合を考えます。
検出された画像は計135枚で、そのうち45枚、つまり3分の1が誤検出です。一方、AI生成ではない画像に対する誤検出率は45÷900で5％です。この二つは同じ割合ではありません。
検出結果の信頼性を考えるには、検出器の性能だけでなく、確認対象の中にAI生成画像がどれほど含まれるかも重要になります。低スコアも実写の証明ではありません。「生成を検出しなかった」と「カメラで撮影されたと確認した」は異なる判断です。
加工された画像では、何を検査したのかを明確にする
Sightengineの文書は、圧縮、リサイズ、再エンコードなどを想定している一方、著しい劣化や画面のUIを多く含むスクリーンショットでは確信度が下がる場合があると説明しています。これは同社モデルについての説明であり、すべての検出器に共通する性能保証ではありません。
| 状況 | 残る疑問 | 追加確認の例 |
|---|---|---|
| 繰り返しの圧縮・スクリーンショット・転載 | 検査した派生ファイルに元画像の特徴がどこまで残るか | 最も早い段階のファイルを求め、版ごとに結果を保存する |
| 切り抜き | 入力範囲が変わり、画面外の内容は評価できない | 全体画像を残し、検査した範囲を記録する |
| 写真への部分的な生成AI編集 | 全体スコアだけでは編集箇所や程度が分からない | 編集前後のファイルと作業記録を照合し、全体を架空と断定しない |
| 新しい生成器・モデル版 | 対応一覧だけでは新しい出力への検出性能が分からない | 検出器の版と対応説明を確認し、根拠がなければ未確定とする |
検出しやすくする目的で受領ファイルを上書きしないでください。切り抜きや再圧縮を試すなら複製を使い、処理内容を記録します。異なる版のスコアは、同じ入力を繰り返し測った結果ではありません。
再確認では、結論までの根拠を残す
以下は再確認のための提案であり、実測で有効性を確認した検出手法ではありません。
受領したファイル、出所URL、取得時刻、添えられていた説明を保存します。元ファイルが得られた場合は、スクリーンショットや転載版と分けて保管します。検出サービス名、分析時刻、確認できるモデル版、応答データ、実際に送信したファイルも記録します。ファイルのハッシュ値は、後から同一ファイルかを照合する助けになりますが、写っている内容の真実性を証明するものではありません。
次に公開者と文脈を調べます。確認できる最も早い公開記録は何か。撮影時の元ファイル、前後の写真、編集履歴を提示できるか。その資料は本当に対象画像と対応しているか。見た目の違和感は追加質問のきっかけとして使い、出所確認の代わりにしないことが大切です。
証拠が食い違う場合は、例えば次のように記録できます。
> 検出器は高いAI関連スコアを返したが、現在入手できているのは転載されたスクリーンショットのみ。元ファイルと照合可能な制作記録がなく、全面生成か部分編集かは確認できていない。追加資料を得て再確認する。
「AIと判定されたので不正」とするより、証拠の範囲を正確に表しています。処分や公の告発を行う際は、検出スコアだけに依存せず、追加資料の提出と再確認の機会を残すべきです。必要なのは小数を断定に変えることではなく、証拠がどこまで結論を支えるかを明確にすることです。