AI 생성 이미지 탐지는 믿을 만할까? 점수, 오탐, 사람의 재검토

AI 이미지 탐지 점수는 재검토의 단서이지 생성 출처의 확증은 아닙니다. 픽셀 분류와 출처 기록을 구분하고, 압축·자르기·부분 편집 이미지의 판단 한계와 재검토 방법을 설명합니다.

2026-11-10 · 2026-11-10

AI 생성 이미지 탐지(ai generated image detection)는 자세히 살펴볼 이미지를 찾는 데 도움이 될 수 있습니다. 하지만 높은 점수가 나왔다고 해서 제작 경위가 확인된 것은 아닙니다. 표시를 붙이거나 유통을 제한하거나 계정을 제재하려면, 탐지기가 무엇을 분석했는지와 점수 외에 어떤 증거가 있는지를 함께 확인해야 합니다.

제공된 자료로 설명할 수 있는 것은 한 공급업체의 탐지 방식과 출력의 의미입니다. 독립적으로 검증된 정확도나 모든 상황에 적용할 제재 임계값까지 알 수 있는 것은 아닙니다.

점수는 분류 결과이지 제작 이력이 아니다

Sightengine 문서에 따르면 해당 모델은 메타데이터를 사용하지 않고 이미지의 픽셀을 분석합니다. ai_generated는 이미지가 생성형 AI로 제작되거나 편집되었다는 모델의 신뢰도를 0에서 1 사이로 나타내는 점수입니다.

따라서 점수는 전체 생성 이미지뿐 아니라 실제 사진에 적용된 생성형 편집과도 관련될 수 있습니다. 점수만으로 편집 위치, 작업자, 제작 시점, 게시 맥락을 알 수는 없습니다. 공급업체는 생성기별 점수도 설명하지만, 이 역시 분류 출력이지 생성 당시 남겨진 원본 기록은 아닙니다.

0.9를 곧바로 “이 이미지가 AI 생성일 확률은 검증된 90%”라고 읽어서도 안 됩니다. 그렇게 해석하려면 실제 사용 대상과 비슷한 데이터에서 점수의 확률 보정이 검증되었는지 알아야 합니다. 제공된 자료에는 그 검증 결과가 없습니다.

출처 기록도 검증해야 합니다. 파일에 도구 이름이 적혀 있다는 사실만으로 제작 이력이 확정되지는 않습니다. 반대로 출처 기록이 없다는 이유만으로 AI 생성이라고 판단할 수도 없습니다.

오탐률과 ‘탐지된 결과 중 오답 비율’은 다르다

다음은 제품 실측이 아니라 설명을 위한 가정입니다. 이미지 1,000장 중 실제 AI 생성 이미지가 100장이라고 해보겠습니다. 탐지기가 그중 90장을 찾아내는 동시에, AI 생성이 아닌 900장 중 45장도 잘못 표시했다고 가정합니다.

표시된 이미지는 모두 135장이고, 그중 45장인 3분의 1이 오탐입니다. 반면 AI 생성이 아닌 이미지에 대한 오탐률은 45÷900, 즉 5%입니다. 두 비율은 서로 다른 질문에 답합니다.

이 예시는 탐지 성능뿐 아니라 검토 대상에 AI 이미지가 얼마나 포함되어 있는지도 중요하다는 점을 보여줍니다. 낮은 점수 역시 실제 사진 인증이 아닙니다. 생성을 탐지하지 못한 것과 카메라 촬영을 확인한 것은 다릅니다.

가공된 이미지는 무엇을 검사했는지부터 확인한다

Sightengine 문서는 압축, 크기 조절, 재인코딩 같은 유통 과정의 변형을 고려한다고 설명합니다. 동시에 심한 화질 저하나 인터페이스 요소가 많이 포함된 스크린샷에서는 신뢰도가 낮아질 수 있다고 밝힙니다. 이는 자사 모델에 관한 공급업체의 설명이며, 모든 탐지기의 성능 보장은 아닙니다.

탐지를 쉽게 하겠다며 받은 파일을 덮어쓰지 마세요. 자르거나 재압축해 비교하려면 복사본을 만들고 처리 내용을 기록해야 합니다. 서로 다른 버전의 점수는 같은 입력을 반복 측정한 결과가 아닙니다.

사람의 재검토는 판단 근거를 남기는 일이다

다음은 권장하는 검토 방법이며, 실측으로 효과를 검증한 탐지 절차는 아닙니다.

받은 파일, 출처 URL, 확보 시각, 함께 전달된 설명을 보존합니다. 원본을 구할 수 있다면 스크린샷이나 재게시본과 구분해 저장합니다. 탐지 서비스 이름, 분석 시각, 확인 가능한 모델 버전, 원시 응답, 실제 제출 파일도 기록합니다. 파일 해시는 나중에 같은 파일인지 확인하는 데 도움이 되지만, 이미지 내용이 사실이라는 증명은 아닙니다.

그다음 게시자와 맥락을 확인합니다. 찾을 수 있는 가장 이른 게시 기록은 무엇인가요? 촬영 원본, 앞뒤 사진, 편집 이력을 제공할 수 있나요? 해당 자료가 실제로 이 이미지에 대응하나요? 눈에 띄는 이상은 추가 질문의 단서로 쓰되, 출처 확인을 대신하게 해서는 안 됩니다.

증거가 충돌한다면 다음처럼 기록할 수 있습니다.

> 탐지기는 높은 AI 관련 점수를 반환했으나, 현재 확보한 자료는 재게시된 스크린샷뿐이다. 원본 파일과 대조 가능한 제작 기록이 없어 전체 생성인지 부분 편집인지 확인되지 않았다. 추가 자료 확보 후 재검토가 필요하다.

이는 “AI로 탐지됐으므로 조작”이라는 표현보다 증거의 범위를 정확하게 전달합니다. 제재나 공개적인 비난을 검토할 때는 탐지 점수만으로 결정하지 말고, 추가 자료 제출과 재검토 경로를 남겨야 합니다. 목표는 소수를 확신으로 바꾸는 것이 아니라 증거가 어디까지 판단을 뒷받침하는지 밝히는 것입니다.