AI 이미지로 신고당했을 때 증명하는 법
AI 이미지 판별 도구 3가지 · 확인 순서 4단계 · 증명되는 것과 안 되는 것 · 만든 기록 보존
AI로 만든 이미지인지 어떻게 판별하고 증명하나요?
- 판별 방법: AI 이미지 판별은 처음 내려받은 원본 파일을 공식 확인 도구에 올려, 파일에 AI 생성 신호가 남아 있는지 보는 것으로 합니다. 흔히 ‘AI 사진’이라고 부르지만, 이 글에서는 실제 사진과 구분하려고 ‘AI 이미지’라고 씁니다.
- 결과 읽기: OpenAI 확인 도구에서 신호가 감지되면 OpenAI 도구로 만들었을 가능성이 높다는 뜻이고, 신호가 없다고 해서 사람이 찍은 사진이라는 뜻은 아닙니다.
- 증명의 한계: OpenAI 확인 도구는 사용자가 올린 사진을 고쳐 달라고 해서 새로 만든 파일도 같은 신호로 잡습니다. 그래서 도구 결과만으로는 실제 사진을 넣지 않고 만들었다는 것까지 보여 줄 수 없습니다.
- 함께 남길 것: 이미지를 만든 대화, 라이브러리(ChatGPT 이미지 보관함)에 저장된 파일, 계정 데이터 내보내기 파일을 지우지 않고 두면 무엇을 넣고 만들었는지를 따로 보여 줄 수 있습니다.
- 신고를 받았다면: 확인 결과와 만든 기록을 한 묶음으로 정리해 두고, 연락받은 뒤 할 일은 사건 기록에 실린 순서를 참고합니다.
AI 이미지 판별 도구 3가지: 어디에 올리고 무엇이 표시되나
| 도구 | 여는 곳 | 올릴 수 있는 파일 | 결과 화면에 나오는 것 | 다른 회사 AI로 만든 파일 |
|---|---|---|---|---|
| OpenAI 생성 콘텐츠 확인(OpenAI Verify) | OpenAI 사이트 ‘생성 콘텐츠 확인’ 페이지 | 이미지 PNG·JPG·WEBP · 오디오 · 한 번에 한 개 | C2PA(콘텐츠의 출처와 변경 이력을 파일에 남기는 공개 표준) 메타데이터(파일 안에 함께 저장되는 정보), SynthID 워터마크, 지원되는 신호 없음 가운데 하나 | 감지하도록 만들어지지 않았습니다 |
| 콘텐츠 자격 증명 확인(Content Credentials) | Content Authenticity Initiative의 확인 페이지 | JPEG·PNG·WebP·HEIC·AVIF·TIFF 같은 이미지와 영상·오디오·PDF | 파일에 담긴 콘텐츠 자격 증명과, 시간이 지나며 어떻게 바뀌었는지 | C2PA 기록이 남아 있으면 볼 수 있지만, 기록이 없는 파일은 표시할 정보가 없을 수 있습니다 |
| SynthID(구글) | Gemini 대화창에 파일을 올리고 묻기 | 이미지·영상·오디오 | 구글 AI로 만들거나 편집했을 때 남는 SynthID 워터마크를 찾았는지 | 구글 AI 말고 다른 회사 AI로 만든 파일을 잡는지는 확인하지 못했습니다 |
세 도구는 찾는 신호가 다릅니다. OpenAI 확인 도구는 OpenAI가 이미지에 넣는 두 신호를, 콘텐츠 자격 증명 확인 페이지는 공개 표준인 C2PA 기록을, Gemini는 구글의 SynthID 워터마크를 찾습니다.
어느 AI로 만든 파일인지 모른다면 세 곳에 차례로 올려 보고, 어느 곳에서 무엇이 나왔는지 모두 적어 둡니다. C2PA는 AI 회사만 쓰는 표준이 아니어서 카메라 제조사와 언론사도 사진의 출처와 이력을 남기는 데 씁니다.
AI로 만든 이미지인지 확인하는 4단계: 원본 파일부터 신호가 없을 때까지
처음 내려받은 그 파일을 찾습니다. SNS에 올렸다가 다시 받은 사본, 화면 캡처, 메신저로 주고받은 파일은 원본이 아닙니다. 확인 도구는 자르거나 PDF 같은 다른 형식으로 바꾸지 않은 이미지를 올리라고 안내합니다.
가장 믿을 만한 결과를 얻으려면 한 번에 파일 하나만 올립니다. OpenAI는 올린 파일을 법적으로 보관해야 하는 경우가 아니면 저장하지 않고, 모델 학습에도 쓰지 않는다고 밝힙니다.
화면에 나온 표시 이름을 바꾸지 말고 그대로 적습니다. 결과 화면을 캡처하고, 올린 파일 이름과 확인한 날짜를 함께 남겨 두면 나중에 같은 결과를 다시 보여 줄 수 있습니다.
여기서 결론을 내리지 않습니다. 다른 두 도구에 같은 파일을 올려 보고, 더 처음 파일이 있는지 다시 찾은 뒤, 아래 다섯 가지 경우에 해당하는지 하나씩 맞춰 봅니다. 사람 얼굴이 담긴 파일이라면 올리기 전에 그 도구의 파일 처리 안내를 먼저 읽습니다.
| 화면에 나온 것 | 뜻 | 다음에 할 일 |
|---|---|---|
| C2PA 메타데이터 | 파일 안 기록에 OpenAI 도구로 만들었다는 정보가 들어 있습니다. 이 기록에는 만든 도구나 서비스, 만든 시각 같은 정보가 담길 수 있습니다 | 같은 파일을 콘텐츠 자격 증명 확인 페이지에 올려 기록 내용을 열어 봅니다 |
| SynthID 워터마크 | 이미지 자체에 눈에 보이지 않는 신호가 들어 있습니다. 메타데이터가 지워진 파일에서도 남아 있을 수 있습니다 | 결과 화면과 원본 파일을 함께 보관합니다 |
| 지원되는 신호 없음 | 올린 파일에서 지원되는 신호를 찾지 못했다는 뜻입니다 | 아래 다섯 가지 경우를 하나씩 점검합니다 |
신호가 없어도 AI로 만들었을 수 있는 다섯 가지 경우
AI 이미지 확인 결과로 증명되는 것과 증명되지 않는 것
결과로 보여 줄 수 있는 것
- 파일에 OpenAI 도구와 관련된 출처 신호가 들어 있는지
- 신호가 감지됐다면 OpenAI 도구로 만들었을 가능성이 높다는 것(OpenAI는 감지된 신호는 믿을 수 있고 잘못 감지되는 경우는 드물다고 설명합니다)
- C2PA 기록이 남은 파일이라면 그 기록과, 기록에 적힌 변경 내역
결과로 보여 줄 수 없는 것
- 만든 사람이 누구인지, 어떤 목적으로 만들었는지
- 만들 때 실제 사진을 넣었는지 — 올린 사진을 고쳐 달라고 해서 새로 만든 파일도 OpenAI 도구로 만든 것으로 감지됩니다
- 만든 뒤 그 이미지가 어떻게 쓰이고 고쳐졌는지
- 이미지 내용이 정확한지, 알맞은 맥락에 쓰였는지, 법적으로 누구의 것인지
- 신호가 없는 파일이 다른 회사 AI로 만든 것인지, 사람이 찍은 사진인지
OpenAI 도움말과 OpenAI 생성 콘텐츠 확인 페이지의 설명을 옮겼습니다.
OpenAI는 이 도구의 결과로 콘텐츠가 정확한지나 알맞은 맥락에 쓰였는지는 판단하지 않는다고 밝힙니다.
특히 실제 사진을 넣었는지는 확인 도구로 알 수 없습니다. 이 질문에 답하는 것은 아래 ‘AI 이미지를 만든 기록 보존’의 기록입니다.
AI 이미지를 만든 기록 보존: 대화·라이브러리·데이터 내보내기
| 기록 | 무엇이 남나 | 지우면 | 남기는 방법 |
|---|---|---|---|
| ChatGPT 대화 | 입력한 프롬프트(AI에 입력한 문장)와 받은 결과 | 계정 화면에서 바로 사라지고, 30일 안에 OpenAI 시스템에서 영구 삭제가 예약됩니다. ChatGPT에서도 고객 지원을 통해서도 되살릴 수 없습니다 | 지우지 않습니다. 보관함으로 옮기는 것은 보존 기간을 바꾸지 않습니다 |
| 라이브러리 | 라이브러리를 쓸 수 있는 계정에서 대화에 올리거나 ChatGPT에서 만든 파일 | 대화를 지워도 라이브러리에 남은 파일은 지워지지 않습니다. 라이브러리에서 따로 지운 파일은 30일 안에 영구 삭제가 예약됩니다 | 이미지를 만든 날짜 전후의 라이브러리 화면을 캡처합니다 |
| 데이터 내보내기 | 대화 기록과 그 밖의 계정 데이터가 든 ZIP 파일 | 내보내기를 신청해도 그 전에 지운 대화는 파일에 들어가지 않습니다 | 설정의 데이터 관련 메뉴에서 내보내기를 신청합니다(화면 글자는 언어 설정에 따라 다를 수 있습니다). 메일이나 문자로 온 링크는 받은 뒤 24시간 안에 내려받고, 도착까지 최대 7일이 걸릴 수 있습니다 |
| 임시 채팅 | 저장하지 않으면 대화 목록에 나타나지 않고, 올린 파일도 라이브러리에 저장되지 않습니다 | — | 나중에 보여 줘야 할 수 있는 이미지는 일반 대화에서 만듭니다 |
| 다른 AI 도구 | 그 도구의 대화·파일 기록 | 도구마다 다릅니다 | 그 도구의 공식 도움말에서 보존 기간과 내보내기 방법을 찾아 같은 표를 채워 둡니다 |
확인 도구가 답하지 못하는 질문, 즉 무엇을 넣고 만들었느냐에는 이 기록들이 답합니다. 신고가 들어온 뒤에는 되살릴 수 없는 것이 있으므로, 사람 얼굴이 나오는 AI 이미지를 쓴다면 만들 때부터 남겨 두는 편이 안전합니다.
미리 해 둘 수 있는 일도 있습니다. OpenAI 도움말은 이미지를 만들 때 눈에 보이는 OpenAI 워터마크를 넣어 달라고 요청할 수 있다고 안내합니다. 이 표시는 파일 안에 들어가는 C2PA·SynthID 신호와는 별개이고, 보는 사람이 AI 이미지임을 알아보게 돕는 장치입니다.
신고를 받았을 때 증명 자료 정리 순서
신고 연락을 받았다면 먼저 위 표의 기록이 지워지지 않았는지 확인하고, 원본 파일의 확인 결과 화면과 만든 기록을 한 묶음으로 정리해 둡니다. 자료를 내 달라는 요청을 받았을 때 그 묶음을 그대로 내면 됩니다.
연락한 곳과 내 신분을 묻는 일, 신고된 이미지를 쓴 계정의 기록을 남기는 일, 법률 상담 창구는 사건 기록에 실제 통화 문답과 함께 정리했습니다.
신고하는 쪽이라면 사진 도용 신고 방법 보기
실제 사례: 텍스트로 만든 AI 이미지가 신고된 기록
AI 이미지를 쓰는 사람도, 사진을 올리는 사람도 — 미리 저장해 두세요
AI 이미지를 만들어 쓴다면
- 원본 파일 그대로 보관
- 요청 문장과 결과가 함께 보이는 대화 화면
- 생성 시각이 보이는 화면(라이브러리 등)
- OpenAI 확인 도구 결과 화면
내 사진이 쓰였다고 의심된다면
- 내 원본 사진 파일 보관(처음 찍은 그대로)
- 처음 올린 게시물 화면과 날짜
- 의심되는 게시물의 화면·주소·계정 이름·날짜
- 플랫폼에 신고한 기록
어느 쪽이든 제출할 때는 원본 파일 그대로
이 목록도 함께 저장해 두세요.
AI 이미지 판별·AI 이미지 확인, 자주 묻는 질문
AI 이미지 판별 사이트는 어디인가요?
세 곳입니다. OpenAI 생성 콘텐츠 확인 페이지, 콘텐츠 자격 증명(Content Credentials) 확인 페이지, 그리고 구글의 SynthID를 확인해 주는 Gemini입니다. 어느 회사의 AI로 만들었는지에 따라 신호가 잡히는 곳이 달라서, 모르면 세 곳에 모두 올려 봅니다. 도구별 차이는 AI 이미지 판별 도구 3가지 표에서 볼 수 있습니다.
AI 사진 판별에서 신호가 안 나오면 사람이 찍은 사진인가요?
아닙니다. 지원되는 신호 없음은 그 파일에서 신호를 찾지 못했다는 뜻일 뿐입니다. 신호를 넣기 전에 만들었거나, 저장 과정에서 메타데이터가 지워졌거나, 워터마크가 손상됐거나, 다른 회사 AI로 만든 파일이면 AI로 만들었어도 신호가 나오지 않을 수 있습니다. 점검 순서는 AI로 만든 이미지인지 확인하는 4단계에 있습니다.
SynthID란 무엇이고, 눈으로 보이나요?
보이지 않습니다. SynthID는 만들어진 이미지 자체에 신호를 심는 보이지 않는 워터마크 기술로, 구글 딥마인드가 소개하는 기술이며 OpenAI도 자사 도구로 만든 이미지에 넣습니다. OpenAI는 이 신호가 자르기·필터·손실 압축 같은 수정에도 남도록 설계됐다고 설명합니다. 신호별 비교는 AI 이미지 판별 도구 3가지 표에 있습니다.
C2PA란 무엇이고, 메타데이터 확인으로 무엇을 알 수 있나요?
파일의 출처와 이력을 기록하는 공개 표준입니다. 만든 도구나 서비스, 만든 시각 같은 정보가 담길 수 있고, 콘텐츠 자격 증명 확인 페이지에 올리면 그 기록과 변경 내역을 볼 수 있습니다. 다만 메타데이터라서 플랫폼·편집 도구·파일 변환을 거치며 지워질 수 있습니다. 도구마다 보이는 기록은 AI 이미지 판별 도구 3가지 표에 정리했습니다.
다른 AI로 만든 이미지도 OpenAI 확인 도구로 판별되나요?
되지 않습니다. 이 도구는 OpenAI 도구로 만들었거나 내보낸 콘텐츠의 신호를 찾도록 만들어졌고, 다른 회사 AI가 만든 콘텐츠는 지금 감지하지 않습니다. 구글 AI라면 Gemini에서 SynthID를, C2PA 기록이 남아 있다면 콘텐츠 자격 증명 확인 페이지를 씁니다.
확인 도구에 올린 사진은 저장되나요?
OpenAI 확인 도구는 저장하지 않는다고 밝힙니다. 법적으로 보관해야 하는 경우를 빼면 올린 파일을 저장하지 않고 모델 학습에도 쓰지 않는다고 안내합니다. 콘텐츠 자격 증명 확인 페이지와 Gemini의 처리 방식은 이 페이지에서 확인하지 못했습니다.
AI 이미지 확인 결과만 내면 증명이 끝나나요?
끝나지 않습니다. 확인 결과는 파일에 OpenAI 도구의 신호가 있는지까지만 보여 주고, 올린 사진을 고쳐 만든 파일도 같은 신호가 나옵니다. 어떤 재료를 넣었는지 보여 주는 것은 확인 결과가 아니라, 위 보존 표에 적은 대화와 라이브러리, 내보내기 파일입니다. 남기는 방법은 AI 이미지를 만든 기록 보존 표에 있습니다.
AI 이미지 구별법, 눈으로 보고 구별할 수 있나요?
공식 기준을 찾지 못했습니다. 이 페이지는 공식 기관이나 AI 회사가 낸 눈으로 구별하는 기준을 확인하지 못해 다루지 않고, 파일에 남은 신호로 AI 이미지를 구별하는 방법만 정리했습니다.
출처
공식 문서
기업 지침
기업이 공개한 지침과 정책