딥페이크 확인 방법과 신고 절차 — 「판별 사이트」에 올리지 마세요

들어가며

지난 9월 2일 금융위원회와 금융감독원이 「안전한 금융생활」 공익광고를 내놨습니다. 연말까지 이어가는 캠페인인데, 배경으로 든 수법 중 하나가 AI로 금융 전문가를 사칭하고 가짜 뉴스를 퍼뜨리는 방식이었습니다.

이런 소식이 나오면 검색창에 두 가지가 올라옵니다. 「딥페이크 확인 사이트」, 그리고 「딥페이크 신고하는법」.

앞쪽은 드릴 답이 마땅치 않고, 뒤쪽은 답이 네 개입니다. 순서를 바꿔서 뒤쪽부터 갑니다.

1. 「딥페이크」는 하나인데 창구는 넷입니다

딥페이크 네 유형에 따라 접수 기관이 갈라진다는 구조도

부르는 말은 하나인데 침해된 것이 다릅니다. 국내 신고 체계는 정확히 그 기준으로 갈라져 있어요.

무엇이 있었나	침해된 것	어디로
내 얼굴로 만든 성적 합성물	인격·성적 자기결정권	디성센터(삭제) + 경찰(수사)
가족·지인 얼굴이나 목소리로 돈 요구	재산	112 · 1394
유명인 사칭 투자 광고	재산	금융감독원 1332
하지 않은 말을 한 것처럼 만든 영상	명예	플랫폼 삭제요청 + 방심위 1377

가장 흔한 실수가 아무 데나 먼저 넣고 기다리는 것입니다. 창구가 안 맞으면 되돌아오고, 그사이에 시간만 갑니다. 유형을 먼저 정하세요.

2. 「판별 사이트」에 올리지 마세요

판별 사이트에 업로드하면 파일이 있는 곳이 늘어난다는 전후 대비도

사진이나 영상을 올리면 AI가 진위를 알려준다는 곳이 검색에 나옵니다. 권하지 않습니다. 이유가 셋입니다.

① 파일이 있는 곳이 하나 늘어납니다. 지금은 유포한 사람이 갖고 있죠. 올리는 순간 어느 나라 회사인지도 모르는 서버에 한 벌이 더 생깁니다. 성적 합성물이라면 피해물을 내 손으로 한 번 더 내보낸 셈이 됩니다.

② 정확도를 확인할 방법이 없습니다. 탐지 기술이 높은 정확도를 냈다는 발표는 대체로 같은 방식으로 만든 데이터로 시험한 값입니다. 처음 보는 생성 도구에는 잘 안 맞고요.

③ 신고에 판별 결과가 필요하지 않습니다. 이게 결정적입니다. 어느 창구도 "이게 AI로 만든 것"이라는 증명을 요구하지 않습니다. 주소와 화면만 내면 확인은 기관이 합니다.

없는 도구를 찾아 헤매는 동안 삭제 요청이 늦어지는 게 더 큰 손해입니다.

3. 그럼 뭘 보나 — 화면이 아니라 경로

화면 속 흔적을 찾는 방식 대신 누가 올렸는지·공식 채널에 있는지·무엇을 요구하는지 세 가지를 보는 대비도

한때 이런 요령이 돌았습니다. 눈을 잘 안 깜빡인다, 얼굴 경계선이 번진다, 손가락 개수가 이상하다.

전부 그때 그 모델의 약점이었습니다. 지금 것에는 대개 해당하지 않고, 화질을 낮춰 다시 올리면 남았던 흔적까지 지워집니다. 눈으로 뜯어보는 방식은 이미 지고 있는 싸움이죠.

대신 세 가지를 봅니다.

1. 누가 처음 올렸나 — 계정을 만든 지 얼마나 됐고, 다른 글은 무엇을 올렸나
2. 그 사람·기관의 공식 채널에 같은 내용이 있나 — 유명인의 투자 권유라면 여기서 끝납니다
3. 무엇을 요구하나 — 송금, 앱 설치, 링크, 개인정보

3번이 가장 빠릅니다. 돈이나 앱을 요구하는 순간 진위를 가릴 필요가 없어지니까요.

가짜인지 알아내는 것과 속지 않는 것은 다른 일입니다. 그리고 뒤쪽이 훨씬 쉽습니다.

목소리만 오는 경우(딥보이스)는 판별이 더 어렵습니다. 가족끼리 미리 정해두는 확인 방법은 생활보안 #11에서 다뤘습니다.

4. AI 표시 의무 — 있으면 참고, 없으면 「알 수 없음」

AI 생성 표시가 있으면 AI 생성물로 볼 수 있으나 표시가 없다고 사람이 만든 것은 아니라는 판정 구조

2026년 1월 22일부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI 기본법)이 시행됐습니다. 생성형 AI 결과물에 그 사실을 표시하게 하고, 딥페이크처럼 부작용이 우려되는 것은 눈에 보이는 표시를 요구합니다.

반가운 변화인데, 쓰는 법을 정확히 아셔야 합니다.

표시가 보이면 → AI 생성물로 봐도 됩니다.
표시가 없으면 → 알 수 없습니다. 사람이 만들었다는 뜻이 아니라, 판단 재료가 없다는 뜻입니다.

없는 이유는 셋 중 하나입니다. 계도기간(시행 초기라 과태료 부과를 미뤄 뒀습니다), 해외 서비스, 그리고 지우고 다시 올린 경우 — 잘라내거나 다시 인코딩하면 사라지니까요.

선거 국면은 더 셉니다. 「공직선거법」 제82조의8에 따라 선거일 전 90일부터는 선거운동 목적의 딥페이크 제작·유포가 금지됩니다.

5. 신고 — 삭제와 처벌은 순서가 아니라 병행입니다

피해 확인 후 삭제 창구와 수사 창구로 동시에 접수해야 한다는 두 갈래 구조도

여기가 제일 자주 어긋납니다. 경찰 신고 결과를 기다리는 동안 영상은 계속 퍼지고, 삭제만 요청하면 만든 사람이 또 올립니다. 두 개를 같이 해야 합니다.

삭제 — 지금 퍼지는 것을 멈춘다

• 플랫폼에 직접 신고 — 가장 빠릅니다. 신고 메뉴에 대개 「사칭」·「성적 콘텐츠」 항목이 있습니다
• 디지털성범죄피해자지원센터 d4u.stop.or.kr · 02-735-8994 — 여성가족부·한국여성인권진흥원이 운영합니다. 합성물·비동의 유포·유포 협박을 모두 접수하고 삭제 지원·상담·법률 조력이 무료입니다. 해외 사이트 삭제 요청과 재유포 확인까지 포함됩니다
• 방송통신심의위원회 remedy.kocsc.or.kr · 1377 — 삭제·접속차단 심의를 신청합니다. 명예훼손·사생활 침해 영상은 「정보통신망법」 제44조의2의 삭제 요청 경로이기도 합니다

처벌 — 만든 사람을 찾는다

• 112 또는 경찰청 사이버범죄 신고시스템 ECRM ecrm.police.go.kr
• 성적 합성물은 「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2가 적용됩니다. 반포 목적의 편집·합성·가공(제1항)과 반포(제2항)는 7년 이하의 징역 또는 5천만원 이하의 벌금, 영리 목적으로 정보통신망을 이용한 경우(제3항)는 3년 이상의 유기징역입니다

⚠️ 보는 것도 처벌 대상입니다. 같은 조 제4항은 허위영상물임을 알면서 소지·구입·저장 또는 시청한 사람을 3년 이하의 징역 또는 3천만원 이하의 벌금으로 정합니다(2024.10.16 시행). 「이런 게 돌더라」며 지인에게 넘기는 것은 유포 쪽에 가깝습니다. 접수처에만 보내세요.

6. 오늘 할 것

삭제를 요청하기 전에 화면 캡처·주소·계정과 시각을 남기는 4단계와 원본 파일을 내려받지 말라는 경고

피해를 발견하셨다면 — 4분만 먼저 씁니다. 삭제되면 증거도 같이 사라지니까요.

1. 화면을 캡처합니다 — 주소창이 함께 보이게
2. 게시물 주소(URL)를 복사해 메모에 붙여 둡니다
3. 올린 계정명과 게시 시각을 적습니다
4. 그다음 §5의 두 창구에 동시에 접수합니다
5. 돈을 보냈다면 payinfo.or.kr에서 본인계좌 일괄지급정지도 신청합니다

⚠️ 원본 파일은 내려받지 마세요. 캡처와 주소까지가 선입니다. 파일 보관이 필요한지는 접수처에서 안내받으시면 됩니다.

아직 아무 일도 없다면 — 5분입니다. 얼굴이 크게 나온 사진의 공개 범위를 좁히고, 가족과 확인 방법 하나를 정해 두세요. 영상통화로도 안 되니까요.

그리고 d4u.stop.or.kr을 즐겨찾기에 넣어 두세요. 넣는 데 10초 걸리고, 급할 때 검색하면 사칭 사이트가 먼저 나옵니다.

자주 묻는 것

Q. 확실히 딥페이크인지 모르겠는데 신고해도 되나요?

됩니다. 판별해서 오라는 창구가 없습니다. 디성센터도 방심위도 접수 후에 자체적으로 확인합니다. 아닌 것으로 판단되면 그렇게 회신이 오고, 그게 불이익이 되지는 않습니다.

Q. 얼굴은 내 것인데 몸은 다른 사람입니다. 이것도 해당되나요?

제14조의2는 「사람의 얼굴·신체 또는 음성을 대상으로 한」 것을 편집·합성·가공한 경우를 말합니다. 얼굴만 쓰였어도 대상자는 나입니다.

Q. 미성년자가 피해자면 창구가 다릅니까?

접수처는 같지만 적용 법률이 달라집니다. 대상이 아동·청소년이면 「아동·청소년의 성보호에 관한 법률」이 함께 적용돼 처벌이 더 무겁습니다. 학교 안에서 벌어진 일이라면 경찰 신고와 학교 신고를 별개로 하셔야 합니다.

마무리

이 글에서 하나만 가져가신다면, 판별과 신고는 별개라는 것입니다.

확실해진 다음에 움직이고 싶은 마음은 이해가 갑니다. 그런데 그 확실함을 기다리는 동안 영상은 퍼지고, 정작 어느 창구도 그걸 요구하지 않습니다.

주소를 남기고, 두 곳에 넣으세요. 확인은 그쪽에서 합니다.

근거 자료

• 금융위원회·금융감독원 「안전한 금융생활」 공익광고(2026.9.2 게시, 연말까지) — AI를 이용한 금융 전문가 사칭·가짜 뉴스 유포를 배경으로 언급. 1차 보도자료를 직접 확인하지 못하고 언론 보도로 받은 내용이라 참고치로 보시는 게 맞습니다
• 「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2(허위영상물 등의 반포등) — 제4항(소지·구입·저장·시청)은 2024.10.16 시행
• 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(2026.1.22 시행) — 생성형 AI 결과물 표시 의무
• 「공직선거법」 제82조의8 · 「정보통신망법」 제44조의2 · 「아동·청소년의 성보호에 관한 법률」
• 여성가족부·한국여성인권진흥원 디지털성범죄피해자지원센터 d4u.stop.or.kr(02-735-8994)
• 방송통신심의위원회 디지털성범죄 신고 remedy.kocsc.or.kr(1377)
• 경찰청 사이버범죄 신고시스템(ECRM) ecrm.police.go.kr · 112
• 금융감독원 불법사금융피해신고센터 1332 · 불법금융신고센터 fss.or.kr
• 금융결제원 어카운트인포 payinfo.or.kr — 본인계좌 일괄지급정지

⚠️ 이 글은 일반적인 정보이며 법률 자문이 아닙니다. 개별 사안의 죄명·처벌 여부는 사실관계에 따라 달라집니다.

#보안로그 #생활보안 #딥페이크 #딥페이크신고 #허위영상물 #디지털성범죄 #성폭력처벌법 #AI기본법 #방송통신심의위원회 #디지털성범죄피해자지원센터 #ECRM #유명인사칭광고 #투자사기 #정보통신망법 #정보보안

함께 읽으면 좋은 글

• 딥페이크 손해배상 청구 방법, 형사재판 안에서도 되나 (+배상명령 신청 기한, 가해자가 학생이면 부모에게)