저는 유튜브를 보다가 우연히 연예인 얼굴이 합성된 불법 영상을 마주친 적이 있습니다. 처음엔 어이없고 화가 났지만, 그보다 더 무서웠던 건 그게 진짜인지 가짜인지 제 눈으로는 도저히 구분이 안 된다는 사실이었습니다. 그 경험 이후 딥페이크 성범죄 문제를 남의 일처럼 볼 수 없게 됐습니다. 마침 행정안전부·성평등가족부·방송미디어통신위원회 세 기관이 AI 탐지 기술을 공유하고 피해영상물 대응 전 과정을 연계하는 업무협약을 체결했다는 소식, 지금 바로 풀어보겠습니다.
AI 탐지모델이 먼저 걸러낸다 — 정부 협약의 핵심 구조
솔직히 이건 예상 밖이었습니다. 정부가 딥페이크 문제를 "단속 강화" 수준으로만 접근할 줄 알았는데, 이번엔 기술 자체를 공유하는 방식을 택했습니다. 2025년 6월 25일, 세 기관은 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 공식 체결했습니다(출처: 대한민국 정책브리핑). 협약의 핵심은 행정안전부가 국립과학수사연구원과 공동 개발한 AI 딥페이크 탐지·분석모델을 관계기관 전체에 공유한다는 것입니다.
여기서 딥페이크 탐지·분석모델이란, AI가 생성한 합성 영상물의 픽셀 패턴·얼굴 경계·광원 왜곡 등 육안으로는 식별하기 어려운 흔적을 자동으로 검출해 내는 알고리즘을 의미합니다. 제가 직접 봤을 때 전혀 구분이 안 됐던 그 영상을, AI는 수치 기반으로 잡아낼 수 있다는 뜻입니다. 제 눈이 속아도 모델은 속지 않는 셈이죠.
성평등가족부는 기존에 활용하던 민간 딥페이크 탐지모델과 이번 정부 모델을 병행해 의심 콘텐츠를 이중으로 분석하고 삭제를 지원합니다. 방송미디어통신위원회는 온라인 플랫폼 사업자와의 삭제·차단 협력체계를 강화하고, 재유포되거나 변형된 콘텐츠에도 신속 대응할 수 있도록 기관 간 정보 공유를 넓힙니다. 제가 직접 겪어보니 딥페이크 영상이 한번 플랫폼에 올라오면 순식간에 퍼지더라고요. 그래서 이 삭제·차단 연계 구조가 단순한 탐지보다 훨씬 중요하게 느껴졌습니다.
특히 이번 협약에서 강조하는 개념이 2차 피해 방지입니다. 2차 피해란 피해영상물이 삭제된 뒤에도 스크린샷·변형 파일 형태로 재유포되거나, 처리 과정에서 개인정보가 노출되는 등 피해자가 추가적인 고통을 겪는 현상을 말합니다. 쉽게 말해 한 번 퍼진 영상은 완전히 지우기가 거의 불가능하기 때문에, 처음부터 확산 자체를 막는 것이 피해자 보호의 핵심입니다.
- AI 딥페이크 탐지·분석모델: 행정안전부 + 국립과학수사연구원 공동 개발, 관계기관 전체 공유
- 민간 탐지모델과 정부 모델 병행 활용으로 의심 콘텐츠 이중 정밀 분석
- 플랫폼 사업자 협력 강화 — 재유포·변형 콘텐츠까지 신속 삭제·차단 대응
- 피해영상물 처리 시 불필요한 복제·공유·보관 제한, 보안관리 기준 명문화
기술이 빨라지면 제도도 같이 달려야 한다 — 피해자 보호의 현실
제가 그 영상을 처음 봤을 때 느낀 감정 중 하나가 "이걸 당한 사람은 어떡하지?"였습니다. 가짜 영상이라는 게 밝혀진다 해도, 이미 수십만 명이 봐버린 뒤라면 피해자 입장에서는 달라지는 게 거의 없습니다. 그때 느낀 건, 기술보다 제도가 너무 느리다는 답답함이었습니다. 그래서 이번 협약이 단순 발표로 끝나지 않길 바라는 마음이 더 강하게 듭니다.
생성형 AI(Generative AI)의 발전이 딥페이크 범죄의 정교화를 직접 이끌고 있습니다. 생성형 AI란 텍스트·이미지·영상 등 새로운 콘텐츠를 스스로 만들어내는 인공지능 기술로, 학습 데이터가 쌓일수록 결과물이 실제와 구분하기 어려울 만큼 정밀해집니다. 예전에는 얼굴 경계가 흐릿하거나 표정이 어색해서 금방 티가 났는데, 요즘은 제 경험상 이건 좀 다릅니다. 실제로 저도 처음 봤을 때 '혹시 진짜 영상 아닌가?' 하고 순간 착각했을 정도였으니까요.
이번 협약에서 세 기관이 합의한 포렌식(Forensic) 기반 분석 절차도 눈여겨볼 부분입니다. 포렌식이란 디지털 증거를 과학적 방법으로 수집·분석해 범죄 사실을 규명하는 기술을 말합니다. 피해영상물이 접수되면 AI가 1차 탐지를 수행하고, 그 결과를 포렌식 분석과 연계해 삭제·차단 절차에 즉시 넘기는 구조입니다. 탐지와 대응 사이의 시간 간격을 최소화하는 것이 핵심이죠. 행정안전부 장관은 "탐지와 분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다"고 밝혔습니다(출처: 성평등가족부).
결국 피해자에게 그것이 딥페이크인지 아닌지는 크게 중요하지 않습니다. 한번 퍼지고 나면 회복하기 너무 어려운 상처가 된다는 사실이 변하지 않기 때문입니다. 그래서 저는 이번 AI 기반 대응체계가 탐지율 수치를 높이는 것만큼이나, 피해자가 신고했을 때 실제로 빠르게 움직이는 체감 속도를 높이는 데까지 닿기를 바랍니다.
AI 기술이 빨라지는 속도만큼, 그것을 악용하는 범죄도 함께 빨라집니다. 이번 세 기관의 협약은 그 속도를 따라잡으려는 첫 번째 본격적인 시도라고 생각합니다. 하지만 협약이 체결됐다는 사실보다, 실제 현장에서 피해자가 신고했을 때 얼마나 신속하게 작동하는지가 진짜 평가 기준이 될 것입니다. 제 경험처럼 일반인도 우연히 딥페이크 영상에 노출될 수 있는 환경에서, 탐지 기술과 제도는 언제나 범죄보다 반 발짝 앞서 있어야 합니다.
딥페이크 피해가 의심된다면 디지털성범죄피해자지원센터(02-735-8994)에 먼저 연락해 보시고, 관련 정책 변화는 대한민국 정책브리핑을 통해 꾸준히 확인하시길 권합니다.
참고: https://www.korea.kr/news/policyNewsView.do?newsId=148967112&pWise=sub&pWiseSub=R4