정부가 텔레그램 등 메신저를 이용한 허위합성물 ‘딥페이크’ 피해 우려가 확산됨에 따라 피해 현황 조사와 긴급 전담조직(TF)을 운영하는 등 신속 대응에 나섰다.

교육부는 28일 딥페이크 피해에 대해 학생·교원들의 불안감 해소와 보호를 위해 ‘학교 딥페이크 대응 긴급 전담조직’을 구성해 사안 종료시까지 운영한다고 밝혔다.

아울러 딥페이크 성범죄로 인한 피해로부터 학생들을 보호하기 위해 허위합성물의 편집·합성·가공 행위는 호기심 차원의 놀이가 아니라 법적 처벌의 대상이 된다는 점과 피해자 대처요령 등을 담은 안내문을 학교 현장에 긴급하게 배포했다.

또한 여성가족부와 과학기술정보통신부도 이미지 합성 기술 성범죄가 심각해지고 있는 상황 속에서 피해 예방 및 피해자 지원방안에 대해 긴급 점검하고자 디지털성범죄피해자지원센터를 방문해 운영 현황을 점검했다.

딥페이크는 기존 사진영상을 다른 사진영상에 겹쳐서 만들어 내는 인공지능 기반의 이미지합성기술로, ‘딥러닝(Deep Learning)’과 가짜를 의미하는 ‘페이크(Fake)’의 합성어다.

▲ 디지털성범죄 삭제지원 시스템 고도화 방안(자료=과학기술정보통신부)  ©

◆ 학교 딥페이크 대응 긴급 TF

17개 시도교육청의 학생·교원 피해 현황을 살펴보면 지난 1월부터 8월 27일 현재까지 총 196건(학생 186건, 교원 10건)의 피해신고가 접수되었고, 이 중 179건은 수사당국에 수사를 의뢰했다.

이에 교육부는 이번 사안의 심각성을 깊이 인식하고, 실효성 있는 대응책을 마련하여 학교 현장이 안정될 수 있도록 적극 지원해 나갈 방침이다.

먼저 교육부 차관을 단장으로 하는 (가칭) 학교 딥페이크 대응 긴급 전담조직을 구성하고, 분야별 6개팀(7개과)으로 이뤄진 상황반을 운영한다.

전담조직은 학교 딥페이크 관련 사안을 매주 1회 조사하고 학생·교원 피해 사안처리, 학생·교원 심리지원, 학교 예방교육·인식개선, 디지털 윤리 및 책임성 강화 등 분야별로 대응해 나갈 방침이다.

특히 사안이 발생할 경우 대처할 수 있는 교육부-시도교육청-학교 신고체계를 명확히 홍보하고, 교육분야 성희롱·성폭력 신고센터 및 신고 전화번호 등을 지속해서 학교 현장에 알려 피해자가 언제 어디서나 신고할 수 있도록 해 나간다.

교육부에서 운영하는 교육분야 성희롱·성폭력 신고센터도 딥페이크 등 신종 학교폭력 유형에 적극 대응할 수 있도록 개편한다.

향후 교육부는 관계부처 협의, 시도교육청 부교육감 회의, 전문가 자문단 운영 등을 통해 실천방안을 도출하고, 사회관계장관회의를 거쳐 후속조치를 수립·발표할 예정이다.

이와 함께 디지털 기술의 올바른 활용을 위해 공익캠페인, 예방콘텐츠를 제작해 홍보활동을 전개해 나갈 계획이다.

한편 오석환 교육부 차관은 “사실로 확정된 사건에 대해서는 엄중하고 단호하게 대처하고, 직접 피해자뿐만 아니라 간접 피해자의 치유와 회복도 함께 돕겠다”고 강조했다.

◆ 디지털성범죄피해자지원센터 운영

여가부 산하기관인 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터는 디지털 성범죄 피해상담과 피해촬영물에 대한 삭제를 지원하고, 수사 및 무료법률지원 연계 등 종합적인 서비스를 제공하고 있다.

특히 2018년 4월 개소 이후 현재까지 총 3만 2000여 명의 피해자를 대상으로 피해촬영물 상담 및 삭제, 수사·법률·의료 연계 지원 등 총 100만 4000건의 서비스를 제공했다.

이에 여가부와 과기정통부는 최근 생성형 인공지능 기술을 활용해 손쉽게 허위 음란영상물을 제작할 수 있게 되면서 일반인 대상으로 디지털 성범죄 피해가 빠르게 확산됨에 따라, 신속한 대응방안 모색을 위해 디지털성범죄피해자지원센터를 방문했다.

이번 현장방문은 지난 28일 제37회 국무회의에서 윤석열 대통령이 최근 이미지 합성 기술 영상물이 SNS를 타고 빠르게 유포되고 있으며 이러한 디지털 성범죄에 강력히 대응할 것을 이행한 것이다.

아울러 이러한 지시사항과 현장의 목소리를 청취하기 위한 것으로, 신영숙 여가부 차관과 강도현 과기정통부 제2차관은 디지털성범죄피해자지원센터의 삭제지원시스템 운영 현황 등을 청취했다.

이와 함께 디지털성범죄 이미지 합성 기술을 탐지하고, 사진 한 장으로도 허위영상물을 추적할 수 있도록 시스템을 고도화하는 방안 등에 대해 양 부처가 협력할 수 있는 방안을 논의했다.

한편 이미지 합성 기술 성범죄 예방 및 대응은 지난 5월에 국무회의에서 보고된 범부처 ‘새로운 디지털 질서 정립 추진계획’에 포함된 핵심 정책 과제 중 하나로 부처 간 협업을 이어왔다.

신영숙 여가부 차관은 “디지털 기술을 악용하여 갈수록 정교해지는 디지털 성범죄로부터 피해자를 보호하기 위한 국가적 노력이 요구되고 있다”면서 “이미지 합성 기술(딥페이크) 성착취물을 빠르게 탐지할 수 있는 삭제시스템 고도화 등 현장에서 개선이 필요한 사항을 중심으로 과기정통부와 협력방안을 논의하여 건전한 디지털 환경을 함께 조성해 나가겠다”고 밝혔다.

강도현 과기정통부 차관은 “디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄”라면서 “과기정통부는 모두를 위한 안전한 디지털 사회를 구현해야 하는 임무가 있는 만큼, 여가부와 협력하여 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술개발, 새로운 사업 기획 등을 적극 지원하겠다”고 강조했다.

신보라 한국여성인권진흥원 원장은 “끊임없이 재유포되는 피해영상물의 신속하고 완전한 삭제를 위해 삭제 실무자 1인당 피해자 100명 이상을 지원하며 혼신의 노력을 기울이고 있다”며 “삭제지원시스템에 고도화된 기술이 도입된다면 피해자 지원을 확대할 수 있을 뿐만 아니라 실무인력 부족을 보완할 수 있는 하나의 방안이 될 수 있을 것”이라고 덧붙였다.

한편 여가부와 과기정통부는 지난 7월부터 합동으로 이미지 합성 기술 기반 디지털 성범죄 피해 예방 및 보호방안 마련을 위해 정책연구를 추진하는 등 지속적으로 협업해오고 있다.

올해까지 정책연구 결과를 기반으로 올해까지 이미지 합성 기술  발전에 따른 디지털 성범죄 관련 법제 정비 방향과 이미지 합성 기술 성적합성물 탐지시스템 구축방안 등도 도출할 예정이다.