[사건의내막 / 문홍철 기자] = 정부가 텔레그램 등 메신저를 이용한 허위합성물 ‘딥페이크’ 피해 우려가 확산됨에 따라 피해 현황 조사와 긴급 전담조직(TF)을 운영하는 등 신속 대응에 나섰다.
교육부는 28일 딥페이크 피해에 대해 학생·교원들의 불안감 해소와 보호를 위해 ‘학교 딥페이크 대응 긴급 전담조직’을 구성해 사안 종료시까지 운영한다고 밝혔다.
아울러 딥페이크 성범죄로 인한 피해로부터 학생들을 보호하기 위해 허위합성물의 편집·합성·가공 행위는 호기심 차원의 놀이가 아니라 법적 처벌의 대상이 된다는 점과 피해자 대처요령 등을 담은 안내문을 학교 현장에 긴급하게 배포했다.
또한 여성가족부와 과학기술정보통신부도 이미지 합성 기술 성범죄가 심각해지고 있는 상황 속에서 피해 예방 및 피해자 지원방안에 대해 긴급 점검하고자 디지털성범죄피해자지원센터를 방문해 운영 현황을 점검했다.
딥페이크는 기존 사진영상을 다른 사진영상에 겹쳐서 만들어 내는 인공지능 기반의 이미지합성기술로, ‘딥러닝(Deep Learning)’과 가짜를 의미하는 ‘페이크(Fake)’의 합성어다.
▲ 디지털성범죄 삭제지원 시스템 고도화 방안(자료=과학기술정보통신부) ©
|
◆ 학교 딥페이크 대응 긴급 TF
17개 시도교육청의 학생·교원 피해 현황을 살펴보면 지난 1월부터 8월 27일 현재까지 총 196건(학생 186건, 교원 10건)의 피해신고가 접수되었고, 이 중 179건은 수사당국에 수사를 의뢰했다.
이에 교육부는 이번 사안의 심각성을 깊이 인식하고, 실효성 있는 대응책을 마련하여 학교 현장이 안정될 수 있도록 적극 지원해 나갈 방침이다.
먼저 교육부 차관을 단장으로 하는 (가칭) 학교 딥페이크 대응 긴급 전담조직을 구성하고, 분야별 6개팀(7개과)으로 이뤄진 상황반을 운영한다.
전담조직은 학교 딥페이크 관련 사안을 매주 1회 조사하고 학생·교원 피해 사안처리, 학생·교원 심리지원, 학교 예방교육·인식개선, 디지털 윤리 및 책임성 강화 등 분야별로 대응해 나갈 방침이다.
특히 사안이 발생할 경우 대처할 수 있는 교육부-시도교육청-학교 신고체계를 명확히 홍보하고, 교육분야 성희롱·성폭력 신고센터 및 신고 전화번호 등을 지속해서 학교 현장에 알려 피해자가 언제 어디서나 신고할 수 있도록 해 나간다.
교육부에서 운영하는 교육분야 성희롱·성폭력 신고센터도 딥페이크 등 신종 학교폭력 유형에 적극 대응할 수 있도록 개편한다.
향후 교육부는 관계부처 협의, 시도교육청 부교육감 회의, 전문가 자문단 운영 등을 통해 실천방안을 도출하고, 사회관계장관회의를 거쳐 후속조치를 수립·발표할 예정이다.
이와 함께 디지털 기술의 올바른 활용을 위해 공익캠페인, 예방콘텐츠를 제작해 홍보활동을 전개해 나갈 계획이다.
한편 오석환 교육부 차관은 “사실로 확정된 사건에 대해서는 엄중하고 단호하게 대처하고, 직접 피해자뿐만 아니라 간접 피해자의 치유와 회복도 함께 돕겠다”고 강조했다.
◆ 디지털성범죄피해자지원센터 운영
여가부 산하기관인 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터는 디지털 성범죄 피해상담과 피해촬영물에 대한 삭제를 지원하고, 수사 및 무료법률지원 연계 등 종합적인 서비스를 제공하고 있다.
특히 2018년 4월 개소 이후 현재까지 총 3만 2000여 명의 피해자를 대상으로 피해촬영물 상담 및 삭제, 수사·법률·의료 연계 지원 등 총 100만 4000건의 서비스를 제공했다.
이에 여가부와 과기정통부는 최근 생성형 인공지능 기술을 활용해 손쉽게 허위 음란영상물을 제작할 수 있게 되면서 일반인 대상으로 디지털 성범죄 피해가 빠르게 확산됨에 따라, 신속한 대응방안 모색을 위해 디지털성범죄피해자지원센터를 방문했다.
이번 현장방문은 지난 28일 제37회 국무회의에서 윤석열 대통령이 최근 이미지 합성 기술 영상물이 SNS를 타고 빠르게 유포되고 있으며 이러한 디지털 성범죄에 강력히 대응할 것을 이행한 것이다.
아울러 이러한 지시사항과 현장의 목소리를 청취하기 위한 것으로, 신영숙 여가부 차관과 강도현 과기정통부 제2차관은 디지털성범죄피해자지원센터의 삭제지원시스템 운영 현황 등을 청취했다.
이와 함께 디지털성범죄 이미지 합성 기술을 탐지하고, 사진 한 장으로도 허위영상물을 추적할 수 있도록 시스템을 고도화하는 방안 등에 대해 양 부처가 협력할 수 있는 방안을 논의했다.
한편 이미지 합성 기술 성범죄 예방 및 대응은 지난 5월에 국무회의에서 보고된 범부처 ‘새로운 디지털 질서 정립 추진계획’에 포함된 핵심 정책 과제 중 하나로 부처 간 협업을 이어왔다.
신영숙 여가부 차관은 “디지털 기술을 악용하여 갈수록 정교해지는 디지털 성범죄로부터 피해자를 보호하기 위한 국가적 노력이 요구되고 있다”면서 “이미지 합성 기술(딥페이크) 성착취물을 빠르게 탐지할 수 있는 삭제시스템 고도화 등 현장에서 개선이 필요한 사항을 중심으로 과기정통부와 협력방안을 논의하여 건전한 디지털 환경을 함께 조성해 나가겠다”고 밝혔다.
강도현 과기정통부 차관은 “디지털 성범죄는 피해자의 삶을 송두리째 파괴하고 사회질서를 위협하는 용서할 수 없는 범죄”라면서 “과기정통부는 모두를 위한 안전한 디지털 사회를 구현해야 하는 임무가 있는 만큼, 여가부와 협력하여 딥페이크 성범죄를 예방하고 피해자를 빠르게 지원할 수 있는 기술개발, 새로운 사업 기획 등을 적극 지원하겠다”고 강조했다.
신보라 한국여성인권진흥원 원장은 “끊임없이 재유포되는 피해영상물의 신속하고 완전한 삭제를 위해 삭제 실무자 1인당 피해자 100명 이상을 지원하며 혼신의 노력을 기울이고 있다”며 “삭제지원시스템에 고도화된 기술이 도입된다면 피해자 지원을 확대할 수 있을 뿐만 아니라 실무인력 부족을 보완할 수 있는 하나의 방안이 될 수 있을 것”이라고 덧붙였다.
한편 여가부와 과기정통부는 지난 7월부터 합동으로 이미지 합성 기술 기반 디지털 성범죄 피해 예방 및 보호방안 마련을 위해 정책연구를 추진하는 등 지속적으로 협업해오고 있다.
올해까지 정책연구 결과를 기반으로 올해까지 이미지 합성 기술 발전에 따른 디지털 성범죄 관련 법제 정비 방향과 이미지 합성 기술 성적합성물 탐지시스템 구축방안 등도 도출할 예정이다.
penfree1@hanmail.net
*아래는 위 기사를'구글 번역'으로 번역한 영문 기사의[전문]입니다. '구글번역'은 이해도 높이기를 위해 노력하고 있습니다. 영문 번역에 오류가 있을 수 있음을 전제로 합니다.<*The following is [the full text] of the English article translated by 'Google Translate'. 'Google Translate' is working hard to improve understanding. It is assumed that there may be errors in the English translation.>
Government establishes ‘Emergency task force for school deepfakes’… 179 cases investigated
196 reports received from January to August 27 this year… TF operation until case closed
Digital Sexual Crime Victim Support Center provides comprehensive services such as deletion and investigation of victimized footage
[Inside Story / Reporter Moon Hong-chul] = As concerns about damage from false composite ‘deepfakes’ using messengers such as Telegram spread, the government has taken swift action by investigating the damage status and operating an emergency task force (TF).
On the 28th, the Ministry of Education announced that it will establish an ‘Emergency task force for school deepfakes’ to relieve anxiety and protect students and teachers about deepfakes and operate it until the case is closed.
In addition, in order to protect students from damage caused by deepfake sexual crimes, it urgently distributed a notice to schools that editing, compositing, and processing false composites are not just a curiosity game but are subject to legal punishment, and that it includes tips for dealing with victims.
In addition, the Ministry of Gender Equality and Family and the Ministry of Science and ICT also visited the Digital Sexual Crime Victim Support Center to urgently inspect the prevention of damage and victim support measures in the midst of the seriousness of image synthesis technology-based sexual crimes, and inspected the operational status.
Deepfake is an AI-based image synthesis technology that creates images by overlapping existing images with other images, and is a compound word of ‘deep learning’ and ‘fake’ meaning fake.
◆ Emergency task force for school deepfake response
Looking at the status of student and teacher damage in 17 provincial offices of education, a total of 196 cases (186 students, 10 teachers) were reported from January to August 27, and 179 of these cases were requested to be investigated by the investigative authorities.
Accordingly, the Ministry of Education deeply recognizes the seriousness of this incident and plans to actively support the stabilization of schools by preparing effective countermeasures.
First, we will establish a (tentatively named) emergency task force for school deepfakes, headed by the Vice Minister of Education, and operate a situation team consisting of six teams (seven departments) by field.
The task force will investigate school deepfakes-related cases once a week and respond by field, such as handling student and teacher damage cases, psychological support for students and teachers, school preventive education and awareness improvement, and strengthening digital ethics and accountability.
In particular, we will clearly publicize the Ministry of Education-Provincial Offices of Education-School reporting system that can respond when cases occur, and continuously inform schools of the education field sexual harassment and sexual violence reporting center and reporting phone numbers so that victims can report anytime, anywhere.
The education field sexual harassment and sexual violence reporting center operated by the Ministry of Education will also be reorganized to actively respond to new types of school violence, such as deepfakes.
In the future, the Ministry of Education will derive action plans through consultations with relevant ministries, meetings of deputy superintendents of education at provincial offices of education, and operation of an expert advisory group, and establish and announce follow-up measures through a meeting of social relations ministers.
In addition, it plans to produce public interest campaigns and preventive content to promote the proper use of digital technology.
Meanwhile, Vice Minister of Education Oh Seok-hwan emphasized, “We will deal with confirmed cases strictly and resolutely, and help heal and recover not only direct victims but also indirect victims.”
◆ Operation of the Digital Sexual Crime Victim Support Center
The Digital Sexual Crime Victim Support Center, established at the Korea Women’s Human Rights Promotion Agency, an affiliate of the Ministry of Gender Equality and Family, provides comprehensive services such as counseling for victims of digital sexual crimes, support for deleting videos of victims, and linkage with investigations and free legal support.
In particular, since its opening in April 2018, it has provided a total of 1,004,000 services, including counseling and deletion of victimized footage, and support for investigation, legal, and medical support, to approximately 32,000 victims.
Accordingly, the Ministry of Gender Equality and Family and the Ministry of Science and ICT recently visited the Digital Sexual Crime Victim Support Center to seek rapid response measures as digital sexual crimes against the general public are rapidly spreading due to the easy production of false pornographic videos using generative artificial intelligence technology.
This on-site visit was made in accordance with President Yoon Seok-yeol’s announcement at the 37th State Council meeting on the 28th that video clips using image synthesis technology are being rapidly distributed through social media and that there will be a strong response to such digital sexual crimes.
In addition, to listen to these instructions and voices from the field, Vice Minister of Gender Equality and Family Shin Young-sook and Second Vice Minister of Science and ICT Kang Do-hyun listened to the status of the operation of the deletion support system of the Digital Sexual Crime Victim Support Center.
In addition, the two ministries discussed ways to cooperate on measures such as detecting digital sex crime image synthesis technology and improving the system to track fake videos with just one photo.
Meanwhile, prevention and response to image synthesis technology sex crimes have been one of the key policy tasks included in the inter-ministerial ‘New Digital Order Establishment Promotion Plan’ reported at the State Council meeting last May, and cooperation between ministries has continued.
Vice Minister of Gender Equality and Family Shin Young-sook said, “National efforts are required to protect victims from increasingly sophisticated digital sex crimes using digital technology,” and “We will discuss cooperation measures with the Ministry of Science and ICT, focusing on areas that require improvement in the field, such as improving the deletion system to quickly detect image synthesis technology (deepfake) sexual exploitation materials, and work together to create a sound digital environment.”
Vice Minister of Science and ICT Kang Do-hyun emphasized, “Digital sex crimes are unforgivable crimes that completely destroy the lives of victims and threaten social order,” and “Since the Ministry of Science and ICT has the mission of creating a safe digital society for all, we will actively support the development of technologies and new business plans to prevent deepfake sex crimes and quickly support victims in cooperation with the Ministry of Gender Equality and Family.”
Director Shin Bo-ra of the Korea Women’s Human Rights Advancement Institute added, “We are making every effort to support more than 100 victims per deletion worker in order to quickly and completely delete the constantly redistributed harmful videos,” and “If advanced technologies are introduced to the deletion support system, it will not only expand victim support but also serve as a way to supplement the shortage of personnel.”
Meanwhile, the Ministry of Gender Equality and Family and the Ministry of Science and ICT have been continuously collaborating since July by jointly conducting policy research to establish prevention and protection measures for digital sex crimes based on image synthesis technology.
Based on the policy research results by this year, we plan to derive the direction of the digital sex crimes related legislation according to the development of image synthesis technology and the establishment of a system to detect sexual composite images using image synthesis technology.
penfree1@hanmail.net