텔레그램을 통한 딥페이크(기존 사진이나 영상을 다른 사진이나 영상에 겹쳐서 실제처럼 만들어 내는 인공지능 기반 이미지합성기술) 성범죄 피해가 확산되고 있는 가운데 서울시와 방송통신심의위원회(방심위)가 신속 대응한다.

오세훈 서울시장과 류희림 방심위 위원장은 28일 시청 6층 시장실에서 핫라인 구축 등 내용을 담은 협약을 체결했다.

폐쇄형 SNS 안에 있는 딥페이크 불법영상물이 성인사이트나 SNS 등 공개 사이트에 유포될 경우 서울시와 방심위가 24시간 안에 해당 사이트나 SNS 운영자에게 요청해 삭제·차단한다.

그간 시 디지털성범죄안심지원센터가 방심위에 삭제 요청을 할 때마다 각종 증빙 자료를 제출해야 했지만 핫라인이 구축되면서 앞으로는 대량으로 일시에 삭제를 요청할 수 있게 됐다.

시는 급증하는 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 '딥페이크 SOS 전담 상담창구'를 개설하고 피해지원관(2명)을 배치해 신고 방법과 범죄 채증 방법 등을 안내한다.

시는 피해 상황을 24시간 확인하고 자동으로 삭제 신고를 하는 설비를 연말까지 구축하고 딥페이크 검출 기술을 개발해 피해 영상물 삭제 지원 건수를 늘릴 계획이다.

내년에는 인공지능(AI)을 기반으로 한 딥페이크 검출 기술 '서울 안심 아이(Seoul Safe Eye)'를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출할 계획이다.

딥페이크를 호기심이나 장난으로 여기는 아동청소년을 대상으로 한 교육이 강화된다.

다음달부터 초·중·고등학교 대상 눈높이 '딥페이크 예방교육'이 50개 학급 1000명을 대상으로 이뤄진다. 주요 교육 내용은 딥페이크 위험성, 디지털 윤리 등이다.

시는 청소년 눈높이에 맞춘 보드게임 형식 예방 교육을 신설하고 성인 대상 딥페이크 예방 영상물도 시 누리집에 게재할 예정이다.

오세훈 시장은 "오늘부터 이 시간부터 즉시 딥페이크 영상물을 신고 받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다"며 "핫라인 구축을 통해 피해 영상물을 즉각적으로 삭제하고 피해자를 원스톱으로 지원하는 것은 전국 최초"라고 밝혔다.

류희림 위원장은 "서울시도 다산 콜센터를 24시간 365일 운영하고 있지만 저희 방송통신심의위원회도 상담원이 24시간 365일 디지털 성범죄 신고 전화를 받고 있다"며 "이제 서울시와 연계해 디지털 성범죄 피해를 받은 피해자뿐만 아니라 일반 시민으로부터도 디지털 성범죄 피해 예방과 신고를 받을 수 있게 돼 저희들이 보다 효율적으로 디지털 성범죄 예방에 나서게 됐다"고 밝혔다.