"아이들을 보호하는 교육 현장에 있는 입장에서 인공지능(AI) 기술 발전의 속도가 다소 느리더라도 안전하게 발전해야 하지 않을까 싶습니다. 세 살 나쁜 버릇이 여든까지 가는 대표적인 게 "딥페이크"입니다."

이상룡 부산시교육청 장학관은 12일 서울 목동 방송회관에서 열린 "딥페이크 대응 전문가 토론회"에 참석하기 위해 서울에 왔다. 2시간 동안 진행된 토론회에서 그에게 주어진 시간은 단 3분이었다. 부산시의 딥페이크 성범죄 대책을 설명하던 그는 마지막 발언으로 위와 같은 말을 남겼다.

부산시의 경우 학생뿐만 아니라 교직원, 학부모를 대상으로 딥페이크 성범죄 예방을 위한 교육을 진행하고 있다. 이번 주를 예방교육 특별주간으로 삼아 경각심을 높이고 있다. 타지역에 비해 선제적으로 대응했다는 평가를 받은 부산교육청은 방송통신심의위원회와 지역 교육청 최초로 디지털 성범죄 대응 업무협약을 체결하기도 했다.

딥페이크는 인공지능(AI) 기술이 발전하면서 사회적 문제로 나타나는 대표적인 폐해이자 부작용이다. 최경진 가천대 교수는 "딥페이크 음란물은 이제 누구나 쉽고 빠르게, 비용을 들이지 않고 정교하게 만들 수 있게 됐다"며 "피해자의 인격을 훼손하고, 완전한 일상 회복을 불가능하게 만든다"고 심각성을 전했다.

문기현 서울디지털성범죄 안심지원센터장은 "피해자는 누군가가 자신의 영상을 봤을까봐 학교도 못 가고 집 밖에 나가지 못한다"고 했다. 이어 "디지털 성범죄는 누가 가해자·유포자인지 특정하기 어렵고, 영상물을 삭제한다 해도 언제 또 재유포될지 알 수 없다"고 덧붙였다.

문제는 피해자 10명 중 3명이 10대 청소년이라는 점이다. 연령대별 피해자를 분석해보니 10대가 36.3%로 가장 많았고, 가해자 역시 10대(31.4%)가 가장 많았다. 10대들이 AI 기술을 받아들이는 속도가 빠르고, 딥페이크 불법영상물 제작·유포를 호기심이나 장난으로 시작하는 경우가 많기 때문으로 분석된다.

딥페이크 성범죄는 예방 교육부터 가해자 처벌, 피해자 보호, 온라인 플랫폼의 사회적 책임, AI 생성물 식별 기술 개발 등 다양한 영역에 걸쳐있다. 이 때문에 관련 정부 부처들이 참여하는 범부처 태스크포스(TF)팀이 꾸려졌고 다음 달 안으로 종합대책이 나올 예정이다.

범정부 TF에 포함된 방송통신위원회는 방심위, 시청자미디어재단과 함께 이번 토론회를 공동 주최했다. 토론자로 참여한 김우석 방통위 디지털유해정보대응과장은 "온라인상의 불법 영상물뿐만 아니라 신상정보까지 삭제·차단하는 방안을 담도록 법을 보완할 것"이라고 말했다.

또한 주요 인터넷 사업자들이 불법촬영물 등을 삭제·차단한 내역이 담긴 "투명성보고서"를 정기적으로 제출하는데, 방통위는 이 보고서의 내용을 강화하고 허위 작성 시 처벌할 수 있도록 하겠다는 방침이다.

방통위는 AI 생성물 워터마크 제도 도입을 추진 중이다. 이용자가 AI 생성물을 사이트나 사회관계망서비스(SNS)에 업로드할 때 이를 식별하는 표식을 넣도록 온라인 플랫폼 기업들이 관련 기술을 개발하는 방식이다. AI 기술 개발 사업자 역시 AI 생성물이라는 사실을 식별할 수 있도록 하는 방법을 마련하고, 이를 위반할 시 처벌하는 규정을 검토 중이다. 토론회에선 "워터마크 표식을 우회하거나 파손하는 행위도 금지할 필요가 있다"는 의견이 나오기도 했다.

김 과장은 "이러한 규제가 엔터테인먼트 분야 등에서 창작 의욕을 약화시킬 수 있다는 주장도 있다"면서도 "대통령령으로 AI 생성물 사용 목적을 구분하는 방법이 활용할 수 있다"고 설명했다.

전문가들은 AI 기술이 일상에 깊숙이 자리한 만큼 "핀포인트 규제"로 대응해야 하고, 표현의 자유를 침해할 정도로 강경 일변도식의 규율은 부적절하다는 데 의견을 같이했다.

최 교수는 "문제의 심각성과 폐해 수준을 정확하게 파악하고, 그에 맞게 콕 집어내는 규제 체계가 필요하다"고 말했다. 또한 "온라인 플랫폼 사업자들이 자율규제에 적극적으로 나설 수 있는 환경과 분위기도 만들어야 한다"고 했다.

한편 토론회에선 딥페이크 기술의 악용 가능성과 윤리적 책임감, 적절한 SNS 사용법 등 "미디어 리터러시" 교육의 필요성이 제기되기도 했다. 아동·청소년 성착취물처럼 딥페이크 성범죄물도 소지하거나 시청하는 자를 처벌해야 한다는 일각의 주장이 언급됐지만, 집행 가능성과 실효성에 의문을 제기하는 의견도 나왔다.