불법 조장하는 AI앱 만연
전문가들이 사용하던 기술
AI발달로 일반인까지 확산
![[사진 출처 = 픽사베이]](https://wimg.mk.co.kr/news/cms/202409/01/news-p.v1.20240901.e822c06b7ea74af6a0f55dd139b537de_P1.png) “월 15달러면 옷 입은 사람의 이미지를 옷을 벗었을 때의 모습으로 변환하는 알고리즘인 ‘딥 누드’ 도구를 무제한 사용할 수 있습니다.”
불법 인공지능(AI) 딥페이크 이미지·영상 제작물이 넘치는 이유중 하나는 ‘AI 앱’이 만연한데 있다. 인터넷에서 옷벗기기 AI(Undress AI) 딥누드(DeepNude) 등을 검색하면 이런 사이트들이 수십개씩 검색된다. 특히 한 딥 누드 사이트 운영자는 “AI로 획기적인 기술 발전이 이뤄졌다”면서 “종전에는 한 번에 한명의 피사체만 처리할 수 있었는데, 이제는 한 사진에 있는 여러 인물의 옷을 벗기는 것이 가능해졌다”고 설명했다.
얼굴을 바꾸는 이른바 ‘얼굴 교환’ 앱은 더 많다. 얼굴 교환(Face swap)이나 AI 딥페이크(AI Deepfake)로 검색하면 수십개에 달하는 앱·웹 솔루션이 등장한다. 사전에 얼굴 변화를 시뮬레이션할 수 있는 앱인 ‘페이스앱’, 유명 인사 얼굴과 교체할수 있는 ‘리페이스’, 동영상에서 얼굴을 교체할 수 있는 ‘아바타리파이’, 사진만 업로드하면 AI가 유명 영화 장면에서 사용자 얼굴을 합성해주는 ‘자오’, 사진을 업로드하면 인물이 춤을 추는 웜보(Wombo), 전문적인 딥페이크 제작 도구 ‘딥페이크 웹’, 실시간으로 두 사람의 얼굴을 바꿔주는 ‘페이스 스왑 라이브’ 등이 있다.
이 가운데 딥페이크웹은 나탈리 포트만이나 스칼렛 요한슨, 엠마 왓슨 등 유명 배우들의 딥페이크 제작물을 버젓이 올려 놓고 어떻게 만드는지 가이드까지 한 상태다. 매달 19달러만 내면 5분짜리 가짜 비디오를 매달 5개씩 생성할 수 있다. 가상 인물이 노래를 부르게 하는 앱인 아바타리파이는 한달 무제한 사용하는데 월 9달러 밖에 안된다.
미국 정부는 법적 대응에 나선 상태다. 샌프란시스코 검찰청은 AI 옷벗기기 웹사이트 16곳을 고소했다. 샌프란시스코 검찰에 따르면, 이들 사이트의 페이지뷰는 올 상반에만 2억회에 달한다.
이처럼 딥 누드 앱들이 속출한 까닭은 기술이 급속도로 발전해서다. 작년 하반기만 하더라도 AI 딥페이크 제작은 전문가의 영역이었다. 하지만 올들어 AI 기술이 범용화되면서 일반인도 쉽게 접근할 수 있는 웹·앱 솔루션이 잇따라 등장했다.
이런 딥페이크 AI 기술은 크게 △ 생성적 적대 신경망(GAN) △ 얼굴 합성·교체 기술 △ 스타일 전이 기술 △ 립싱크 기술 등에 힘입어 등장했다. 이 가운데 오늘날 주류로 정착한 AI 이미지 기술은 GAN이다. 그림을 그리는 생성자 AI와 이 그림이 진짜인지 아닌지 판별하는 판별자 AI를 경쟁시켜, 더 완성도 높은 그림을 그리는 AI 제작 방식이다. 이에 더해 스타일을 바꾸는 스타일 전이 방법, 얼굴만 바꾸는 얼굴 합성 기술, 얼굴을 인식해 입술 움직임을 바꾸는 립싱크 기술등이 접목돼 있다. 이상덕기자
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]
|
