"30초면 마법 펼쳐진다, 돈 내면 고화질",,,,,,,,'딥페이크봇 수천개 활개'

여성의 사진을 넣으면 자동으로 나체와 합성해 누드 사진을 만들어주는 텔레그램

합성 사진과 동영상을 자동으로 만들어주는 생성형 인공지능(AI)이 딥페이크 음란물 범죄를 확산하는 주범이란 지적이 나오고 있는데, 특히 텔레그램에는 얼굴 사진만 올리면 약 30초만에 불법 합성 사진·영상을 자동으로 만들어주는 이른바 '딥페이크봇(로봇)' 채널이 활개치고 있다. 29일 텔레그램에서 '딥페이크(deepfake)' 등 검색하면 불법 합성물 생성 봇을 모아 추천해주는 수십여개 채널과 대화방에 곧바로 연결된다. 이 중엔 약 2만명이 참여한 무료 채널도 있는데, 첫 화면에 뜬 '시작' 버튼을 누르면 "원하는 여성의 사진을 보내라. 30초만 기다리면 마법이 펼쳐질 것"이라는 문장이 뜨는데, 챗GPT로 만든 가상의 이미지를 AI 봇에 넣어보면, 실제로 30초 만에 나체에 합성된 사진이 올라오며, 특정 신체 부위의 모습을 조정하거나 복장을 바꾸는 기능도 있다. 합성 사진 두 장을 무료로 제공한 뒤 딥페이크봇은 결제를 유도하는데, 결제는 최소 4.9달러(약 6500원)부터 시작할 수 있고, 사진 하나당 약 650원을 받는다. 고액 결제를 하면 워터마크를 제거하거나 화질을 개선하는 등 더 많은 기능을 선택할 수 있게 해놨고, 결제는 가상화폐 구매 사이트를 이용해 진행된다. 새로운 이용자를 초대하면 결제용 캐시를 제공하거나, 특정 채널을 구독해야 불법 합성물을 제작해주는 딥페이크봇도 있다는데, 텔레그램에선 이런 식으로 몇 가지 관련 검색어를 입력하는 것만으로 딥페이크봇 수백 개를 찾을 수 있다. 이같은 딥페이크봇 채널 및 대화방은 적게는 수백명에서 많게는 수십만명이 참여하고 있는데, 채널 소유자 또는 관리자만 메시지를 보낼 수 있어 참여자들이 사진을 유포할 수는 없지만, 불법 촬영물을 공유하는 또 다른 그룹 대화방으로 연결하기도 한다. 약 3만 명이 참여한 그룹 대화방에선 길거리나 대중교통 등에서 여성의 얼굴과 신체 특정 부위를 촬영한 사진을 공유하고 있다.