AI로 만든 아바타 태스트, "가족, 은행까지 속였다",,,,,,"범죄악용 주의보"

일상생활이 챗봇 '챗GPT'를 비롯한 인공지능(AI) 기술로 편리해지겠지만 그 이면에는 어떤 위험성이 있을까를 몇가지 실험을 통해 테스트 해 보았다. 'AI로 나 자신을 복제했고, 그녀가 내 가족과 은행을 속였다'며 미국 일간 월스트리트저널(WSJ)의 IT 칼럼니스트 조안나 스턴은 'AI로 만든 아바타가 초래할 부작용'을 경고했다. 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램을 활용해 스턴은 지난 몇개월간 '아바타'를 만드는 실험을 했다고 밝혔다. 또 AI 아바타에 챗GPT로 생성한 대사를 입력해 스턴은 자신 대신 동영상 공유 사이트나 화상회의에 출연하도록 해봤다. 그 결과 화상회의에선 진짜 사람이 아니란 사실이 곧장 들통났지만, 상호작용이 상대적으로 적은 동영상 공유 사이트에선 비교적 쉽게 들키지 않았다고 그는 밝혔다. 그 다음에 스턴은 음성 AI 스타트업 일레븐랩스(ElevenLabs)의 프로그램으로 '음성 아바타'를 만든 뒤 가족을 대상으로 자신의 실제 목소리와 구분할 수 있는지 시험하기도 했다. AI로 생성된 목소리가 진짜와 매우 흡사하다는 반응을 보였으며 스턴 본인의 목소리가 아니라고 눈치채진 못한 것으로 전해졌다. 끝으로, 프로그램으로 생성한 AI 음성을 이용해 미 대형은행의 신용카드 관련 고객서비스를 이용해 본 결과 개인 목소리를 구분하는 생체인식 시스템을 손쉽게 통과할 수 있었다고 스턴은 밝혔다. 스턴은 AI 아바타가 살해 위협을 비롯한 비윤리적이거나 문제가 될 수 있는 내용을 신세시아 프로그램과 일레븐랩스 프로그램 모두 제한하지 않는다고도 지적했다. 온라인 세상을 실제 사람과 구분되지 않는 AI 아바타가 우후죽순 생겨나 더욱 혼탁하게 만들 위험성이 있는 셈이다.