"아이폰 '누드 자동감지 기능' 호주에 첫선",,,,,,,,'글로벌 확대 예정'

iOS 18.2에 추가되는 누드 자동감지 및 차단 기능 데모

24일 영국 가디언에 따르면 호주 정부가 2024년 말까지 애플 같은 IT 기업이 자사 플랫폼에서 '아동 성적 학대 콘텐츠(CSAM)' 노출을 근절하도록 한 조치를 근거로, 애플이 최근 공개한 iOS 18.2 베타버전에 누드 콘텐츠를 온디바이스 인공지능(On-device AI)으로 자동 감지 및 차단할 수 있는 기능을 추가한다고 밝혔다. 본 기능의 주요 보호 타깃은 13세미만의 어린이로, 누드 감지 기능은 아이폰에 내장된 AI가 사용자에게 누드로 노출되는 누드 사진, 혹은 동영상을 자동으로 감지하고 흐리게 처리하는 방식이다. 이어 해당 콘텐츠가 민감한 내용을 담고 있다는 경고와 함께, 콘텐츠 제공자를 차단하거나 애플에 신고할 수 있는 선택지들을 제공한다. 사용자가 13세 이상일 경우 경고를 무시하고 진행할 수 있으나 '선택하지 않는 것이 좋다'는 알림이 반복적으로 따를 수 있다. 다만 이 기능이 작동되는 앱은 제한적인데, 우선 아이폰 및 아이패드에서 ▲메시지 ▲에어드랍 ▲연락처 ▲페이스타임 등 애플이 서비스 중인 시각 콘텐츠 공유 서비스에 적용된다. 이 기능이 최초로 도입되는 호주는 상대적으로 아동보호에 적극적인 정책을 펼쳐온 국가로 분류되는데, 무엇보다 지난 코로나19 대유행 기간 동안 온라인에서 아동의 성적 학대 및 착취 사례가 급증한 것도 호주가 IT 기업에 대한 CSAM 대응 강화를 주문한 배경으로 꼽힌다.