美, AI기술로 '옷 벗기기' 이용자 급증
미국에서 인공지능으로 사진 속 여성의 옷을 벗기는 딥페이크 기술 이용자가 미국에서 급증하고 있다.
지난 10일 블룸버그통신은 서비스형 소프트웨어기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 활용해 사진 속 인물의 옷을 벗기는 딥페이크 웹사이트를 방문했다고 전했다. 딥페이크는 AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상 등을 의미한다.
그래피카에 따르면 올해 초 대비 9월에 엑스와 레딧 등 SNS에서 AI 옷 벗기기 앱을 광고하는 링크 수도 2400% 증가했다.
딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들어준다. 사진 속 인물은 대부분 여성을 활용한다. 또 상당수 앱은 여성의 이미지만을 변환할 수 있도록 만들어졌다고도 전해진다.
딥페이크 앱과 웹사이트가 인기를 끌수록 범죄에 악용될 수 있다는 우려가 커지고 있다. 대부분 당사자 동의나 인지 없이 나체 사진 같은 음란물을 만들어 배포하고 있기 때문이다.
실제로 엑스에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어서 다시 그 사람에게 보낼 수 있다며 성희롱을 조장하고 있었다.
개인정보 보호 전문가들은 딥페이크 소프트웨어가 AI 기술의 발전으로 이용하기 더 쉽고 효과적으로 만들어지고 있다고 우려했다.
구글은 이 같은 문제에 대해 "노골적인 성적 콘텐츠는 허용하지 않고 있다"며 "문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제 중"이라고 전했다.
김경림 키즈맘 기자 [email protected]
2023-12-11 14:45:58
