"딥페이크 만들라"...교사 70%는 졸업앨범 제작 '반대'

교사 10명 중 9명은 졸업앨범 속 학생·교사 사진을 악용한 딥페이크 범죄나 사진 도용 합성 등을 우려하는 것으로 나타났다. 또 교사 사진이 학생이나 학부모의 SNS에 무단으로 공유되거나 성 착취물에 이용되는 일들이 발생하면서, 졸업앨범 자체를 만들지 않아야 한다고 생각하는 교사도 10명 중 7명에 달했다.15일 한국교원단체총연합회(교총)는 전국 유치원·초중고 교사 3537명을 대상으로 지난 9월 30일부터 이달 9일까지 시행한 '딥페이크 여파 졸업앨범 제작 등 실태 파악 교원 설문조사' 결과를 공개했다.이에 따르면 교사의 93.1%는 '졸업앨범 사진을 활용한 딥페이크 범죄, 사진 합성 등이 우려된다'고 답했다. 올해 졸업앨범을 만드냐는 질문에 97.1%가 ‘그렇다’고 답했는데, 졸업앨범에 사진을 넣는 교사들이 '점점 줄고 있다'고 답변한 비율은 72.5%에 달했다.졸업앨범 제작을 계속해야 하는지에 대해 '제작하지 말아야 한다'고 답한 부정 응답자는 67.2%로, '제작해야 한다'라는 긍정 답변(32.8%)보다 훨씬 많았다.교총은 "딥페이크, 초상권 침해 등 범죄 피해와 개인정보 노출 등에 대한 우려가 큰 교단의 현실을 보여준다"며 "학생들끼리 언제든 사진을 찍고 보관·공유할 수 있는데, 범죄 피해를 감수하면서까지 별도 앨범을 만드는 것은 시대에 맞지 않는다는 의견이 많아지는 것으로 보인다"고 분석했다.실제로 많은 교사가 졸업앨범뿐만 아니라 일상적인 교육활동에서도 학생들과 사진 찍는 일을 꺼리는 것으로 나타났다. 학생들과 체험학습, 학교생활 등에서 사진을 찍느냐는 물음에 '딥페이크 범죄 등이 걱정돼 가능한 한 찍지 않는

2024-10-15 21:19:18

딥페이크 피해 학생 800여 명

딥페이크 허위영상물 피해 학생이 800명에 달하는 것으로 조사됐다. 교육부는 30일 '학교 딥페이크 허위영상물 피해 현황 4차 조사 결과'를 발표했다.지난 1월 1일부터 이달 27일까지 교내 딥페이크 허위영상물 피해자는 총 833명으로 집계됐다. 학생 799명, 교원 31명, 직원 등 3명이다.같은 기간 누적 피해 신고는 초등학교 16건, 중학교 209건, 고등학교 279건 등 총 504건을 접수했다. 상급학교로 갈수록 피해 신고 건수가 늘긴 했으나, 초등학교에서도 두 자릿수 신고가 들어온 것이다.올해 1월 1일부터 8월 27일까지 1차 조사에서 접수한 신고는 196건이었고 2차(9월 6일)에서 238건, 3차(9월 13일)에서 32건, 4차(9월 27일)에서 38건이 추가됐다.신고가 들어온 504건 가운데 417건은 수사 의뢰했다. 학교급별로는 초등학교 13건, 중학교 181건, 고등학교 223건 등 신고 건수에 비례해 수사 의뢰 건수도 증가했다. 218건은 해당 영상물 삭제 지원을 연계했다.가해 학생에 대한 학교 징계 처리 현황은 이번 조사에서 확인할 수 없었다.교육부 관계자는 "딥페이크 허위영상물은 가해자 특정이 어렵고 학교폭력 사안은 심의, 징계 처리까지 상당 기간이 소요돼 이번 조사가 포함되지 않았다"고 설명했다.김경림 키즈맘 기자 [email protected] 

2024-09-30 12:57:31

"딥페이크가 나보다 매력적이라면?" 미인대회 질문 논란

미스코리아 대회에서 참가자들에게 '딥페이크(AI 기반 영상 조작기술)' 속 본인의 모습이 실제 모습보다 매력적이라면 어떻게 해야 하는지 물어보는 말을 해 논란이 일고 있다. 최근 딥페이크를 악용한 불법 합성물로 피해를 본 여성이 많은 만큼, 적절하지 못한 질문이란 비판이 쏟아진다.26일 각종 사화관계망서비스와 온라인 커뮤니티 등에는 지난 24일 열린 '2024 미스코리아 선발 대회'의 질문 장면이 공유됐다. 무대 위 스크린에 나온 질문 내용은 "딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?"였다.이를 두고 누리꾼들은 '적절하지 않다'며 비판했다. 일부 누리꾼들은 "이런 질문이 미스코리아의 자질과 어떤 연관이 있는 건가", "이제 아무도 미스코리아 관심 없는 이유" 등 싸늘한 반응을 보였다. 특히 최근 딥페이크 음란물 피해자 가운데 유명 연예인, 미스코리아 등이 다수 포함된 것으로 알려지면서, 이런 질문을 한 주최 측에 비난이 쏟아지고 있다.또 미스코리아 선발대회 공식 SNS에는 "피해자들에게 2차 가해한 것 사과해라", "담당자는 딥페이크 사용이 가장 많은 분야가 어디인지 찾아보길 바란다. 그 결과물과 매력을 견주겠다는 질문의 의도가 무엇인가" 등의 항의가 이어졌다.한편 지난 23일 딥페이크 성 착취물에 대한 처벌 강화 내용이 담긴 '딥페이크 성범죄 방지법'이 국회 상임위원회를 통과했고, 경찰은 전담 TF 팀을 꾸려 지난달부터 딥페이크를 집중적으로 단속하고 있다.김주미 키즈맘 기자 [email protected]

2024-09-26 16:29:28

닷새 동안 딥페이크 범죄 신고 100건 넘어, 피의자 주연령대는…

3일 경찰청이 집중단속한 지난달 26일부터 30일까지 5일간 허위영상물(딥페이크) 범죄 신고는 총 118건 접수됐다.경찰은 이들 신고와 관련해 피의자 33명을 특정해 7명을 검거했다. 특정된 피의자 33명 중 31명, 검거된 7명 중 6명이 10대로 파악됐다. 실제 딥페이크 성범죄는 피의자와 피해자 모두 10대에 집중돼있다.올해 1∼7월 허위영상물 등 범죄 혐의로 입건된 피의자 총 178명을 연령별로 구분하면 10대가 131명(73.6%)으로 가장 많았다. 이어 20대(36명) 20.2%, 30대(10명) 5.6%, 40대 1명(0.6%) 순이었다. 50대 이상 피의자는 없었다.또한 작년 기준 허위영상물 범죄의 10대 피해자는 181명으로 전체 피해자에서 차지하는 비중이 62.0%에 달했다.지난 5일간 신고 건수(118건)는 올해 1∼7월 주당 평균(9.5건)과 비교하면 10배가 넘는다.허위영상물이 범죄가 된다는 사실이 널리 알려지면서 수사 의뢰를 하지 않고 개인적으로 합의를 하는 식으로 대응하던 피해자들이 적극적으로 신고에 나선 결과로 경찰은 분석했다.경찰은 내년 3월 31일까지 집중단속을 이어간다.또한 딥페이크 탐지 소프트웨어를 활용한 분석, 국제공조 등 수사에 필요한 사항을 적극적으로 지원할 예정이다. 특히 딥페이크 대상이 아동·청소년일 경우 아동·청소년성착취물에 해당하므로 더욱 엄격하게 대응할 방침이다.이에 성인으로 한정된 디지털 성범죄 위장수사 대상 범위를 아동까지 확대하고, 사전 승인이 필수인 '신분 비노출 위장수사'에 대해 사후 승인이 가능하도록 법 개정에 나선다.김경림 키즈맘 기자 [email protected] 

2024-09-03 16:09:45

딥페이크 범죄 늘어나는데…AI 교육받는 중·고생 35%

불법 합성물을 제작할 때 사용하는 '생성형 인공지능'에 대한 교육을 받은 중고등학생이 3명 중 1명에 불과한 것으로 조사됐다.2일 한국청소년정책연구원은 '청소년 디지털 인재를 어떻게 양성할까' 보고서에서 이런 결과를 내놓았다.지난해 7∼8월 전국 중·고등학교에 다니는 청소년 2261명(남학생 1172명·여학생 1089명)을 대상으로 설문한 결과에 따르면 지난 6개월 동안 학교에서 '생성형 AI 기술 활용 교육'을 받은 비율은 35.7%로 집계됐다.연구진이 설문한 ▲인터넷·스마트폰 과의존 방지 교육 ▲ 개인정보 보호 교육 ▲ 스미싱 등 디지털 금융 사기 예방 교육 등 10가지 항목 가운데 7번째로 낮은 비율이다.일상에서 생성형 AI를 이용한 적이 있다고 답한 비율은 이보다 약 17%포인트 많은 52.1%로 조사됐다.성별로는 남자(57.3%)가 여자(46.6%)보다 많았고, 학교급별로는 고등학생(61.5%)이 중학생(43.7%)보다 많았다. 이용자 가운데 75.7%는 '하루에 30분 미만' 사용한다고 답했다. '30분∼1시간 미만'은 12.9%, '1시간∼1시간 30분 미만'은 4.8%였다. '2시간 이상 쓴다'는 학생도 4%가 넘었다. 71.8%는 '생성형 AI를 계속 이용할 생각이 있다'고 밝혔고, 55.0%는 '생성형 AI의 정보를 신뢰한다'고 답했다.보고서에 따르면 학생들은 딥페이크나 사이버 폭력 등의 디지털 범죄를 방지할 수 있도록 윤리 교육이 지금보다 더 마련돼야 한다는 입장을 밝혔다.연구진이 진행한 심층인터뷰에 참여한 한 중학생은 "딥페이크나 디지털 범죄가 심각하다고 생각하지만, 학교에서 예방 교육을 받아본 적이 없다"며 "한때 딥페이크에 관한 범죄 예방이 확 떴다가 말

2024-09-02 11:16:18

딥페이크 영상에 내 얼굴이? 당장 '이것'부터 해야...경기도, 대응지침 안내

최근 불법으로 합성된 '딥페이크' 영상물이 텔레그램을 통해 확산하면서 피해자가 늘어남에 따라 경기도가 피해자를 위한 초기 대응 요령을 안내했다.도는 피해를 당했다고 판단될 경우 경기도젠더폭력통합대응단(이하 대응단) 디지털성범죄피해자원스톱지원센터에 전화를 걸어 도움을 요청하라고 조언했다.지난 27일 경기도는 딥페이크 불법 영상물 초기대응지침이 담긴 공문을 교육청, 시군 공공기관에 전달하고, 카드뉴스 형태로 제작해 경기도여성가족재단과 경기도젠더폭력통합대응단 누리집에 공개했다.지침에 따르면 딥페이크 불법영상물을 발견할 시 우선 합성물 속 인물이 본인인지 확인하고, 누리소통망(SNS)을 비공개 계정으로 전환해 간접피해나 2차피해를 방지해야 한다.또 개인정보를 파악할 수 있는 사진(교복, 건물, 위치태그 장소)을 삭제하고, 제작·유포(제보) 정황을 캡처해 딥페이크 영상에 사용된 원본사진이 자신에게 있는지 확인해야 한다.지인으로부터 제보받았다면 합성물이 제작·유포된 플랫폼과 피해 영상물의 유포 수준을 파악하는 것이 좋다.모르는 사람에게서 DM이나 메시지를 받았다면 캡처 후 연락을 차단해야 한다. 제보 시 공유받은 링크가 있다면 누르지 말고, 수사기관 신고 또는 경기도 디지털성범죄 피해자원스톱지원센터에 연락해 피해 정황을 알리면 된다.도는 이날 교육청, 경찰청, 경기도 젠더폭력통합대응단과 상황공유, 대응 협의 등을 위해 회의를 열고 대응단을 통한 불법 영상물 삭제와 모니터링, 수사·법률, 전문심리상담을 지원하기로 했다.청소년들의 딥페이크 피해도 늘어나는 만큼, 도는 9월 초 경기도교육청과 협업해 학부모

2024-08-28 12:47:36

부산 딥페이크 성범죄 10여건…대부분 학교서 발생

올해 부산에서 발생한 딥페이크 성범죄 피해 신고는 10여 건으로 파악됐다. 27일 부산경찰청에 따르면 딥페이크 성범죄는 지난 4월 이후 피해 신고가 집중됐다.사건 대다수는 학교에서 발생했으며 접수된 사건의 가해자는 모두 검거됐다.가해자 대부분은 10대 학생이었으며 형사처벌이 아닌 소년법상 보호처분만 할 수 있는 만 10세 이상 14세 미만인 촉법소년도 일부 있다고 경찰은 설명했다.딥페이크 범죄 유형은 텔레그램 내 툴을 이용해 여성의 얼굴을 음란물로 합성해 텔레그램으로 지인들에게 유포시킨 경우가 많았다.가해자는 남성, 피해자는 전부 여성이었다.부산에서는 참가자들이 서로 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작·유포하는 '겹지인방'이라는 이름의 대규모 텔레그램 대화방은 발견되지 않았지만 피해 신고는 늘고 있다.부산경찰청은 전담수사팀을 꾸려 24시간 신속 대응 체제를 구축해 딥페이크 성범죄에 대응할 예정이라고 밝혔다.김경림 키즈맘 기자 [email protected] 

2024-08-27 19:08:01

혹시 우리 아이도? 경기도교육청, 딥페이크 피해 사례 확인 중

경기도교육청이 딥페이크 관련 긴급 가정통신문을 발송하고 피해 사례 확인에 나섰다.27일 도 교육청은 '디지털 성범죄(불법 합성 및 유포) 대응 및 예방 교육'이라는 제목의 가정통신문을 전날 오후 늦게 각 가정에 보냈다.가정통신문에는 최근 딥페이크 피해가 잇따르니 학생들이 사이버 공간에서 개인정보 등이 유출되지 않도록 주의를 당부하고 타인의 개인정보를 동의 없이 올리거나 전송하지 않도록 예방 교육해달라는 내용이 담겼다.피해자의 SNS 프로필 사진과 타인의 신체 사진이 합성돼 다른 SNS에 게시된 뒤 지인을 통해 전달받은 경우와 친구한테만 보낸 자기 신체 사진이 불법 사이트에 게시된 경우 등 피해 사례도 소개됐다.도 교육청은 추가로 이날 직접 제작하거나 유관기관으로부터 받은 디지털 성범죄 예방 교육자료를 각급 학교에 배포해 예방 교육을 진행할 계획이다.현재 SNS에는 딥페이크 피해 지역과 학교명을 담은 게시글이 퍼지는 가운데 이 글에는 경기지역 학교도 포함돼 있다.도 교육청에는 아직 피해 사례가 접수되지 않은 것으로 알려졌다.도 교육청 관계자는 "디지털 성범죄 안내 자료가 포함된 생활지도 가정통신문을 매달 발송하는데 이번에 전국적으로 문제가 되어서 어제 따로 가정통신문을 보냈다"며 "아직 확인된 피해 사례는 없지만 경찰과 함께 피해 학교들이 있는지 계속 확인해 있으면 지원할 것"이라고 말했다.김경림 키즈맘 기자 [email protected] 

2024-08-27 10:35:55

선거철 '딥페이크' 주의...네카오·구글·메타 뭉친다

우리나라를 비롯한 전 세계에서 올해 중요한 선거들이 예정된 가운데, 한국인터넷 기업협회는 네이버와 카카오, SK커뮤니케이션즈, 구글코리아, 메타코리아 등 국내에 있는 주요 IT 기업들이 자율협의체를 구성한다.이는 제22대 국회의원 총선거 및 재·보궐 선거의 공정성·신뢰성을 확보하기 위한 협의체로, 악의적인 딥페이크 게시물에 대한 대응 방안을 마련할 예정이다.협회는 "2024년은 우리나라를 비롯해 세계적으로 여러 선거가 있는 중요한 해"라며 "국내에서도 세계적인 움직임에 발맞춰 기업들이 자발적으로 자율 협의체를 구성해 논의를 시작했다"고 밝혔다.이에 더해 지난 16일 뮌헨안보회의(MSC)에서 발표된 기술 협정과 같은 협약문 발표에 합의했다고 설명했다.협회는 또 "참여 기업들은 정보의 중요성이 높아지는 가운데, 공동 대응을 통해 선거 과정에서 진실한 정보를 전달한다는 공동의 목표를 진전시키기 위해 세부 사항에 대한 논의를 진행하고 있다"고 전했다.협약은 선거에 영향을 주기 위해 악의적으로 만들어진 딥페이크 콘텐츠를 대상으로 한다. 협의체는 악의적으로 제작·편집된 선거 딥페이크 위험을 줄이기 위한 노력, 악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의 등 대응 방안을 구축해 이른 시일 내 발표할 계획이다.김주미 키즈맘 기자 [email protected]

2024-02-26 17:59:04

美, AI기술로 '옷 벗기기' 이용자 급증

미국에서 인공지능으로 사진 속 여성의 옷을 벗기는 딥페이크 기술 이용자가 미국에서 급증하고 있다. 지난 10일 블룸버그통신은 서비스형 소프트웨어기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 활용해 사진 속 인물의 옷을 벗기는 딥페이크 웹사이트를 방문했다고 전했다. 딥페이크는 AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상 등을 의미한다. 그래피카에 따르면 올해 초 대비 9월에 엑스와 레딧 등 SNS에서 AI 옷 벗기기 앱을 광고하는 링크 수도 2400% 증가했다. 딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만들어준다. 사진 속 인물은 대부분 여성을 활용한다. 또 상당수 앱은 여성의 이미지만을 변환할 수 있도록 만들어졌다고도 전해진다. 딥페이크 앱과 웹사이트가 인기를 끌수록 범죄에 악용될 수 있다는 우려가 커지고 있다. 대부분 당사자 동의나 인지 없이 나체 사진 같은 음란물을 만들어 배포하고 있기 때문이다. 실제로 엑스에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어서 다시 그 사람에게 보낼 수 있다며 성희롱을 조장하고 있었다. 개인정보 보호 전문가들은 딥페이크 소프트웨어가 AI 기술의 발전으로 이용하기 더 쉽고 효과적으로 만들어지고 있다고 우려했다. 구글은 이 같은 문제에 대해 "노골적인 성적 콘텐츠는 허용하지 않고 있다"며 "문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제 중"이라고 전했다. 김경림 키즈맘 기자 [email protected]

2023-12-11 14:45:58