딥페이크(Deepfake) 가 뭔데 난리인가요? 22만명이 접속한 텔레그램방

딥페이크(Deepfake)란,

인공지능 기술을 활용하여 사람의 얼굴, 목소리, 행동 등을 학습해내어 실제처럼 거의 똑같이 보이게 제작해서 만드는 영상이나 오디오를 말합니다. 주로 딥러닝 기법을 사용하여 기존의 이미지를 분석하고, 새로운 콘텐츠를 생성해냅니다.

 

딥페이크는 영화, 게임 등에서 활용될 수 있지만, 허위 정보 생성이나 사기 등의 부정적인 용도로도 사용될 수 있어 윤리적 논란이 진작부터 일고 있었지요. 지금 크게 논란이 되어지고 있는 딥페이크 이슈는 중고등학교 미성년 학생들의 인스타그램등 SNS에 있는 사진들을 도용하여, 딥페이크 기술에 이용당하고 있다는 것 때문입니다.

 

심지어, 성인물, 성적 동영상등에 딥페이크를 이용해서 만들어 달라는 텔레그램방 에서 미성년자 학생들의 얼굴이 도용당하고 있어서 큰 파장이 일어나고 있고, 소위 '털린' 지역 학생들의 학교 위치 맵(지도)이 만들어지고 있습니다. 피해자의 10명중 3명이 미성년자라고 하네요. 정말 이제 AI사용의 큰 폐단이 나타나고 있네요.

 

현재 전국교직원노동조합이 학교명단을 긴급조사중이고, 경찰은 22만명이 접속했다는 딥페이크 제작 텔레그램방을 내사에 착수했어요. 경남에서는 남자 중학생 6명이 같은 학교 여학생 12명의 사진이 합성된 딥페이크 사진을 돌려봤다고 합니다. 

누군가 텔레그램방에서 불법 합성을 의뢰하여 제작된 것이지만, 구체적인 피해확인이 어려울 것으로 보입니다. 딥페이크 제작물을 공유 받으려면, 또 다른 희생양이 될 학생의 신상정보를 제공하는 방식으로 진행되었다고 합니다. ...하아....

 

경찰은 7개월간 딥페이크 성범죄를 집중적으로 단속에 나설 계획이라고 합니다.

 

출처 : 팀 데이터스택이 개발한 딥페이크 피해 학교 https://deepfakemap.xyz/

 

중학생 2명이 만든 ‘딥페이크 피해학교 지도’가 지난 27일 온라인에 등장하기 시작했습니다. 지도에는 딥페이크 피해를 입어서 신고된 초,중,고등학교 및 대학교의 위치와 이름이 표시되어져 있습니다. 이 지도를 만든 팀 데이터스택은 하루만에 피해학교지도에 접속한 누적횟수가 300만회를 넘었다고 합니다. 

딥페이크 피해학교 지도 바로가기

일반인이 딥페이크 기술을 식별하는 방법

 

일반인이 딥페이크 기술을 금새 식별하는 것이 쉽지는 않은 데요. 아래 몇가지 방법을 올립니다.

 

1. 자세히 보기:
영상의 세부 사항을 주의 깊게 관찰하세요. 눈 깜박임, 표정 변화, 입 모양이 자연스럽지 않거나 어색한 경우 딥페이크일 가능성이 높습니다.

2. 조명과 음영 확인:

얼굴의 조명과 음영이 일관되지 않거나 비정상적으로 보일 경우, 이는 합성된 이미지일 수 있습니다.

3. 비정상적인 움직임:

인물의 움직임이 부자연스럽거나 비정상적인 경우, 예를 들어 입 모양과 목소리가 맞지 않는 경우 주의가 필요합니다.

4. 소리 확인:

음성의 톤, 억양, 발음이 자연스럽지 않거나 일관성이 없을 경우 의심해볼 만합니다.

5. 출처 확인:

영상의 출처와 배경을 확인하세요. 신뢰할 수 없는 출처에서 온 콘텐츠는 의심해볼 필요가 있습니다.

6. 전문 도구 사용:

여러 온라인 도구나 애플리케이션이 딥페이크 탐지 기능을 제공하므로, 이를 활용해볼 수 있습니다.

이러한 방법들을 통해 딥페이크를 그나마 식별해 볼 수 있겠습니다.

 

당분간 SNS에 얼굴사진은 올리지 않는게 좋겠고, 계정 로그인 방식은 보안 2단계를 사용해서 해킹에 주의하셔야 겠습니다.