The War Against Fakes 진짜같은 가짜와의 전쟁

가짜와의 전쟁 빅데이터와 딥페이크 The War Against Fakes

딥페이크?

영화 맨 오브 스틸 중 여배우 Ami Adams에 Nicolas Cage 얼굴을 입힌 예가 유명하다.

딥페이크?

딥페이크에는 딥러닝 인공지능 기술이 쓰였다. 심층 학습 Deep과 가짜 Fake 합성어?

2017년 11월 소셜 뉴스 웹사이트 레딧에 Deepfakes라는 아이디를 쓰는 사용자가 유명 연예인과 포르노를 합성해 관심을 끌었다. 어원은 여기서 비롯되었다. 출처: https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn

딥페이크란?

인공지능을 활용하여 제작한 가짜 콘텐츠가 확산 중이다. 딥러닝을 이용해 원본 이미지나 동영상 위에 다른 이미지나 영상을 중첩하거나 결합하여 다른 콘텐츠를 생성하는 기술이다. 공개 무료 소스 코드와 머신러닝 알고리즘으로 만들거나 일반인도 재미로 만들 수 있는 손쉬운 앱도 많다.

핵심 기술?

생성적 적대 신경망(Generative Adversarial Network)  GAN: 생성-식별 모델이 공존하며, 상호 학습을 반복하는 과정에서 서로를 적대적 경쟁자로 인식하며 상호 발전  생성 모델이 데이터를 기반으로 훈련 후 가짜 동영상을 만들고 식별 모델은 가짜를 감지한다. 감지할 수 없을 때까지 가짜를 만드는 방식

생성 모델과 식별 모델? 생성 모델은 위조 지폐범, 식별 모델을 경찰에 비유.

Ian Goodfellow, Apple Special Projects Group 기계 학습 담당 이사

생성 모델과 식별 모델?

생성자는 식별자를 속이지 못한 데이터를, 식별자는 생성자에게 속은 데이터를 서로 입력 받아가며 학습을 반복 하면서 점점 더 실제에 가까운 정교한 데이터를 만든다.

나쁘고 악한 것인가?

산업적 활용가치가 높아 영화, 음반, 교육, 오락 등 다양한 분야에서 유용하게 활용이 가능하지만, 음란물, 가짜 뉴스 양산 등 부작용으로 대중의 부정적 인식이 강한 상태다.

효율적 활용: 특수 효과, 제작 비용 영화 제미니 중 주니어 영상, 뉴질랜드 Weta Digital

뮤직 비디오 힙합가수 Travis Scott

효율적 활용: 공익적 활용

2019년 4월 베컴: 말라리아 퇴치 홍보 캠페인 영상을 딥페이크 활용 9개 언어로 제작하여 공익적 기여. 10분의 1 비용 제작, 4억 명 시청 (영국 Synthesia)

악용 사례: 소름 돋는 진짜같은 가짜

2018년 4월 오바마가 트럼프를 저속한 언어로 조롱하고 노골적인 인종 차별을 비난한 코미디언 조던 필과의 가짜 인터뷰 영상(가짜 영상 경고 목적)

악용 사례: 소름 돋는 진짜같은 가짜

2019년 9월, 이탈리아 Matteo Renzi 전 총리가 다른 정치인들을 모욕하는 가짜 영상이 게시되어 착각한 사람들이 비판하는 실제 해프닝 발생

악용 사례: 소름 돋는 진짜같은 가짜

원더우먼 갤 가돗의 가짜 포르노 영상이 2017년 11월, 레딧에 올랐다. 스칼렛 요한슨, 테일러 스위프트도 희생양

악용 사례: 소름 돋는 진짜같은 가짜

2019년 술 취한 낸시 펠로시 하원 의장, 마크 저커버그 는 수십억 명의 은밀한 비밀과 사생활이 담긴 데이터를 통제할 수 있는 사람이 누군지 떠올려 보라는 가짜 영상

현재의 추세는?      

성인물, 정치 이슈에서 영화, 음반, 게임, 스포츠 등 다양한 분야로 확대 다변화 SNS와 기술 결합으로 확산 폭 확대 기업의 사업모델 발굴에는 위험을 최소화 필요 정부는 규제 정책, 모니터링 강화, 가짜 뉴스 대비 필요 2018년 12월 7,964개 콘텐츠가 2019년 9월 1만 4,678개로 증가. 20개 커뮤니티에 95,791명*  현재는 주 전파 경로는 트위터 *https://edition.cnn.com/2019/10/07/tech/deepfake-videos-increase/index.html

이대로 괜찮은가?

2020년 2월 현재 15억 이상 다운로드 된 TikTok, 월 3.6억 사용자가 하루 30억 사진 동영상을 쏟아내는 Snapchat.

2019년 초 딥페이크 서비스 개발이 알려지며 정책 수립의 필요성이 논의되었다.

가짜 콘텐츠 확산  딥페이크 콘텐츠는 GAN을 활용하여 DeepFaceLab, Faceswap 등 공개 영상 합성 프로그램/앱이 배포되면서 성행

 GitHub를 통해 딥페이크 기술로 영상의 얼굴을 바꾸는(Face-swap) 오픈 소스 코드 공유도 확대

미국의 움직임  미국 상원 의원은 TikTok이 국가안보를 위협하는 앱 여부에 대해 조사 필요성 제기.  최근 미 해군 복무 장병들에게 틱톡 앱을 삭제하지 않으면 내부 네트워크에 접속할 수 없다고 공지

향후 전망

현재

향후

대상

유명 인사/ 인기 스타

일반인과 사물, 동물 추가

분야

성인물, 정치성 콘텐츠

게임, 엔터테인먼트, 산업 등

플랫폼

독립 제작, 배포

SNS 결합

규제

자율 규제, 지침 정도

입법을 통한 규제 강화, 처벌

이승환 책임연구원, 소프트웨어정책연구소 보고 자료

어떻게 해야 하나?

명암이 공히 존재 부정적 인식이 대세 이해와 인식 부족

바라는 점      

기업, 단체는 현실을 고려한 신중한 정책 수립과 전략 긍정적 측면을 반영한 사업 모델 중장기 발굴 가짜 사용자 제보 및 사실 확인 기관 활동 강화 합성, 교체, 추가로 실제로 조작한 경우 규제 당국 다단계 규제 및 데이터 모니터링 강화 진위 판명 시 피해에 대한 보상 관련 법안

Mail: mci9306@naver.com Facebook: Jaheelee.33 Blog: naver.com/mci9306 Slideshare: jaheelee Linkedin: jahee-lee-2521b512