딥페이크(deepfake) - 도대체 무엇일까?
여러분들은 요즘 세상을 떠들썩하게 만드는 가짜 동영상, 이름바 '딥페이크(deepfake)'에 대해서 알고계신가요?
제가 딥페이크에 대해 관심을 가지게 된 이유는 얼마전 중국에 관한 기사를 보던 중 딥페이크에 관하여 중국 정부가 새로운 법안을 내놓았기 때문입니다. 도대체 딥페이크가 무엇이길래 중국 정부에서 이러한 법안을 적용시키려고 할까요? 그럼 오늘은 딥페이크(deepfake)에 대해서 자세히 알아보도록 하겠습니다.
딥페이크(deepfake)란 ?
딥페이크란(deepfake)란, 딥 러닝(deep learning)과 가짜(fake)의 혼성어를 뜻하며 인공 지능을 기반으로 한 '인간 이미지 합성 기술' 이라고 합니다.
이 기술을 사용하게 되면 특정인의 얼굴이나 목소리, 행동들을 마치 영화의 CG처럼 자신이 원하는대로 영상물을 편집할 수 있게 되는거죠. 과거 인물의 사진이나 영상을 미약하게나마 합성했던 것이 오늘날 디지털 기술과 인공지능의 발전으로 몇 단계 정교해진 결과라 볼 수 있습니다.
어떻게 이런 기술이 가능해진걸까요?
딥페이크(deepfake)의 원리
딥페이크의 원리는 자동 인코더라는 기술을 사용합니다. 자동 인코더는 주어진 입력을 출력으로 재구성하는데 사용되죠. 인코더(Incoder)가 특정 이미지를 하나씩 쪼개어 분해하는 과정에서 경험을 축적해 나가며, 디코더(Decoder)가 다시 원본으로 재구성하는 작업을 끊임없이 반복하게 됩니다. 수많은 반복을 통해 마침내 인공지능은 정밀한 영상을 출력할 수 있게 되는거죠.
이런 최신 인공지능 기술이 활용된 딥페이크 영상은 아주 정밀하지만 생각 이상으로 만들기 쉽습니다. 2018년 공개된 PC용 애플리케이션 '페이크앱(FakeApp)'은 구글에서 검색하면 누구나 쉽게 다운로드 받을 수 있죠.
▲ 구글 검색창에서 'fake app'이라는 단어를 치면 상단에 PC용 앱이 나타납니다.
▲ fake app은 PC 사용자라면 누구나 쉽게 무료로 다운로드 받을 수 있습니다.
이처럼 딥 페이크는 점점 더 쉽고 전세계적으로 빠르게 생성되고 있으며 딥페이크 영상제작도 나날이 늘어가고 추세입니다. '딥페이크(deepfake)'라는 용어를 유튜브나 구글에서 검색만 해봐도 알 수 있죠.
하지만 누구나 사용하기 쉬운만큼 악용사례도 점점 늘고 있습니다. 어떤식으로 문제가 되는걸까요?
딥페이크(deepfake)의 문제점
딥페이크 영상은 미국 정치인이나 각계 인사들의 정치적인 목적으로 쓰이기도 합니다. 대표적인 예로 오바마, 마크 저커버그의 사례처럼 정치인이나 각계 인사들의 평판을 떨어뜨리기 위해 조작된 영상들도 꾸준히 올라오고 있습니다. 마치 사실이 아닌것을 사실인것처럼 나오는 딥페이크 영상들을 일반인들이 시청하게 되면 너무나 자연스러워서 믿을 수 밖에 없게 만들죠.
이쯤되면 중국 정부가 왜 딥페이크에 관해서 새로운 법안을 적용하려 하는지 알거같네요. 실제 2020년 1월부터 인공지능(AI)으로 만든 음성이나 영상을 만들었을 경우엔 반드시 그 사실을 밝혀야만 하고 이러한 사실을 제대로 공개하지 않을 경우 형사 처벌을 받게 될 수도 있습니다.
중국 사이버공간청에 따르면 "딥페이크 같은 새로운 기술이 도입됨에 따라 사회 질서를 파괴하고 사람들의 이익을침해할 뿐 아니라 정치적인 위협요인이 될 수 있어 국가 안보와 사회 안정성에 부정적인 영향을 미치게 된다”고 밝혔습니다.
뿐만아니라 할리우드 스타부터 우리나라 유명 연예인들의 얼굴을 합성하여 이름바 '유출영상'이라는 제목을 달고 전세계적으로 공유되고 있는 현실입니다.
위 사진처럼 해외사이트에 접속하면 우리나라 유명 연예인들의 얼굴을 합성한 딥페이크 영상이 버젓이 올라오고 있습니다. 이처럼 앞으로는 유명 연예인들을 넘어서 우리에게도 절대 안전지대에 있다고 장담할 수가 없게 되었습니다.
만약 일반인 중에 누군가가 딥페이크로 인하여 피해를 입었다고해도 이와 관련된 절차나 법안 등 사회제반 시설이 전무하기 때문에 아직까지 이렇다할 의뢰도 할 수가 없는게 현실입니다.
점점 더 빠른 추세로 일반인들에게 보급과 이용이 되고 요즘, 앞으로 어떻게 해야 이러한 딥페이크 상황에서 안전할 수 있을까요?
딥페이크(deepfake) 어떻게 대비해야 될까?
먼저, 우리는 딥 페이크가 존재하는 이유, 작동 방식 및 발생할 수 있는 잠재적 일들을 잘 인지하여야합니다. 앞으로 수많은 딥페이크가 쏟아져 나올지도 모르는 상황에서 무작정 눈에 보이는대로만 믿을 수 없기 때문에 물론 쉽진 않겠지만 우리 스스로가 잘 생각하고 판단하여야 합니다.
그리고 딥 페이크를 더 잘 탐지할 수 있는 기술이 절실히 필요합니다. 앞으로 더 정교해질 딥 페이크를 구분하려면 사람이 아닌 딥 페이크를 구분을 해줄 수 있는 정확한 기술이 필요하죠. 이미 곳곳에서는 이러한 연구가 진행중에 있다고 합니다.
이상 오늘은 딥 페이크(deepfake)에 대해서 알아보았는데요. 이처럼 최신 기술이 따라갈수 없을 정도로 빠르게 발전하고 또한 딥 페이크의 부작용이 우리에게 광범위한 영향을 미치게 될 수 있음에 따라 이를 대처할수 있는 기술과 사회적으로 엄격한 규제가 필요할 것 같습니다.
'IT소식' 카테고리의 다른 글
| 금융감독원 전자공시시스템 제대로 활용하자! (0) | 2019.12.17 |
|---|---|
| 최신 업데이트 된 농협 공인인증센터 자세히 알아보자 (0) | 2019.12.12 |
| 삼성 갤럭시 리마인더 기능의 모든 것(2) (0) | 2019.11.26 |
| 삼성 갤럭시 리마인더 기능의 모든 것(1) (0) | 2019.11.24 |
| 갤럭시로 구글 캘린더 동기화 사용하기 (0) | 2019.11.18 |
