딥페이크 범죄와 딥페이크를 막는 딥러닝

27일 방송된 SBS의 그것이 알고싶다에서 딥페이크 기술과 이를 악용한 범죄에 대해 다뤘는데요.

SNS로 낯선 사람에게서 받은 자신의 성관계 영상은 직접 촬영한 것도 아니고 실제 있었던 일도 아니지만

영상 속의 인물은 자신과 똑같고 진짜 나를 보는 듯한 자연스러운 움직임과 표정이죠.

인공지능의 한 분야인 딥러닝을 활용하여 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 딥페이크

최근에는 세계적인 인기를 얻는 K-POP 스타들의 얼굴을 이용한 딥페이크 영상물들이 많이 만들어지고

대부분 성 착취 동영상의 형태로 악용되어 사회적으로 큰 이슈가 되고 있습니다.

거기다 이제 딥페이크 범죄는 유명 연예인을 넘어 일반인에게도 그 손길을 뻗고 있죠.

 

---

1. 딥페이크란?

---

딥페이크란 AI 기술인 딥러닝의 딥과 가짜라는 뜻의 페이크의 합성어로 특정 인물의 얼굴과 신체 부위를

전혀 다른 영상과 합성하기 위해 딥러닝 기술과 안면 매핑, 안면 스와핑 기술을 복합적으로 이용한 것입니다.

 

딥페이크는 생성적 적대 신경망(GAN)이라는 AI 기술이 나오며 등장했는데

GAN은 이미지의 진위를 판단하는 감별자 알고리즘과 이미지를 만들어내는 생성자 알고리즘을 대립시켜

영상을 조작하는 원리입니다. AI는 대립을 통하여 원본과 조작 영상물의 오차를 최대한 줄여나가게 됩니다.

가짜 이미지 제작 기술은 오래전부터 있었지만 이전에는 수작업으로 편집되어 확대하면 조작한 티가 금방 났죠.

하지만 영상편집 기술과 GAN이 만나면서 AI가 합성하고자 하는 얼굴의 모습이나 표정이 다르더라도

알아서 자연스럽게 합성해주면서 진짜와 가짜를 감별해내기가 어려워졌습니다.

 

딥페이크는 사람이 정보를 조작하는 수준을 넘어 AI의 힘을 빌려 진짜 같은 가짜 정보가 범람할 수 있다는 점에서

가장 조심해야 할 AI의 위험요소 중 하나입니다.

 

또한 딥페이크는 프로그래밍 소스가 공개되어 있어 일정 수준 이상의 프로그래밍 언어를 구사할 수 있다면

가정용 컴퓨터로 영상을 조작할 수 있어 누구나 손쉽게 사용할 수 있으며

심지어 프로그래밍 언어를 모르더라도 조작 영상을 내려받을 수 있는 웹사이트까지 등장하였습니다.

 

GAN 기술은 빠른 속도로 발전하여 지금은 사진 한 장으로 말하는 얼굴 동영상을 만들어낼 수 있는 수준인데요.

국내에선 목소리를 위조하는 기술도 연구 중이니 딥페이크 범죄 또한 점점 발전하겠죠.

 

딥페이크 범죄의 문제점은 개인의 사생활 침해 뿐만 아니라 여론 조작을 통한 국가안보 분야에서도 위협적입니다.

뉴미디어 버즈피드가 오바마 전 미국 대통령이 트럼프는 정말 쓸모없는 사람이라 말하는 영상을 게시한 적이 있는데

이 영상은 딥페이크 영상의 파급력을 알리기 위해 오바마 전 미국 대통령과 코미디언의 목소리, 얼굴 모습을

합성한 가짜 영상이었지만 가짜라는 사실을 구분해내기 쉽지 않죠.

 

딥페이크로 인한 피해자는 점점 늘어나고 있으며 개선의 목소리 또한 커지고 있지만 갈 길이 쉽지 않습니다.

기존의 허위정보와 차원이 다른 위험성을 가진 딥페이크지만 국내에는 딥페이크 규제 법안이 전무한 실정입니다.

딥페이크 포르노 처벌 강화법이 국회 본회의를 통과하면서 이제서야 법적 해결책이 조금씩 마련되고 있죠.

기술이 발전하는 속도 만큼이나 정부의 정책적인 노력 또한 많이 필요해보입니다.

---

2. 딥페이크 막는 딥러닝

---

인공지능 전문 기업인 머니브레인은 딥페이크 영상을 검증할 수 있는 딥러닝 모델 Detectdeepfake.ai를 출시했죠.

해외 연구진이 개발하거나 자사에서 수집한 광범위한 데이터를 딥러닝 AI에 분석 학습을 시켜

해당 데이터에 포함된 딥페이크 영상의 검증률을 99%까지 끌어올렸으며

학습한 AI가 한 번도 보지 못한 새로운 딥페이크 영상에 대한 검증에서도 90%의 검증률을 보였습니다.

이는 해외에서 인정하고 있는 검증 모델보다 월등히 높은 수준의 검증률이라고 해요.

 

---

3. 블록체인을 이용한 딥페이크 대응

---

블록체인을 활용한 딥페이크 방지 기술 개발도 활기를 띠고 있습니다.

블록체인은 참여자 간에 일치된 데이터를 공유하는 플랫폼으로 정의할 수 있는데

일치된 데이터를 참여자 간에 공유하고 참여자가 이러한 데이터에 무결성을 보증하여 데이터 조작으로부터 안전해요.

뿐만 아니라 블록체인은 신뢰된 데이터를 공유해 쉽게 데이터 이력을 추적할 수 있어요.

콘텐츠의 출처를 블록체인으로 기록하면 콘텐츠를 변형해도 진위를 파악할 수 있죠. 

---

딥페이크를 막기 위한 기술의 개발이 계속되고 있지만

딥페이크를 탐지하는 기술이 고도화되면 딥페이크를 이용한 조작 기술 역시 고도화 되겠죠.

화폐 위조범이 위조 화폐를 만들고 경찰은 고도화된 수사 기법을 이것을 단속하고

화폐 위조범은 다시 고도화된 위조 화폐를 만들어내는 것과 비슷해요.

결국 딥페이크를 아예 막을 수 없다면 중요한 것은

우리가 진실과 가짜를 비판적으로 생각하는 미디어 리터러시를 갖추는 것이겠습니다.