AI의 발전으로 큰 편리함을 누릴 수 있는 요즘, AI가 악용되는 사례도 점점 늘어나는데요. 그중에서도 딥페이크는 특히 악용 사례가 많은 기술이죠. 딥페이크 기술이 무엇인지, 그리고 딥페이크가 활용되는 분야에 대해 알아볼게요.
딥페이크의 개념과 그 원리
딥페이크(Deepfake)란 인공지능의 딥러닝(Deep Learning)과 가짜(Fake)를 합친 단어로, 인공지능을 이용해 사람의 이미지나 영상, 음성 등을 합성하는 기술이에요. 원래 사진이나 영상에 다른 사람의 얼굴이나 목소리를 합성해 진짜처럼 보이게 하는 기술을 딥페이크라고 불렀지만, 요즘은 아예 온전히 가상의 인물을 만들어내는 기술까지 포괄해요. 딥페이크가 부정적인 뉘앙스를 내포한 단어라고 착각할 수 있지만, 용어 자체는 가치중립적이죠.
딥페이크는 딥러닝 중에서도 GAN(Generative Adversarial Net, 생성적 적대 신경망)이라는 알고리즘이 사용돼요. GAN 알고리즘에는 2개의 모델이 존재하는데 하나는 그럴듯한 합성 이미지와 영상을 만드는 생성자(Generator), 다른 하나는 생성자가 만들어낸 이미지나 영상이 실제인지 거짓인지 판별하는 감별자(Discriminator)예요.
생성자는 감별자가 제대로 구분해 내지 못할 정도로 그럴듯한 결과물을 내고, 감별자는 어떤 정교한 결과물이든 실제와 가짜를 구분하는 것을 목표로 하는데요. 이 두 모델이 판별과 생성의 과정을 반복하면서 더욱 그럴듯한 합성 결과물을 만들어내요.
어떻게 사용될까?
콘텐츠 제작에 쓰여: 과거에는 CG로만 처리할 수 있던 기술을 딥페이크로 처리할 수 있어요. 최근 넷플릭스 스릴러 드라마 <살인자ㅇ난감>의 손석구 배우 아역이 많은 관심을 모았죠. 이 아역은 딥페이크로 구현해 낸 것으로 밝혀졌어요. 이렇듯 영화와 드라마 등에서 종종 딥페이크 기술이 활용돼요.
가짜뉴스, 피싱, 포르노에 악용되기도: 하지만 악용되는 분야도 많아요. 조작된 정치인의 사진이나 영상 등은 SNS를 통해 삽시간에 퍼질 수 있는데요. 딥페이크 기술이 고도화될수록 진짜 뉴스와 가짜 뉴스를 판별하기 어려워지죠. 특히나 선거를 앞두고 유명 정치인을 대상으로 한 딥페이크 가짜 뉴스는 세상에 많은 혼란을 가져오고 있어요.
전체 딥페이크 합성의 95% 이상이 딥페이크 포르노라는 충격적인 통계도 있는데요. 지금도 여전히 유명 연예인뿐만 아니라 일반인까지도 딥페이크 포르노의 피해에 노출돼 있어요. 딥페이크 악용으로 인한 피해가 늘어나면서 이를 방지하기 위한 기술도 개발되고 있어요. 구글의 딥마인드는 이미지 내에 픽셀 단위로 워터마크를 새겨 넣는 신스아이디(SynthID)를 개발했어요. 신스아이디는 이미지 내에 눈에 보이게 삽입되는 일반적인 워터마크와 달리 픽셀 내부에 아주 미세하게 디지털 워터마크가 삽입되기 때문에 육안으로는 워터마크가 보이지 않아요.
각국 정부도 규제 마련에 속도를 내는데요. 현재 미국 33개 주에서 딥페이크 방지 관련 법안이 발의된 상태이고, 유럽연합(EU)는 더욱더 광범위한 AI법을 준비하고 있죠. 딥페이크가 우리 사회에 끼치는 악영향이 점점 커지는 요즘, 딥페이크에 대한 대응을 폭넓게 고민해봐야 하는 시점이에요.