딥페이크 포르노그래피

딥페이크 포르노그래피(deepfake pornography), 간단히 페이크 포르노그래피(fake pornography)는 딥페이크 기술을 배우의 얼굴에 적용해 기존 포르노 자료를 변경하여 생성되는 합성 포르노의 일종이다. 딥페이크 포르노의 사용은 동의하지 않은 개인, 일반적으로 여성 유명인이 등장하는 사실적인 비디오를 제작 및 공유하고 때로는 리벤지 포르노에 사용되기 때문에 논란을 불러일으켰다. 법률과 기술 기반 솔루션을 통해 이러한 윤리적 문제를 해결하려는 노력이 이루어지고 있다.

역사

'딥페이크'라는 용어는 2017년 레딧 포럼에서 사용자들이 기계 학습 알고리즘을 사용하여 생성된 변경된 포르노 비디오를 공유하면서 만들어졌다. 영상을 제작하는 데 사용된 프로그램을 뜻하는 '딥러닝'과 영상이 진짜가 아니라는 뜻의 '페이크'를 합친 말이다.

딥페이크 포르노는 원래 기계 학습 알고리즘, 컴퓨터 비전 기술 및 AI 소프트웨어의 조합을 사용하여 소규모 개인 규모로 제작되었다. 이 프로세스는 사람의 얼굴에 대한 대량의 소스 자료(이미지 및 비디오 포함)를 수집한 다음 딥 러닝 모델을 사용하여 생성적 적대 신경망(GAN)을 훈련시켜 사람의 얼굴을 설득력 있게 바꾸는 가짜 비디오를 만드는 것으로 시작되었다. 포르노 배우의 몸에 소스 자료를 삽입하는 것이다. 그러나 2018년부터 프로세스를 크게 자동화한 여러 공개 앱이 등장하면서 생산 프로세스가 크게 발전했다.