(TED) 진실을 해치고 민주주의를 위협하는 딥페이크

딥페이크가 더 교묘해져도 결국 할리우드 CG기술자만 못한데, 언론과 정치인의 문제를 엉뚱하게 테크에다 뒤짚어 씌우네요. 진짜같은 영상 없이도 종이 쪼가리 몇장이랑 교묘한 말로 민주주의를 위협하는게 사람인데 말입니다.

두분의 코멘트가 달렸는데 따로 댓글 달기는 애매한 감이 있어서 하나로 갈음하겠습니다

딥페이크가 영상을 재생산하기 때문에 글보다 위험한 매체라기에는 이미 미국 주요 언론에서는 정치인들 사진이나 동영상을 본인들이 지지하는 방향으로 편집해서 올리다 걸린 전례가 있습니다. 트럼프는 사악해 보이고, 힐러리는 상냥해 보이는 식이었죠.

그런 것들은 어디까지나 언론과 정치인의 문제이고.. 폭탄 테러 때문에 화약을 만들면 안된다, 교통사고 때문에 자동차를 만들면 안된다는 식의 얘기에 불과합니다. 딥페이크가 민주주의에 대한 위협이라는 과장된 이야기보다는 차라리 영상 초반에서 언급하는 딥페이크 리벤지 포르노 같은 것들이 훨씬 문제가 될 수 있습니다.

그러나 현재 저희가 인터넷 블로그나 유튜브 정치 영상에 올라오는 유언비어를 그다지 신뢰하지 않는 것처럼, 공식채널이 아닌 어떤 영상도 신뢰하지 않는 세상이 오게 될 것입니다. 아무리 그럴싸한 합성사진이어도 있을 리 없는 일은 합성이란 의심부터 하는 것처럼, 딥페이크란 기술이 존재한다는 걸 점점 더 많은 사람들이 인식할 것이기 때문에, 그런 것들을 고려하지 않고 사람들이 무작정 어떤 영상을 믿을 정도로 멍청하지는 않죠. 본인 정치성향에 부합하는 내용을 취사선택 하는게 아니라면요. 그리고 그런 인지부조화와 확증편향은 지금도 블로그, 팟캐스트, 유트브 모든 곳에서 이미 벌어지고 있습니다.

마지막으로 관련 분야에서 일하는 엔지니어로써 첨언하자면, 사람은 구분하기 힘들어도 동등한 인공지능은 저런 합성 영상들을 훨씬 쉽게 구분해낼 수 있습니다. 이런 류의 generator를 훈련할 때 함께 훈련하는 것이 discriminator이고 둘은 열쇠와 자물쇠 같은 관계입니다. 한쪽이 강력해지면 다른 한쪽도 강력해지면서 퀄리티를 올리게 되고, 그 과정에서 discriminator는 사람 눈에 보이지 않는 사소한 데이터 쪼가리만 가지고도 가짜라는 것을 판단합니다. 그럴싸한 것을 만들어야 하는 generator보다는 판독만 하는 discriminator 쪽이 압도적으로 유리하기 때문이죠. 때문에 이런 것들이 사법 영역에서까지 혼선을 빚고 세상을 흔들기는 어렵다고 봅니다.