Xp
NBA       
Xp
  
KBL       
Xp
  
Mania Community. Your Favorite.
Free-Talk
(TED) 진실을 해치고 민주주의를 위협하는 딥페이크
 
5
  2222
2019-12-03 11:04:55

정확히 이쪽 분야를 연구하고 있지는 않지만 유사 전공에서 좀 들여다 본 바로는 이 강연에서 말하는 미래가 그리 멀지 않았다고 확신합니다.
 
진실과 거짓을 구분하기가 점점 어려워지는 세상이 오고 있는데 어떻게 대처해야 할까요?
---------------------------------------------------------------------
딥페이크 기술을 이용하여 영상과 음성 파일을 조작하는 것은, 그것이 폭력을 유도하기 위해서든 정치인과 기자들의 명예를 훼손시키기 위해서든, 실제로 위협을 끼치고 있습니다. 이 도구들이 더욱 접근하기 쉬워지고 결과물이 점점 실제와 비슷해지고 있는 와중, 딥페이크는 우리의 세상에 대한 관점을 어떻게 바꿀까요? 이 강연에서 법학 교수 다니엘 시트론은 딥페이크가 우리의 불신을 증폭시킨다는 사실을 밝힙니다. 또, 진실을 지켜내기 위한 여러 해결책들을 제시합니다.
7
Comments
4
Updated at 2019-12-03 11:11:01
제가 아는 딥페이크는....
WR
2019-12-03 11:29:13

2
2019-12-03 11:37:08

딥페이크가 더 교묘해져도 결국 할리우드 CG기술자만 못한데, 언론과 정치인의 문제를 엉뚱하게 테크에다 뒤짚어 씌우네요. 진짜같은 영상 없이도 종이 쪼가리 몇장이랑 교묘한 말로 민주주의를 위협하는게 사람인데 말입니다.

WR
2019-12-03 12:31:23

말씀도 맞긴 한데요, 딥 페이크가 생각보다 그렇게 시시한 기술은 아닙니다.

 

조만간엔 CG 기술자 자리부터 위협할 거라는 예상이 많거든요.

 

말씀하신대로 '진짜같은 영상 없이도 종이 쪼가리 몇장이랑 교묘한 말'만으로도 민주주의를 위협해왔다면 거기에 더 강력한 무기가 추가된 거라고 생각하시면 될 거예요.

1
2019-12-03 14:25:59

영상의 힘은 몇마디 말보다 훠얼씬 강력합니다.
펜끝이 칼이라면 영상은 핵폭탄이죠.
시각적인 임팩트는 감성과 본능에 직격탄을 날리죠.
영화 내부자들에서 나온것처럼 말이죠.
게다가 다른 사람의 영상에 특정인의 얼굴을 가져다 자연스럽게 붙이는 작업은 빅데이터기술 없이 기존 cg기술만으로는 불가능에 가깝다고 알고있습니다.
특히 목소리까지 페이크로 넣는다면 더 그렇구요.

3
Updated at 2019-12-03 14:54:21

두분의 코멘트가 달렸는데 따로 댓글 달기는 애매한 감이 있어서 하나로 갈음하겠습니다

딥페이크가 영상을 재생산하기 때문에 글보다 위험한 매체라기에는 이미 미국 주요 언론에서는 정치인들 사진이나 동영상을 본인들이 지지하는 방향으로 편집해서 올리다 걸린 전례가 있습니다. 트럼프는 사악해 보이고, 힐러리는 상냥해 보이는 식이었죠.

그런 것들은 어디까지나 언론과 정치인의 문제이고.. 폭탄 테러 때문에 화약을 만들면 안된다, 교통사고 때문에 자동차를 만들면 안된다는 식의 얘기에 불과합니다. 딥페이크가 민주주의에 대한 위협이라는 과장된 이야기보다는 차라리 영상 초반에서 언급하는 딥페이크 리벤지 포르노 같은 것들이 훨씬 문제가 될 수 있습니다.

그러나 현재 저희가 인터넷 블로그나 유튜브 정치 영상에 올라오는 유언비어를 그다지 신뢰하지 않는 것처럼, 공식채널이 아닌 어떤 영상도 신뢰하지 않는 세상이 오게 될 것입니다. 아무리 그럴싸한 합성사진이어도 있을 리 없는 일은 합성이란 의심부터 하는 것처럼, 딥페이크란 기술이 존재한다는 걸 점점 더 많은 사람들이 인식할 것이기 때문에, 그런 것들을 고려하지 않고 사람들이 무작정 어떤 영상을 믿을 정도로 멍청하지는 않죠. 본인 정치성향에 부합하는 내용을 취사선택 하는게 아니라면요. 그리고 그런 인지부조화와 확증편향은 지금도 블로그, 팟캐스트, 유트브 모든 곳에서 이미 벌어지고 있습니다.

마지막으로 관련 분야에서 일하는 엔지니어로써 첨언하자면, 사람은 구분하기 힘들어도 동등한 인공지능은 저런 합성 영상들을 훨씬 쉽게 구분해낼 수 있습니다. 이런 류의 generator를 훈련할 때 함께 훈련하는 것이 discriminator이고 둘은 열쇠와 자물쇠 같은 관계입니다. 한쪽이 강력해지면 다른 한쪽도 강력해지면서 퀄리티를 올리게 되고, 그 과정에서 discriminator는 사람 눈에 보이지 않는 사소한 데이터 쪼가리만 가지고도 가짜라는 것을 판단합니다. 그럴싸한 것을 만들어야 하는 generator보다는 판독만 하는 discriminator 쪽이 압도적으로 유리하기 때문이죠. 때문에 이런 것들이 사법 영역에서까지 혼선을 빚고 세상을 흔들기는 어렵다고 봅니다.

WR
2019-12-03 22:02:59

맞는 말씀이십니다.

 

다만 본 강연은 그래서 딥페이크의 개발을 막자가 아니라 이러한 사회적인 파장을 고려하여 정책적인 대응책을 만들 필요가 있다는 게 주제인 거 같습니다.

글쓰기
검색 대상
띄어쓰기 시 조건