딥페이크 뜻과 사례 알아보기

 이번 포스팅은 딥페이크 관련 악용사례 기사를 보고 작성하였습니다.

 한국일자로 26일 자 CNN을 통해 보도된 테일러스위프트의 얼굴을 합성한 음란 딥페이크 이미지가 엑스(옛 트위터계정)에 유포되면서, 계정에 대한 조치가 진행되기까지 순식간에 4500만 회 이상의 조회수를 기록했습니다. 트위터 자체 수치만으로도 엄청나지만 해당 이미지는 페이스북, 인스타그램, 레딧 등 다른 소셜미디어 플랫폼으로 까지 확산되었으니 사실상 더욱 많은 사람들이 해당 이미지를 확인하였고 지금도 퍼져나가고 있을 거라 생각됩니다. 톱스타의 인지도 등을 악용한 파급력이 정말로 엄청난데, 단 몇 시간 만에 대한민국의 인구만큼의 사람들이 해당 내용을 접할 수 있단 걸 보면, 악용되었을 시에 발생할 문제점은 상상하는 것만으로도 끔찍하네요. 

 이런 딥페이크는 무엇이며 우리에게 주는 장점과 단점 마지막으로 악용된 사례에 대해 알아보겠습니다. 

---

딥페이크란?

 딥페이크란 Deep learning + Fake 두 단어가 합쳐진 의미로 인공지능을 이용해 가짜영상이나 사진을 만드는 AI기술입니다. 주로 얼굴을 다른 사람의 얼굴로 교체하는 등의 목적으로 사용됩니다. 이 기술은 머신러닝과 딥러닝 기술의 발전으로 생성된 것이며, 가장 많은 주목을 받은 사례 중 하나는 인공지능을 사용하여 유명인사들의 얼굴을 사용한 성인 콘테츠 제작 사례입니다.

 

딥페이크의 문제점

  딥페이크 기술이 발점함에 따라 가짜이지만 점점 더 진짜 같아 보이는 퀄리티의 영상 등이 제작되면서 여러 방면에서 문제점이 발생하고 있습니다.

 

1. 정치적 선전 및 선거 조작 

 이는 후보자의 얼굴을 딥페이크하여 부정확하거나 조작된 영상을 만들어 선거 캠페인에 활용될 수 있습니다. 이는 투명성과 믿음을 훼손하고 선거 과정에 혼란을 줄 수 있습니다. 선거기간 동안 잘못 유출된 영상으로 인해 해당 후보자에 지지율은 순식간에 변화에 폭을 가져올 것이며, 해당영상이 가짜라고 하여도 선거기간 동안에나 선거기간이 종료된 후에나 계속해서 그에게 좋지 않은 영향을 미치게 될 것입니다.

2. 사생활 침해 및 명예 훼손

 개인의 사생활을 침해하고 명예를 훼손하는데 사용될 수 있습니다. 누군가의 얼굴을 사용하여 음란물을 만들거나, 부정확한 발언을 만들어 그 사람을 혐오의 대상으로 만들 수 있습니다. 이는 피해자에게 정서적 고통과 사회적 손상을 초래할 수 있습니다.

3. 금융 사기 및 사기 행위

금융 산업에서도 딥페이크의 기술은 사기 행위에 사용될 수 있습니다. 예를 들어 기업의 임원, 가족구성원원 중의 한 명, 친구 등의 목소리나 얼굴을 딥페이크 하여 통화조작을 통한 사기를 벌이는 데 사용될 수 있습니다. 이러한 사기를 통해 기업의 신뢰성의 훼손하고 금전적인 손실을 초래할 수 있으며, 가족이 위급한 상황이라는 착각에 온전히 상황을 판단하지 못하여 사기를 당할 수 있는 상황에도 처할 수 있습니다.

 

 딥페이크 기술이 현재 사회적으로 많은 문제를 초래하고 있으며, 개선점을 만들어 가고 있지만 아직까지 제대로 된 처벌이 이루어지진 않고 있습니다. 관련된 문제가 더 크게 일어나는 미국에서도 현재는 9개의 주에서 AI를 이용한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하곤 있지만, 연방 정부 차원의 규제는 없습니다.

딥페이크 관련 사례

 1. 미스터비스트 '아이폰 15' 2달러에 구입 10,000 명 경품이벤트

유튜브 구독자수 2억만명의 초대형 유튜버 미스트비스트의 딥페이크를 활용한 가짜 콘텐츠 유포영상을 제작 후에 관련된 링크를 클릭하도록 유도했던 사례입니다. 현재 미스트비스트의 파급력으로 생각해 봤을 때 해당 딥페이크 영상이나 이미지가 진짜라고 생각하여 링크를 클릭했다고 가정했을 때, 많은 사람들이 사기를 당할 수 있는 문제가 발생합니다. 

 

2. 딥페이크영상으로 컨텐츠 제작활용

일론머스크의 딥페이크 영상을 통해 한때 코인풍에 천당과 지옥을 오갔던 사람들이라면 한번 이상은 보셨을 영상입니다. 절묘하게 그의 얼굴과 노래를 합성하여 콘텐츠로 활용한 예시입니다. (나몰라 패밀리)

 

3. 유명스트리머 등 음란물관련 이미지 유포

유튜브나 트위치 기타 라이브방송 플랫폼의 인기 있는 스트리머나 인지도 있는 사람들의 얼굴을 합성하여 음란물을 배포한 사례등이 있습니다. 해당이미지는 누가 봐도 합성이다라고 생각할 것들도 많지만, 실제로는 정말 그 사람이 찍었을 거란 생각이 들 정도에 정밀한 사진들 또한 포함되었습니다. 

 이러한 딥페이크 사진들의 유포 등으로 당사자들은 그들의 인지도와 파급력으로 인해 자신이 하지 않은일에도 해명을 해야 하는 경우 등 그들을 피곤하고 슬프게 만들었습니다.

 

딥페이크 기술력 단점만 있는가?

딥페이크 기술의 부정적인 측면이 너무나도 위험하고 파급력이 강하기 때문에 비교적 장점에대한 것들이 많이 묻혀버리는데요. 딥페이크에 장점도 몇 가지 알아보겠습니다.

예술 및 엔터테인먼트

딥페이크 기술은 예술과 엔터테인먼트 분야에서 창의적으로 활용될 수 있습니다. 예를 들어, 딥페이크를 활용하여 유명 배우나 가수의 얼굴을 다른 인물에게 합성하여 역사적인 장면을 재현하거나 특정 배역을 대체할 수도 있습니다. 또한 딥페이크 기술은 디지털 콘텐츠의 생동감을 향상하고 새로운 시각적 효과를 만들어내는 데 사용될 수 있습니다.

교육 및 연구 

교육 및 연구 분야에서도 유용하게 활용될 수 있습니다. 예를 들어 역사적 인물의 연설이나 과학자의 발표를 딥페이크 기술을 사용하여 새로운 시각적 및 청취적 자료로 제공할 수 있습니다. 또한 언어 학습, 감정 인식 및 인지 과학 연구 등 다양한 분야에서 실험에 사용될 수 있습니다.

의료 및 보안

 의료 분야에서는 환자의 얼굴이나 음성을 사용하여 실제 환경에서의 치료 효과를 시뮬레이션하고, 질병 진단 및 치료에 대한 훈련을 제공할 수 있습니다.

 보안 분야에서는 딥페이크 기술을 활용하여 보안 시스템을 강화하고, 침입자의 얼굴을 감지하고 추적하는 등의 용도로 활용할 수 있습니다.

 

 

포스팅을 마치며, 딥페이크를 통한 악용된 사례 등을 알아보면서 실제생활에서도 나도 사기를 당할 수 있을 거 같다는 무서운 생각이 들게 되는 내용이었습니다. 악용되는 사례에 대한 처벌등을 좀 더 구체적으로 강화시켜서 악용되는 사례보다 우리 실상에서 편의성을 돕는 이로운 쪽의 기술들이 좀더 활용되기를 기대하겠습니다.

 

이상 오늘도 월급탈출을 꿈꾸며..