딥페이크 가짜 영상주의보… 세계 각국 피해 속출

이 시간 주요기사

뉴스 > IT·인터넷

尹 연설 짜깁기 편집한 허위 영상 SNS서 유포… 방심위 차단 나서
미국서 바이든 대통령 등 정치·유명인 딥페이크 영상·음성 나돌아
“거짓 정보 많아져도 출처 찾기 어렵다… 노인층 피해 증폭 우려”

김기찬 기자 기자페이지 + 입력 2024-02-25 14:15:48

▲ 대구 서구 대구시선거관리위원회에서 사이버지원단 AI 모니터링 전담반이 온라인상 선거법 위반 상황을 감시하고 있다. 연합뉴스

인공지능(AI) 기술을 악용해 허위 이미지·영상 등을 만들어 유포하는 사례가 급증하면서 선거를 앞둔 지구촌 여러 국가들이 비상에 걸렸다. 방송통신심의위원회는 4월 총선을 앞두고 윤석열 대통령이 등장하는 허위 조작 영상이 유포되자 차단할 방법을 모색하고 있다.

25일 사회관계망서비스(SNS) 등에 따르면 ‘윤석열 대통령의 양심 고백 연설’이라는 제목으로 한 영상이 23일께 공개됐다. ‘딥페이크’(Deepfake) 기술을 악용해 2022년 대선 방송 연설에서 주어 등을 뒤바꿔 짜깁기 편집한 허위 영상이었다. 딥페이크는 AI 기술을 기반으로 한 인간 이미지 합성 기술이다.

경찰은 방심위에 영상 차단과 삭제를 요청했고, 방심위도 심의에 착수해 즉각 차단 조치 등에 나섰다. 4월 총선을 앞두고 있는 만큼 중앙선거관리위원회도 전담반을 투입하고 선거운동 관련 딥페이크 영상 적발에 나섰다.

하지만 유튜브·틱톡·인스타그램 등 동영상 플랫폼 및 SNS에 빠르게 확산됐다. 이날 기준으로 다시 검색하면 해당 영상은 아직 차단·삭제 등 조치가 제대로 이뤄지지 않은 것으로 보인다. 초기 영상은 ‘가상으로 꾸며 본 윤 대통(령) 양심 고백 연설’이라는 문구가 영상 상단에 표시돼 있었으나, 이후 재확산된 영상에는 이같은 문구가 표시되지 않은 채 마치 진짜 연설인 것처럼 업로드됐다.

딥페이크 기술을 활용한 영상은 수년 전부터 온라인 상에서 어렵지 않게 찾아볼 수 있었다. 다만 최근 딥페이크 기술이 빠른 속도로 발전하면서 실제와 분간이 어려운 수준까지 도달했다.

우리나라뿐 아니라 다른 국가에서도 딥페이크 조작 영상으로 정치인·유명인 등이 피해를 입고 있다. 특히 올해 대선을 두고 있는 미국 CNN 등 외신에 따르면 미국에선 지난달 23일 조 바이든 미국 대통령을 사칭해 경선 불참을 권유하는 딥페이크 음성이 유포돼 논란이 된 바 있다.

지난달 말에는 인기 팝가수 테일러 스위프트의 얼굴이 합성된 음란물이 X(옛 트위터)를 통해 급속도로 퍼진 바 있다. 해당 영상은 19시간 동안 4700만 회 조회된 것으로 전해졌다.

유럽연합(EU)도 전 세계적으로 딥페이크 조작 영상 확산의 위험성을 느끼고 지난해 말 무분별한 인공지능 기술 이용을 엄격하게 규제하는 ‘AI 규제법’(AI Act)을 법안을 통과시킨 바 있다.

올해는 약 40개 국가에서 대통령이나 의회 선거가 진행되는 해다. 딥페이크 기술을 악용한 허위 콘텐츠가 유권자들의 결정에 영향을 줄 수 있는 만큼 전문가들은 주의를 당부하고 있다.

보안 교육업계 한 전문가는 “정치적 목적을 갖고 AI 기술을 악용한 허위 정보를 퍼트리려는 움직임은 물론 챗 GPT와 같은 생성형 AI를 악용해 보안 위협을 가하는 공격 시도들이 최근 많아지고 있다”며 “처벌과 규제를 강화하더라도 기존 공격 그룹들이 시도하고 있는 것인지 AI를 활용해 정치적 교란을 목적으로 거짓 정보를 퍼트리는 것인지 알기가 쉽지 않은 현실이다”고 말했다.

그는 “디지털 기기를 다루는 데 익숙한 젊은 세대들은 딥페이크 영상이 올라와도 어색한 부분을 쉽게 찾아내거나 거짓 정보에 대한 주의가 필요하다는 교육을 어려서부터 받아왔기에 쉽게 선동되지 않을 것 같다”면서도 “하지만 디지털 환경에 미숙한 노령층은 딥페이크 영상을 진짜 영상으로 착각할 위험이 있어 더욱 주의해야 한다”고 당부했다.

김기찬 기자 gckim@skyedaily.com 기자페이지 +