틴매일경제

2024년은 전 세계 76개국에서 선거가 치러지는 '슈퍼 선거의 해'입니다. 최근 딥페이크(Deepfake)를 통한 후보자 비방과 허위 정보 유포가 급증하면서 사회적 혼란이 확산되고 있습니다.

정치적 목적으로 딥페이크를 악용할 경우 유권자들에게 잘못된 정보를 제공할 수 있습니다. 지난 5일 경찰청 국가수사본부는 딥페이크 영상을 5∼10분 만에 판가름하는 탐지 소프트웨어를 개발했다고 밝혔습니다. 4월 총선을 앞두고 조작 영상 단속에 나설 계획입니다.

Q. 딥페이크란.

A. 딥페이크는 '딥러닝(deep learning)'과 '가짜(fake)'의 합성어로, 원하는 영상에 특정 인물의 얼굴이나 신체 부위를 합성하는 기술입니다.

딥페이크라는 단어가 처음 등장한 것은 2017년입니다. 미국 온라인 커뮤니티 한 회원이 '딥페이크'라는 아이디를 사용해 유명인의 얼굴을 다른 사람의 몸에 합성한 영상을 게시하면서 하나의 명사로 굳어졌습니다.

Q. 딥페이크 어디까지 발전했나.

A. 최근 저렴한 비용에 영상 제작을 의뢰할 수 있는 업체가 많아지면서 딥페이크 기술이 대중화되고 있습니다. 영국 인공지능(AI) 스타트업 '신세시아'는 텍스트 입력만으로 원하는 영상이나 이미지를 만들어내는 서비스를 제공하는데 놀랍게도 이 서비스의 가격은 월 3만원(22.5달러)에 불과합니다. 비슷한 서비스인 '미드저니'에서도 월 약 1만원에 500장 이상 가짜 이미지를 만들 수 있습니다.

Q. 선거를 앞두고 우려가 커지는데.

A. 올해 전 세계 선거를 앞두고 우려의 목소리는 더욱 커지고 있습니다. 악의적으로 사진을 합성해 특정 인물을 공격하는 경우가 빈번하기 때문입니다. 이는 가짜뉴스 제작에도 악용되어 사회적 혼란을 일으키고 있습니다.

지난해 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 사진이 사회관계망서비스(SNS)를 통해 빠르게 퍼져나갔습니다. 지지자들은 큰 충격을 받았습니다. 조 바이든 미국 대통령이 치매 관련 서적을 구매하는 영상도 유포되었습니다.

우리나라 또한 최근 유명 정치인이 4·10 총선 출마 후보자를 비판하는 딥페이크 영상이 등장하기도 했습니다. 중앙선거관리위원회는 지난 1월 29일부터 2월 16일까지 선거법 위반 딥페이크 게시물이 129건에 달한다고 밝혔습니다.

Q. 속도 내는 대책, 앞으로의 과제는.

A. 전 세계 정부들이 딥페이크 문제에 대응하기 위해 적극적으로 나서고 있지만, 빅테크 기업의 협조 없이는 실효성이 떨어질 수밖에 없다는 지적이 제기됩니다. 지난달 독일 뮌헨안보회의(MSC)에서는 오픈AI, 구글 등 20개의 빅테크 기업들이 딥페이크 영상을 차단하기 위한 노력을 강화하겠다고 밝혔습니다.

다만 이런 노력들은 딥페이크 콘텐츠 자체를 금지하거나 삭제하지 않는다는 점에서 한계가 있습니다. 또 자율성에 기반하기 때문에 강제력이 부족하다는 지적도 있습니다.

[유가영 경제경영연구소 인턴기자]