딥페이크

정의

딥페이크(Deepfake)란, 인공지능 기술인 딥러닝(deep learning)과 ‘가짜’를 의미하는 단어인 페이크(fake)의 합성어로, 인공지능 기술을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 뜻한다.

배경

유명인을 사칭한 사기 범죄에 딥페이크 합성물이 사용된 사례들이 대표적이다. 지난해 중반부터, 삼성전자 이재용 회장, 축구선수 손흥민, 개그맨 유재석을 비롯한 유명인을 사칭하여 높은 수익률의 투자정보를 알려주겠다는 사기성 광고가 인터넷 플랫폼을 통해 무차별하게 유포되기 시작했다. 금년 2월에는 한 다국적 금융회사의 홍콩지사가, 회사 임직원들의 얼굴을 합성한 ‘딥페이크 화상회의’까지 동원한 사기에 속아 약 2억 홍콩달러(약 340억 원)의 손해를 입은 사건이 보도되기도 했다.

가짜 뉴스도 심각한 딥페이크 악용 사례이다. 유명인사의 얼굴을 합성한 딥페이크 뉴스가 난무함에 따라 정치적·사회적 불안감이 가중되고 있다. 2019년 9월, 이탈리아에서 Matteo Renzi 전 총리가 다른 정치인들을 모욕하는 딥페이크 영상이 한 프로그램에서 방영된 후, SNS를 통해 급속히 확산되었다. 해당 영상은 배우의 몸에 총리의 얼굴을 합성한 조작 영상이었지만, 영상의 내용을 실제처럼 인식한 일부 SNS 이용자가 총리를 향해 거센 비판을 제기하는 해프닝이 일어나기도 했다.

근거법령

성폭력범죄의 처벌 등에 관한 특례법 ( 약칭: 성폭력처벌법 ) [시행 2024. 1. 25.] [법률 제19743호, 2023. 10. 24., 타법개정]

해외사례

미국은 2023년 10월 바이든 대통령이 AI 관련하여 행정명령을 발표하였고 주 정부 차원에서도 여러 가지 법안들을 상정하고 승인하고 있다. 일반적인 방향으로는, 보다 안전한 AI 개발과 관리를 위한 제정과 규제를 제안하고 있다. 그 중 딥페이크와 관련한 법안도 포함되어 있는데, 사우스 다코다주의 경우 컴퓨터로 생성된 영상이라 하더라도 아동 성영상 (computer-generated child pornography)을 알면서 소지하는 경우, 일반 아동 성영상을 소지하는 것과 동일하게 범죄로 취급된다.

참고문헌

1. 2019 미디어 이슈&트렌트(12월호)_[트랜드리포트]딥페이크 기술의 빛과 그림자, 2019. 12
2. '딥페이크' 무엇이 문제인가? - 딥페이크 관련 처벌과 법적 쟁점 정리
3. 2024 미국 인공지능(AI) 관련 법률 제정 동향