[미디어파인 칼럼] 딥페이크 기반 가짜뉴스, 선 넘네? 퇴출 방안 속속[박용선 칼럼] > 칼럼/기고

• 목록

• 페이스북 공유
• 트위터 공유

[미디어파인=디지털장의사 박용선의 '잊혀질 권리’] 유튜브를 중심으로 생성형 AI 기술을 악용한 가짜뉴스 영상이 우후죽순 등장했다. 뉴스 형식을 모방해 자극적인 제목으로 포장한 거짓 정보가 빠르게 확산되는 모양새다.

지난 3월에는 배우 신애라가 경찰에 체포됐다는 내용의 딥페이크를 이용한 가짜뉴스가 온라인상에 유포된 바 있다. ‘신애라 충격적인 사실 밝혀져 구금됐다’, ‘신애라 비밀문서 발견돼 체포했다’ 등은 콘텐츠는 모두 거짓 정보였다. 신애라뿐 아니라 고현정, 박준형, 신기루, 이순재 등의 사망설이 가짜뉴스 형태로 퍼지면서 많은 연예인들이 피해를 호소하고 있다.

정재계 인사들도 예외는 아니다. AI로 만든 대통령의 가짜 육성 연설이나 유명 가수의 존재하지 않는 발언이 뉴스로 둔갑하기도 한다. 2024년 미국 대선을 앞두고 당시 대선 후보 조 바이든이 유권자들에게 엉뚱한 투표를 권유하는 딥페이크 로보콜, 가수 테일러 스위프트가 도널드 트럼프를 지지한다는 가짜 홍보물 등이 확산된 바 있다.

국내에서는 강원랜드를 사칭한 불법 온라인 도박 사이트가 AI로 조작 영상을 제작ㆍ유포해 피해가 커지고 있다. 유튜브에는 “정부의 공식 승인을 받아 강원랜드가 온라인 카지노를 합법적으로 시작했습니다”라는 멘트로 시작하는 강원랜드 대표이사 직무대행의 인터뷰 영상이 게재됐다. 얼굴, 음성, 발화 내용 모두 인공지능으로 합성된 가짜뉴스지만, 알고리즘을 통해 유튜브, 인스타그램, 스레드 등으로 퍼지고 있다.

도를 넘은 가짜뉴스가 기승을 부리면서 제도 및 정책 개선 움직임이 일고 있다. 유튜브는 수익화 정책을 일부 개편했다. 지난 15일부터 적용된 이번 정책은 △반복적으로 제작된 콘텐츠 △타인의 영상이나 이미지를 도용한 영상 △AI 기술만으로 생성된 저품질 콘텐츠에 광고 수익을 제한하는 것이 골자다. 수익 제한을 통해 플랫폼 생태계를 정비하겠다는 방침이다.

지난 16일 국회선플위원회 소속 22명의 국회의원과 선플재단 민병철 이사장은 선한 언어문화 확산 등을 목표로 하는 제22대 국회선플위원회 출범을 선언했다. 'AI 디지털 대응 상생위원회', '지구촌 평화위원회', '지자체 위원회'를 중심으로 악성 댓글, AI 딥페이크, 가짜뉴스 등 디지털 시대 언어 폭력과 정보 왜곡 문제에 대응한다는 계획이다.

디지털 세탁소, 디지털 장의사 업계도 가짜뉴스 확산을 막아 올바른 온라인 문화를 조성하기 위해 앞장서고 있다. 디지털 장의사는 가짜뉴스 등 불법 게시물을 합법적이고 신속하게 삭제해 주는 역할을 수행한다. 유튜브를 비롯해 SNS, P2P, 블로그와 카페, 지식인 등 국내외 커뮤니티 등에 게재된 각종 이미지, 동영상을 삭제하거나 검색 결과에서 제외시킨다.

탑로직은 ‘가짜뉴스 퇴출 센터’를 설립하고 잘못된 정보가 순식간에 퍼져 나가는 것을 막고 있다. 다수의 피해자를 만드는 가짜뉴스 차단해 사회적 혼란을 방지하고 깨끗하고 안전한 인터넷 환경을 만들고 있다.

출처 : 미디어파인(https://www.mediafine.co.kr)