TV·유튜버 등 영상 제작 분야에 인공지능(AI)의 진출이 이어지고 있다. AI는 방송 제작의 스펙트럼을 넓히고 인건비를 낮추며 방송산업에 새로운 활력을 불어 넣을 것으로 기대되고 있다.

반면 SNS와 인터넷서는 AI를 악용해 만든 유명인을 사칭한 가짜 광고와 뉴스, 포르노 영상이 버젓이 유통되며 범죄 도구로 악용되고 있다.

지난 12일 종료한 3부작 MBC 'PD가 사라졌다!'는 AI PD가 총 제작, 연출을 맡은 실험성 예능 프로그램이다. AI PD ‘M파고’가 스스로 창작한 다양한 게임을 제공하고 연예인들이 참여해 미션을 수행했다. M파고는 촬영본을 실시간으로 편집하고, 등장한 분량에 따라 출연자의 출연료를 차등 지급했다.

이외에도 14일 첫 방송을 시작한 KBS 2TV '김이나의 비인칭시점’은 작사가인 김이나가 음성합성 기술을 활용해 만들어진 AI와의 대화를 통해 진행하는 시사프로그램으로 주목받고 있다. 제주특별자치도는 도정정책 영상뉴스인 위클리 제주에 AI 아나운서 ‘제이나’를 도입했는데 월급 60만원의 미모의 아나운서라며 네티즌 사이에 화제를 모았다. 

연합뉴스에 따르면 한 방송사 PD는 "AI로 인해 앞으로 방송가의 패러다임이 바뀌게 될 것이기 때문에 엄청난 위기이자 기회라고 보고 있다"며 "AI에 의존하는 창작자들과 AI를 활용할 줄 아는 소수의 창작자로 나뉘게 될 것"이라고 밝혔다.

인터넷서는 '유명인 합성한 가짜 광고, 음란물' 판치지만 속수무책 

반면 해외 플랫폼을 통해 유통되어 창작자를 찾아내기 어려운 인터넷서는 AI를 악용한 딥페이크 영상 범죄가 날로 심각해져 가고 있다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)의 합성어로 인공지능을 활용해 실존하는 사람과 같은 음성이나 영상을 만드는 기술이다.

딥페이크 기술이 주로 악용된 범죄는 △유명인을 사칭한 투자 피싱 광고 △정치인을 사칭한 가짜 뉴스 △유명인을 합성한 음란 영상물 등이다. 딥페이크 피싱 광고는 투자 분야에 신뢰와 명성이 높은 유명인의 얼굴과 음성을 합성한 영상과 사진으로 SNS 등에서 사기 투자(리딩방 모집 등)를 시도한다. 이러한 딥페이크 피싱 범죄의 피해 금액은 6개월 간 약 1조원 규모로 추산된다.

특히 피싱 범죄의 대부분이 페이스북, 인스타그램, 유튜브 등 해외 플랫폼에서 이뤄져 수사가 어렵고 플랫폼 측의 즉각적인 조치도 없는 상황이다. 사칭 광고로 피해를 입은 연예인 송은이·황현희 씨, 주진형 전 한화증권대표, 존 리 메리츠자산운용 대표 등 137명은 최근 ‘유명인 사칭 온라인 피싱범죄 해결을 위한 모임’을 발족하고 플랫폼과 정부의 해결 노력을 촉구하고 나섰다.

또 21일 영국의 채널4뉴스는 방문자가 가장 많은 딥페이크 웹사이트 5곳을 분석한 결과, 딥페이크 음란물에 얼굴이 합성된 유명인이 4천명에 달한다고 밝혔다. 해당 웹사이트에서는 한류로 인기가 높은 국내 아이돌, 배우들도 합성 포르노 영상에 악용되고 있다.

조르자 멜로니 이탈리나 여성 총리 조차 딥페이크 음란물에 노출되어 동영상 제작·유포자를 상대로 최근 10만 유로의 손해배상을 제기했다. 일부 딥페이크 음란물은 미성년자들을 합성해 사태가 더욱 심각하다.

2022년 11월 챗GPT 등장 이후, 산업계에서만 주로 이용되던 인공지능의 대중화와 상용화가 가속됐다. 그 결과, 지금은 AI의 시대라는데 이견이 없을만큼 산업 전반에 인공지능의 중요성이 높아지고 있다. KB증권 자료에 따르면 기업들의 생성형 AI에 대한 지출은 2031년 1조 달러를 넘어설 것으로 전망된다.

그러나 빠른 혁신 속에서 이를 뒷받침할 제도적 정비는 매우 미흡한 상황이다. 정부와 인터넷 플랫폼의 규제 노력이 시급한 시점이다.