“가짜 광고에서 저의 ‘인공지능(AI) 입’이 온갖 말을 하더군요. 나는 그 사람이 누구인지 모릅니다. 그게 인공지능의 문제입니다. 난 그 광고와 아무런 상관이 없습니다.”

지난 2월 영화 <시스터 액트>로 잘 알려진 미국 할리우드의 배우 우피 골드버그가 한 방송에 출연해 이렇게 말했다. 누군가가 자신이 ‘CBS 선데이 모닝’에 출현했던 영상을 가져가 생성형 인공지능 기술을 통해 ‘나쁜 체중 감량 약’을 판매하는 광고를 만들었다는 것이다. 배우로 잘 알려진 얼굴과 목소리가 마구잡이로 활용됐는데도 우피 골드버그가 ‘누구인지 모를’ 제작자를 상대로 할 수 있는 일은 거의 없었다. 그는 그저 시청자들에게 ‘그 영상을 보지 말라’고 호소할 뿐이었다.

누구나 쉽게 인공지능 기술을 통해 누군가의 외모, 목소리 등을 변주해 생성해낼 수 있는 시대로 접어든 지금, 세계는 좀처럼 그 피해를 막을 방법을 찾아내지 못하고 있다. 미국 할리우드를 중심으로 피해를 선제적으로 감지한 작가, 배우, 디자이너 등이 파업과 단체협약 체결, 소송 등에 연이어 나섰지만 역부족이다. 유명 배우조차 자신의 목소리를 지키기 위해 사투를 벌어야 하는 처지다.

“배우이자 성우로서 나의 목소리도 모습도 순식간에 바꿀 수 있는 생성형 인공지능에 대해 매우 큰 위협을 느낀다.” 2024년 미국 할리우드에서 취재 중에 만난 배우 밴지 타피아가 한 말이다. 그는 2023년 미국 배우·방송인 노동조합(SAG-AFTRA)의 파업과 시위에 누구보다도 열심히 참여했다. 인공지능의 큰 위협 앞에 조합 차원의 단체 협약이 꼭 필요하다는 생각에서였다고 한다.

2023년 여름, 할리우드는 작가와 배우 조합은 파업에 돌입했다. 월트디즈니·워너브러더스·유니버설스튜디오 등 초거대 영화 제작사마다 피켓 든 배우와 작가들이 몰려들었다. 5월에 시작된 배우들의 파업은 118일 동안 이어져 11월에야 끝났다. 4년마다 거대 제작사들과 단체 협상을 벌여온 이들 노조가 계약 갱신 시점이 다가오자 내놓은 주요 요구사항 중 하나는 ‘생성형 인공지능 대책 마련’이다.

장기 파업 끝에 배우조합이 영화·TV제작자연합(AMPTP)을 대상으로 합의한 내용을 보면, 생성형 인공지능의 습격에 대응하려는 노력이 엿보인다.
[ 주연 배우부터 엑스트라까지 자신이 연기하지 않은 내용을 생성할 경우에는 48시간 전에 통지해야 하고, 명시적 동의를 필수적으로 구해야 한다. 생성형 인공지능으로 배우가 연기한 듯 장면을 만들면 해당 장면을 배우가 직접 연기했을 경우 걸렸을 시간을 계산해 보상해야 한다는 조항도 있다. 배우가 촬영한 화면이나 소리가 녹화 상태 그대로 유지되지 않는다면 명시적 동의가 필수다. 배우의 디지털 복제본 제작 시 사용 목적에 대해 구체적인 설명을 반드시 해야 한다. 배우가 사망했을 경우라 해도 대리인의 동의는 필수다. ]

생성형 인공지능을 엑스트라 고용을 회피하기 위한 목적으로 사용하는 것도 엄격히 금했다. 또 생성형 인공지능을 통한 ’모조 연기자’를 쓸 때는 이러한 행동이 고용에 미칠 영향을 고려해야 한다는 문구도 넣었다. 배우를 대신해 모조 연기자를 사용하는 경우는 조합에 먼저 통지하고 그에 대한 교섭을 할 기회를 부여해야 한다.

특정 배우를 떠올리게 하는 이름과 얼굴 등을 가진 모조 연기자를 제작할 때도 해당 배우의 동의를 반드시 구하도록 했다. 또 생성형 인공지능에 제작과 관련한 저작물을 사용하는 문제에 대해서는 앞으로도 사용자 쪽이 조합과 정기적으로 논의하도록 했다.

하지만 이같은 단체 협약에도 배우들은 여전히 불안하다고 했다. 배우이자 작가로 이제 막 할리우드 생활을 시작한 애슐리 제이드는 한겨레와의 인터뷰에서 “가장 큰 두려움은 ‘문 뒤에 있는’ 경영진들이 돈을 아끼기 위해 생성형 인공지능으로 우리를 대체할 방법을 찾으려고 노력 중일 수도 있다는 것과 10년 뒤에는 어떤 일이 일어날지 누구도 알지 못한다는 것”이라고 말했다.

전 세계적인 생성형 인공지능 열풍을 주도하고 있는 오픈AI의 행동은 이러한 불안감을 더 크게 만들었다. 오픈AI는 이러한 단체 협약이 이뤄진 뒤인 2024년 5월 미국 유명 배우인 스칼릿 조헨슨의 목소리를 연상하게 하는 음성 인공지능 모델을 공개했다. 강력한 음성 인공지능 기능을 더한 ‘지피티-포오(GPT-4o) 모델을 공개하며 샘 올트먼 최고경영자는 자신의 엑스(옛 트위터)에 스칼릿 조헨슨의 영화 <HER>를 언급하는 뻔뻔한 면모를 드러내기도 했다.

이에 스칼릿 조헨슨이 “오픈AI의 목소리 요청을 두 차례나 거절했는데도 나와 흡사한 음성이 쓰였다”고 반발하며 법적 대응을 시사하자 오픈AI는 일단 즉각 해당 음성 사용을 중단했다. 하지만 그 이후의 대응은 처참했다. 오픈AI는 해당 목소리가 스칼릿 조헨슨이 아닌 다른 성우의 목소리여서 문제가 없다는 입장을 내놨다. ‘특정 배우를 떠올리게 하는 모조 연기자를 제작할 때도 해당 배우의 동의를 반드시 구하라’는 단체협약 내용이 무색해진 상황이었다.

이러한 문제는 ‘만일 가난한 배우나 성우 지망생이 자신의 목소리를 인공지능 기업에 헐값에 넘긴다면’이라는 가정을 만나면 더 대책이 없다. 국내의 한 기업이 내놓은 ‘인공지능 아나운서 서비스’는 원하는 대로 뉴스를 진행하는 인공지능 아나운서를 제공한다. 해당 이미지와 목소리는 아나운서 지망생 여덟 명을 찍은 영상을 뒤섞어 만든 것이었다. 그들의 외모와 목소리는 단 한 번의 계약으로 무한히 변주되고 활용될 것이다. 물론 합법적으로.

“소송을 제기해서 인공지능 기업에게 약간의 보상을 얻어낸다면 그 이후가 더 문제일 것 같습니다. 그런 약간의 보상으로 회복할 수 있는 문제가 아니니까요.” 에미상 수상자로 ‘로그 원: 스타워즈 스토리’, ‘명탐정 피카츄’ 등의 영화와 각종 게임을 만든 할리우드의 아트디렉터 캉 레 감독의 말이다. 그의 이름은 이미지 생성 인공지능 서비스인 미드저니가 학습한 예술가 명단에서 발견됐다. 자신이 전 생애를 걸쳐 작업한 결과물이 인공지능 학습에 사용되었어도 예술가들이 할 수 있는 일은 거의 없었다.

미국배우조합이 갖게되는 교섭권도 조합원 개개인의 이익에 부합할 지는 모를 일이다. 지난해 미국배우조합과 인공지능 기업 레플리카가 ‘목소리 복제’ 계약을 맺자 수많은 성우가 분노를 표출했다. 배우조합은 레플리카와 비디오 게임이나 기타 엔터테인먼트 콘텐츠에서 목소리 복제 시 배우의 동의를 구하고 최소 지불액을 보장하는 계약에 서명했다. 조합은 ‘공정한 보상’을 말했지만, 성우들은 “인공지능이 결국 성우들을 대체할 것”이라고 반발했다. 게임 ‘월드 오브 워크래프트’의 성우 앤드류 러셀은 이 계약을 “쓰레기”라고 표현했다.

“할리우드 예술가들은 매일 실존적인 위협을 느낍니다. 생성형 인공지능은 나와 같은 창작자들의 작업을 어떤 동의도 없이 학습한 뒤 이를 토대로 우리의 작업을 복제하며 빠르게 성장하고 있습니다.” 인공지능 기업들을 상대로 소송을 제기한 미국의 컨셉 아티스트 카를라 오르티스는 자신의 작품을 학습한 것이 분명한 인공지능 서비스 앞에서도 아무런 요구를 할 수 없는 현실에 대해서 분노했다. 2023년에 제기한 소송은 아직도 진행 중이다.

왼쪽은 스티븐 매커리의 원본 사진. 우측은 생성형 AI 프로그램 미드저니가 만들어 낸 이미지. 카를라 오르티스가 생성형 AI 기업을 상대로 제출한 자료 중 하나. ©한겨레21

선제적으로 창작자들이 파업, 집회, 단체 교섭, 소송 등에 나선 미국 상황이 이러한데 한국은 더 열악한 처지에 놓여있다. ‘블랙박스’ 수준으로 학습 데이터를 꽁꽁 감춘 인공지능 기업들이 사방에서 몰려오는데 국내에서는 창작자를 보호할 기본적인 체계조차 갖춰지지 않은 상황이다. 지난해 말 4년 넘는 논의 끝에 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI기본법)이 국회를 통과했지만 과학기술정보통신부 주도의 결과물이어서 벌써부터 입법 미비 사항이 사방에서 지적되고 있는 상황이다. 저작권 문제, 이용자 보호 문제 등이 폭넓게 다뤄지지 않으면서 법이 제정되자마자 개정 논의가 시급하다는 목소리가 여러 부처에서 나오고 있는 형국이다.

그러는 사이 영화, 온라인 동영상, 게임 등 각종 콘텐츠 산업에서는 생성형 인공지능을 통해 소리, 이미지, 영상 등을 만드는 추세가 강화되고 있다. 국내 언론사들의 경우에도 신문협회 등을 통해 네이버 등 인공지능 기업을 상대로 학습 데이터 공개와 보상안을 요구하고 나섰지만 그 역시 논의가 지지부진한 상태다. 경제 위기가 강조되는 요즘, 생성형 인공지능 산업의 진흥책을 우선으로 국가 정책이 나아갈 경우 이용자와 창작자들의 권리 보전을 위한 목소리는 더욱 내기 어려워질 전망이다.