템닉의 개발저장소

성우 Victoria Atkin과 Tim Friedlander는 팬들이 Generative AI 기술을 사용하여 자신들의 목소리가 복제되고 있다는 점에 대해 걱정하고 있습니다.

두 성우 Victoria Atkin과 Tim Friedlander는 팬들이 Generative AI 기술을 사용하여 자신들의 목소리가 복제되는 것에 대해 걱정하고 있습니다. SAG-AFTRA의 지속적인 파업은 주요 할리우드 기업들이 인간 노동에 대한 대안으로 Generative AI를 활용하려는 모습을 드러내고 있으나, 이러한 기술의 사용에 관한 질문들이 비디오 게임 산업의 성우들에게도 제기되고 있습니다.

아직 주요 스튜디오는 인공지능 목소리를 인간 성우 대신 사용할 계획은 없지만, 새로운 현상으로 인해 Assassin's Creed Syndicate의 Evie Fry나 Ace Combat 7의 Long Caster와 같은 캐릭터의 성우들에게 압박이 생겼습니다. 이는 모더들이 AI 도구를 사용하여 이들의 목소리를 다른 게임에서 재현하는 것입니다.

지난 몇 년간, 모딩 커뮤니티는 자신들이 좋아하는 성우들의 목소리를 완전히 재창조하기 위해 기술을 사용하기 시작했습니다. 때로는 좋아하는 게임 세계에서 원작 이야기를 만들기 위해서, 때로는 원본 작품의 범위를 벗어나는 음란 콘텐츠를 만들기 위해서입니다.

Game Developer와의 인터뷰에서 성우 Victoria Atkin과 Tim Friedlander (이 두 사람은 또한 국가 성우 협회의 책임자이기도 합니다)은 그들과 동료들이 최근 2년간 ElevenLabs와 같은 도구들을 사용하여 모더들이 그들의 목소리를 합성하는 것을 겪고 있으며, 이로 인해 그들의 작업의 미래에 대해 불안한 기분이 든다고 밝혔습니다.

모더들이 AI 합성기를 사용하여 Evie Fry를 다른 게임에 넣고 있습니다.

영화에서는 스파이들과 과학 기술 해커들이 불길한 주체로부터 몇 문장만 녹음해서 목소리를 합성하는 경우가 있지만, 현실에서는 그보다 훨씬 더 많은 오디오가 필요합니다. 하지만 성우들은 수십 시간에 달하는 고품질 오디오를 제작하여 상업적으로 사용 가능한 게임에 패키징하여 자신들의 목소리를 Generative AI 도구에 입력하는 것이 쉽습니다.

Atkin과 Friedlander는 개발 파트너들이 이 문제에 직접적으로 기여하지 않았다고 말하고 있지만, 그들은 많은 조치를 취할 수 있는 위치에 있지 않습니다. Friedlander는 그, Atkin 및 다른 성우들이 Ubisoft과 같은 고용주에게 자신들의 연기를 양도할 때, 계약서에는 이러한 기술이 어떻게 사용될 수 있는지에 대한 보호나 보장 사항이 없다는 사실을 지적했습니다. "몇 년 전에는 이런 것들이 존재하지 않아서 우리는 계약서에 보호 조치를 취할 필요가 없었습니다,"라고 Friedlander는 설명했습니다.

2023년 6월까지도 모더들은 Atkin의 목소리 기술을 The Elder Scrolls V: Skyrim과 같은 게임에 가져오는 데에 음성 기술을 사용했습니다. Atkin은 자신의 목소리가 다른 게임에서 사용되는 동영상을 받았다고 말했으며, 이로 인해 Twitter에 가서 AI가 Evie Fry 역할에 그녀의 목소리를 "훔쳤다"고 발언했습니다.

여기서 문제가 복잡해집니다: Atkin과 Friedlander는 자신들의 목소리를 소유하고 있지만, 그들이 연기한 캐릭터 뒤에 있는 연기를 소유하지는 않습니다 (이 부분에 대해 빠르게 인정하고 있습니다). 따라서 위와 같은 모드가 저작권법을 위반하는지에 대한 검토는 스튜디오의 파트너들에 달려 있습니다.

하지만 비영리적인 모드들에 대한 기업적인 테이크다운은 공정 사용에 대한 의문을 불러일으킬 수 있으며, 모딩 커뮤니티와의 적대감을 증폭시킬 수 있습니다. Friedlander는 모더들이 "성우들과 게임 자체의 큰 옹호자"라고 강조하고 싶었습니다.

"나는 모딩 커뮤니티의 친구들이 있고, 우리 모두가 모드 제작자들을 존중한다는 것을 알고 있습니다. 커뮤니티 내에서 존중이 있으며, 성우들에게도 그 존중이 전해지기를 바랍니다."

AI 음성 모드에 대한 우려는 7월 초 더욱 심해졌으며, Skyrim 팬들이 게임 캐릭터들을 위한 새로운 음란 대화를 생성하는 데에 AI 합성 기술을 사용한 모드를 주목하기 시작했습니다. Kotaku와 다른 사이트들이 지적한 것처럼, NexusMods는 플랫폼에서 AI로 생성된 콘텐츠를 금지하지 않기로 결정했습니다.

"하지만 만약 당신의 작업이 다른 당사자에게 피해를 입힌다고 느끼는 신뢰할 수 있는 불만이 접수된다면 - 이는 성우나 캐릭터/자산의 권리를 소유한 기관이 될 수 있습니다 - 우리는 적절하다고 판단되면 해당 콘텐츠를 삭제할 것입니다."라고 플랫폼 운영자들은 밝혔습니다.

성우들이 필요로 하는 지원은 무엇일까요?

Atkin과 Friedlander는 상황에 대해 좌절감과 무력감을 표현했습니다. Atkin은 특히 Assassin's Creed Syndicate에서 모션 캡처를 수행했기 때문에 걱정이 큽니다. 비록 원본 모션 캡처 데이터가 플레이어에게 공개적으로 이용 가능하지는 않을지라도, Generative AI 애니메이션의 발전으로 인해 그녀가 실제로 몸 전체를 쏟아부은 연기가 재활용될 수 있을 수 있습니다.

Friedlander는 성우들이 규제와 계약적 보호의 조합이 필요하다고 말했습니다. "이 오디오와 비디오를 무단으로 사용하는 것을 막을 방법이 있을까요?"라고 반문했습니다.

하지만 그는 저작권법과 공정 사용 조항이 모딩 커뮤니티가 이들 목소리를 사용하는 것을 막는 데 어려움을 주기 때문에 눈감아주기도 하지 않습니다. 이론적으로 ElevenLabs와 같은 회사의 서비스 약관은 충분한 보호가 될 수 있을 것입니다. 하지만 사용자들이 서비스에서 금지될 걱정이 없다면, 원하는 오디오를 생성하고 나서는 플랫폼 사용을 그만둘 수 있습니다.

혹은 더 현실적으로, 필요한 오디오를 생성하고 서비스에서 금지되어 다시 계정을 만들어 반복적으로 사용할 수도 있습니다.

성우들의 불안은 모더들이 생성한 연기에 대한 문제를 강조하며, 이는 게임 개발 분야와 SAG-AFTRA 파업 라인에서 울림을 주는 문제입니다: Generative AI 도구를 만들고 사용하는 기업들은 기억에 남는 연기에 투여되는 인간 노동과 노력을 항상 고려하지 않고 있는 것입니다.

이러한 도구가 노동과 작품에 미치는 영향에 초점을 맞추는 것은 언제나 쉽지만, 성우들에게 그 영향은 깊은 개인적인 영향을 미칠 수 있습니다. 성우들은 한 역할에 많은 정서적 에너지를 투여하며, 자신 없이 그 역할이 재구성되는 것을 보는 것—자신이 한 말이 아닌 것을 듣는 것—은 심리적 영향을 미칠 수 있는데, 이것은 주어진 오디오 조각의 저작권에 대한 질문으로는 충분히 포착할 수 없는 영향입니다.

원문 링크: https://www.gamedeveloper.com/audio/voice-actors-express-worry-over-modders-cloning-voices-with-ai