템닉의 개발저장소

성우 Victoria Atkin과 Tim Friedlander는 팬들이 Generative AI 기술을 사용하여 자신들의 목소리가 복제되고 있다는 점에 대해 걱정하고 있습니다.

두 성우 Victoria Atkin과 Tim Friedlander는 팬들이 Generative AI 기술을 사용하여 자신들의 목소리가 복제되는 것에 대해 걱정하고 있습니다. SAG-AFTRA의 지속적인 파업은 주요 할리우드 기업들이 인간 노동에 대한 대안으로 Generative AI를 활용하려는 모습을 드러내고 있으나, 이러한 기술의 사용에 관한 질문들이 비디오 게임 산업의 성우들에게도 제기되고 있습니다.

아직 주요 스튜디오는 인공지능 목소리를 인간 성우 대신 사용할 계획은 없지만, 새로운 현상으로 인해 Assassin's Creed Syndicate의 Evie Fry나 Ace Combat 7의 Long Caster와 같은 캐릭터의 성우들에게 압박이 생겼습니다. 이는 모더들이 AI 도구를 사용하여 이들의 목소리를 다른 게임에서 재현하는 것입니다.

지난 몇 년간, 모딩 커뮤니티는 자신들이 좋아하는 성우들의 목소리를 완전히 재창조하기 위해 기술을 사용하기 시작했습니다. 때로는 좋아하는 게임 세계에서 원작 이야기를 만들기 위해서, 때로는 원본 작품의 범위를 벗어나는 음란 콘텐츠를 만들기 위해서입니다.

Game Developer와의 인터뷰에서 성우 Victoria Atkin과 Tim Friedlander (이 두 사람은 또한 국가 성우 협회의 책임자이기도 합니다)은 그들과 동료들이 최근 2년간 ElevenLabs와 같은 도구들을 사용하여 모더들이 그들의 목소리를 합성하는 것을 겪고 있으며, 이로 인해 그들의 작업의 미래에 대해 불안한 기분이 든다고 밝혔습니다.

모더들이 AI 합성기를 사용하여 Evie Fry를 다른 게임에 넣고 있습니다.

영화에서는 스파이들과 과학 기술 해커들이 불길한 주체로부터 몇 문장만 녹음해서 목소리를 합성하는 경우가 있지만, 현실에서는 그보다 훨씬 더 많은 오디오가 필요합니다. 하지만 성우들은 수십 시간에 달하는 고품질 오디오를 제작하여 상업적으로 사용 가능한 게임에 패키징하여 자신들의 목소리를 Generative AI 도구에 입력하는 것이 쉽습니다.

Atkin과 Friedlander는 개발 파트너들이 이 문제에 직접적으로 기여하지 않았다고 말하고 있지만, 그들은 많은 조치를 취할 수 있는 위치에 있지 않습니다. Friedlander는 그, Atkin 및 다른 성우들이 Ubisoft과 같은 고용주에게 자신들의 연기를 양도할 때, 계약서에는 이러한 기술이 어떻게 사용될 수 있는지에 대한 보호나 보장 사항이 없다는 사실을 지적했습니다. "몇 년 전에는 이런 것들이 존재하지 않아서 우리는 계약서에 보호 조치를 취할 필요가 없었습니다,"라고 Friedlander는 설명했습니다.

2023년 6월까지도 모더들은 Atkin의 목소리 기술을 The Elder Scrolls V: Skyrim과 같은 게임에 가져오는 데에 음성 기술을 사용했습니다. Atkin은 자신의 목소리가 다른 게임에서 사용되는 동영상을 받았다고 말했으며, 이로 인해 Twitter에 가서 AI가 Evie Fry 역할에 그녀의 목소리를 "훔쳤다"고 발언했습니다.

여기서 문제가 복잡해집니다: Atkin과 Friedlander는 자신들의 목소리를 소유하고 있지만, 그들이 연기한 캐릭터 뒤에 있는 연기를 소유하지는 않습니다 (이 부분에 대해 빠르게 인정하고 있습니다). 따라서 위와 같은 모드가 저작권법을 위반하는지에 대한 검토는 스튜디오의 파트너들에 달려 있습니다.

하지만 비영리적인 모드들에 대한 기업적인 테이크다운은 공정 사용에 대한 의문을 불러일으킬 수 있으며, 모딩 커뮤니티와의 적대감을 증폭시킬 수 있습니다. Friedlander는 모더들이 "성우들과 게임 자체의 큰 옹호자"라고 강조하고 싶었습니다.

"나는 모딩 커뮤니티의 친구들이 있고, 우리 모두가 모드 제작자들을 존중한다는 것을 알고 있습니다. 커뮤니티 내에서 존중이 있으며, 성우들에게도 그 존중이 전해지기를 바랍니다."

AI 음성 모드에 대한 우려는 7월 초 더욱 심해졌으며, Skyrim 팬들이 게임 캐릭터들을 위한 새로운 음란 대화를 생성하는 데에 AI 합성 기술을 사용한 모드를 주목하기 시작했습니다. Kotaku와 다른 사이트들이 지적한 것처럼, NexusMods는 플랫폼에서 AI로 생성된 콘텐츠를 금지하지 않기로 결정했습니다.

"하지만 만약 당신의 작업이 다른 당사자에게 피해를 입힌다고 느끼는 신뢰할 수 있는 불만이 접수된다면 - 이는 성우나 캐릭터/자산의 권리를 소유한 기관이 될 수 있습니다 - 우리는 적절하다고 판단되면 해당 콘텐츠를 삭제할 것입니다."라고 플랫폼 운영자들은 밝혔습니다.

성우들이 필요로 하는 지원은 무엇일까요?

Atkin과 Friedlander는 상황에 대해 좌절감과 무력감을 표현했습니다. Atkin은 특히 Assassin's Creed Syndicate에서 모션 캡처를 수행했기 때문에 걱정이 큽니다. 비록 원본 모션 캡처 데이터가 플레이어에게 공개적으로 이용 가능하지는 않을지라도, Generative AI 애니메이션의 발전으로 인해 그녀가 실제로 몸 전체를 쏟아부은 연기가 재활용될 수 있을 수 있습니다.

Friedlander는 성우들이 규제와 계약적 보호의 조합이 필요하다고 말했습니다. "이 오디오와 비디오를 무단으로 사용하는 것을 막을 방법이 있을까요?"라고 반문했습니다.

하지만 그는 저작권법과 공정 사용 조항이 모딩 커뮤니티가 이들 목소리를 사용하는 것을 막는 데 어려움을 주기 때문에 눈감아주기도 하지 않습니다. 이론적으로 ElevenLabs와 같은 회사의 서비스 약관은 충분한 보호가 될 수 있을 것입니다. 하지만 사용자들이 서비스에서 금지될 걱정이 없다면, 원하는 오디오를 생성하고 나서는 플랫폼 사용을 그만둘 수 있습니다.

혹은 더 현실적으로, 필요한 오디오를 생성하고 서비스에서 금지되어 다시 계정을 만들어 반복적으로 사용할 수도 있습니다.

성우들의 불안은 모더들이 생성한 연기에 대한 문제를 강조하며, 이는 게임 개발 분야와 SAG-AFTRA 파업 라인에서 울림을 주는 문제입니다: Generative AI 도구를 만들고 사용하는 기업들은 기억에 남는 연기에 투여되는 인간 노동과 노력을 항상 고려하지 않고 있는 것입니다.

이러한 도구가 노동과 작품에 미치는 영향에 초점을 맞추는 것은 언제나 쉽지만, 성우들에게 그 영향은 깊은 개인적인 영향을 미칠 수 있습니다. 성우들은 한 역할에 많은 정서적 에너지를 투여하며, 자신 없이 그 역할이 재구성되는 것을 보는 것—자신이 한 말이 아닌 것을 듣는 것—은 심리적 영향을 미칠 수 있는데, 이것은 주어진 오디오 조각의 저작권에 대한 질문으로는 충분히 포착할 수 없는 영향입니다.

원문 링크: https://www.gamedeveloper.com/audio/voice-actors-express-worry-over-modders-cloning-voices-with-ai

NPR의 새로운 보고에 따르면, 다양한 테크 회사들이 AI 기술을 공유, 개발 및 출시하기 위한 그들의 합의안을 공개한다고 합니다.

구글, 메타, OpenAI 를 포함해 몇몇 기업들은 백악관에서 자발적인 합의를 공개할 것이라고 합니다. 보도에 따르면 이러한 약속은 정부와 미국 시민 모두에게 투명하게 계획되어 있으며, 개인 정보 보호에서 인공지능 생성을 나타내는 워터마크에 이르기까지 다양하게 다룰 예정입니다.

게임 개발자들이 점차 AI를 개발의 다른 부분에 통합함에 따라, 이러한 약속은 이미 기술에 투자한 스튜디오(유비소프트 등)에 영향을 미칠 수 있습니다.

AI와 그것이 일반 대중에게 미치는 영향에 대한 우려는 한동안 제기되었습니다. 지난 주, FTC는 오픈에 대한 조사를 시작했습니다AI의 ChatGPT 봇은 소비자 보호법을 위반했는지 여부를 식별합니다. 집필 당시 미국 규제 당국의 조치가 이 결정에 관여했는지, 아니면 관련이 있는지는 명확하지 않습니다.

AI와 그것이 일반 대중에게 미치는 영향에 대한 우려는 한동안 제기되었습니다. 지난 주, FTC는 소비자 보호법을 위반했는지 확인하기 위해 OpenAI의 ChatGPT에 대한 조사를 시작했습니다. 글을 올리는 이 시점에서, 당시 미국 규제 당국의 조치가 이 결정에 관여했는지, 아니면 관련이 있는지는 명확하지 않습니다.

NPR은 이 회사들이 AI 기술을 출시하기 전에 독립적인 제3자에 의해 테스트받기로 합의했다고 보도했습니다. Jeff Zients 백악관 비서실장은 이 같은 조치를 "시작에 불과하다. 중요한점은 이러한 기업들이 성과를 내고 대중의 신뢰를 얻기 위해 구현하고 실행한다는 점이다."라고 평가했습니다. ."

그는 이어 "미국 기업들은 혁신 분야에서 세계를 선도하고 있지만 제품이 안전하고 안전하며 신뢰할 수 있도록 보장해야 할 동등한 책임이 있다"고 강조했습니다

AI 규제가 게임 산업에 어떤 의미가 될 수 있습니까

창의적인 분야(비디오 게임 포함)와 관련하여, 인공지능이 예술, 성우 등의 분야에 큰 영향을 미치고 있는 것으로 이전에 보고된 바 있습니다. 이번 주 초, 성우 Victora Atkin은 게임 개발자에게 모델들이 어떻게 인공지능을 사용하여 자신의 목소리를 복제해 왔는지에 대해 말했습니다.

그녀가 WGA와 SAG-AFTRA와 함께 파업하는 이유 중 일부는 AI가 어쌔신 Assassin's Creed Syndicate's의 Evie Frye 역할을 위해 "목소리를 훔쳤기" 때문입니다. 이러한 경고는 이전에도 조성원 (보더랜드 3)과 Yuri Lowenthal (Marvel의 Spider-Man 2) 등 다른 성우들에 의해 제기되어왔습니다.

일부 성우들은 기계 학습의 목적을 위해 자신의 목소리에 대한 권리를 양도하도록 주장되며, 다른 성우들은 모드가 널리 사용되면서 자신의 목소리가 AI에 의해 복제되었다는 사실을 알게 됩니다. AI는 SAG-AFTRA 파업에서 큰 논쟁 포인트 중 하나이며, 성우 연기는 이 기술의 잠재적인 문제를 보여줍니다.

만약 백악관이 어떤 형태로든 AI 규제를 고수한다면, 그것은 엔터테인먼트 산업에 큰 이익이 될 것입니다. 그러나 테크 회사에 책임을 물을 수 있는 구체적인 방법은 없으며, 회사가 이러한 계약을 이행하지 않을 경우 처벌 규정도 마련되지 않습니다.

백악관은 앞으로 몇 주 안에 실제 법안을 개발하기 위해 의회와 협력할 것으로 알려졌습니다. 하지만 아직까지는 "바이든 행정부가 이러한 약속과 기준을 시행하기 위해 연방 정부에 있는 모든 수단을 사용할 것"이라고 Zients가 말했습니다.

원문 링크: https://www.gamedeveloper.com/business/google-meta-other-tech-companies-to-establish-ai-safeguards-#close-modal