아크 레이더는 올해의 게임이지만 생성 AI 사용은 정말 형편없습니다.

아크 레이더즈와 함께한 지난 두 달은 올 한 해 게임 중 가장 재미있었던 시간이었습니다. 제가 가장 좋아하는 게임으로 꼽는 2018년의 Sea of Thieves 이후 가장 흥미진진하고 예측할 수 없는 멀티플레이어 환경이 펼쳐집니다. 제가 아크 레이더를 정말 좋아한다고 해도 과언이 아닙니다. 하지만 엠바크 스튜디오의 제너레이티브 AI 사용에 대해 알게 되면서 이러한 감정을 온전히 지지하기 어려워졌습니다.

스튜디오에 따르면 아크 레이더의 음성 연기는 처음에는 사람이 연기한 다음, 가능한 모든 상황에 맞춰 배우의 목소리로 말할 수 있도록 AI를 '훈련'하는 데 사용되었다고 합니다. 엠바크의 경우, 새로운 콘텐츠가 추가될 때마다 성우를 섭외할 필요가 없습니다. AI 목소리는 배우가 채용될 때 동의한 배우의 목소리로 말하는 법을 학습하고, 툴이 이를 그대로 가져옵니다. 이 팀의 이전 게임인 더 파이널(The Finals)에서도 비슷한 방식으로 제너레이티브 AI를 사용했기 때문에 놀랄 일도 아니었습니다. 엠바크는 인터뷰에서 게임의 시각적 아트워크는 전적으로 사람이 만든 것이라고 플레이어를 안심시켰지만, 게임의 상점 NPC, 감정 표현 및 기타 캐릭터가 짖는 소리를 내기 위해 이 텍스트 음성 변환 훈련을 사용했다고 인정했습니다. 이 사실을 알고 나니 게임을 칭찬해야 할지 말아야 할지 갈등이 생겼습니다.

한편으로는 아크 레이더가 저를 사로잡은 것을 부정할 수 없습니다. 가슴이 원하는 것은 가슴이 원하는 것이고, 플레이어가 주도하는 드라마가 풍부한 엠바크의 추출 슈팅 게임은 다른 게임에서는 볼 수 없는 방식으로 제 가슴에 불을 지폈습니다. 동시에 저는 이미 리뷰를 작성했습니다. 후회하지 않는 빛나는 게임이었지만, 실망스러운 관행을 지적하는 것도 제가 해야 할 일이라고 생각합니다. 최근 몇 주 동안 몇 가지 유명한 사례에서 비슷한 관행이나 계획이 발생했습니다. 라리안 스튜디오의 사장이 이를 보증한 사례도 있습니다. 넥슨의 전 CEO는 AI가 게임 산업의 모든 것을 다시 쓰게 될 것이라고 말했습니다. 유비소프트는 일부 게임 제작에 AI 툴을 사용하고 있다고 발표했습니다. 업계에서 독보적인 목소리를 내는 것으로 알려진 코지마 히데오도 때때로 이를 사용한다고 말합니다. 단순히 도움이 되는 것이 아니라 피할 수 없는 것으로 제시되고 있습니다.

정말 그럴까요? 이 기술을 보증하는 사람들은 대부분 최고 경영진과 스튜디오 고위층으로, 이들은 프로젝트에 소요되는 시간과 비용을 줄일 수 있기 때문에 감정적으로나 전문적으로 이 기술에 투자하는 것이 분명해 보입니다. 하지만 제너레이티브 AI가 하는 일의 대부분은 솔직히 말해서 엉터리입니다.

제너레이티브 AI를 검색 엔진으로 사용할 때 문제가 많다는 것은 이제 누구나 알고 있는 사실입니다. 인터넷에서 사실을 찾아내는 것이 아닙니다. 이는 문장이나 단락의 각 단어가 어떤 출처에서 제공된 방대한 데이터를 기반으로 올바른 단어 또는 문장의 순서가 될 것으로 예상되는 것을 기반으로 문장을 구성하는 추측 기계입니다. 이 때문에 X의 Grok과 같은 일부 AI 봇은 사실과 다르거나 때로는 혐오스러운 수사를 일상적으로 표현할 수 있습니다. 이 봇은 CEO의 지친 에지주의에 대한 견해에서 제기되었습니다.

글쓰기 도구로서 제너레이티브 AI는 전설적인 표절자로, 오래된 책, 기사 및 기타 인간이 만든 저작물을 대량으로 리믹스하여 순수하고 구제할 수 없는 쓰레기처럼 역류시켜 아마존에서 저렴하게 판매하며, 인터넷 사용 능력이 없는 독자나 선물을 주는 사람들이 자신이 구매하는 엉망인 것을 인식하지 못하도록 먹잇감으로 삼고 있습니다.

한편, AI 사진과 동영상은 점점 더 생생해지고 있으며, 일부에서는 이러한 기술을 사용해서는 안 된다는 주장이 힘을 잃고 있습니다. 다른 사람들은 AI가 생성한 이미지를 단지 출발점, 즉 브레인스토밍의 스피드 런으로 참고하고 인간 아티스트가 AI가 만들어낸 아이디어의 핵심을 가져와 그 위에 구축한다고 말합니다. 에픽의 팀 스위니와 같은 경영진은 제너레이티브 AI가 너무 보편화되어 게임에서 제너레이티브 AI 사용을 공개하는 데 사용되는 Steam의 라벨링 시스템과 같은 노력이 금방 무의미해질 것이라고 말합니다. 심지어 환경에 얼마나 문제가 될 수 있는지에 대한 논쟁도 있어 이 기술을 둘러싼 윤리적 문제가 더욱 모호해집니다. 그렇다면 과연 언제 사용하는 것이 합리적일까요? 하지만 저는 이러한 모든 경고와 논쟁이 궁극적으로 제너레이티브 AI가 언젠가 아무리 신뢰할 수 있고, 깨끗하고, 편견 없는 기술이 될 수 있다 하더라도 영원히 묶여 있을 가장 중요한 고려사항에 대한 답변이 되지 못한다고 생각합니다: 우리의 인간성이 중요합니다.

예술은 우리가 인간으로서 세상에 돌려줄 수 있는 가장 큰 선물 중 하나입니다. 우리의 사고와 창작의 깊이는 이 세상, 어쩌면 이 우주에 유일무이한 것입니다. 이 진리를 극복하는 제너레이티브 AI의 사용 사례에 대한 타당한 주장이나 변명을 찾을 수 없습니다. 그렇기 때문에 아크 레이더의 사용은 매우 안타깝습니다. 올해 최고의 게임 중 하나에 이런 무거운 별표가 옆에 붙어 있습니다. 성우들은 더 나은 대우를 받아야 마땅하며, 성우들이 자신의 외모를 포기하는 것은 현재와 미래 모두에 자신과 동료 성우들에게 상처를 줄 뿐입니다. 이 기술은 훈련할수록 향상되는 경향이 있다는 것이 사실입니다. 그렇기 때문에 이 기술을 사용하는 것은 윤리적으로 의문이며, 아크 레이더스처럼 정말 실망스러운 경우도 있습니다. 시간이 지나면 아크 레이더의 AI 음성 해설이 더 좋아질 수도 있겠지만, 그렇다고 해서 성우 연기는 그 자체로 재능이자 예술 형식이며, 매 단계마다 가짜 감정을 연기하는 봇이 아니라 역할에 진정한 감정을 불어넣는 사람이 연기해야 마땅하다는 사실을 대신할 수는 없습니다.

인공지능 사용을 옹호하는 사람들이 간과하는 것은 창작 자체가 프로젝트의 중요한 부분이라는 점입니다. 이것이 바로 생명력과 관점을 불어넣는 것입니다. 생성형 AI는 관점을 가지고 만들어지는 것이 아니라 프롬프트에 따라 만들어지기 때문에 예술이 될 수 없습니다. 제너레이티브 AI 사용에 대한 모든 반론 중에서 저는 이것이 이 기술에 관심이 있는 사람들에게 자연스럽게 전달하기 가장 어려운 부분이라고 생각합니다. 밈을 떠올리거나, 자기소개서를 작성하거나, 건강 관련 질문에 답하기 위해 ChatGPT에 문의하는 사람들은 이 기술을 사용함으로써 발생하는 누적된 인적 피해에 대해서는 생각하지 않을 수 있습니다. 인간성이 왜 중요한지, 그리고 제너레이티브 AI의 사용이 인간성에 어떤 해를 끼치는지 정량화하기는 어렵습니다. 무엇보다도 사람들의 마음을 움직여야 하는 일종의 추상적인 주장이기 때문입니다.

그러나 우리가 제너레이티브 AI를 더 많이 사용할수록 우리는 노동자로서, 크리에이터로서, 소속감을 가진 존재로서 우리를 대체하도록 훈련시키고 있기 때문에 실용적인 주장도 있습니다. 기술 기업 임원들이 다시 한 번 규제 선을 어디에 그어야 할지 입법자들과 경쟁하는 가운데, 우리는 극소수가 모든 부를 축적하고 노동자들은 산업에서 산업으로 대체되는 세상을 향해 속도를 내고 있습니다. 그 길에는 경제적 계산이 있기 때문에 이 짐승에게 먹이를 주는 것은 그 디스토피아의 설계자가 되는 것입니다. 물론 이 문제는 아크 레이더스뿐만 아니라 게임을 훨씬 넘어서는 문제입니다. 이것은 모두에게 악화될 문제입니다. 저는 그 사실을 놓치고 싶지 않습니다.

아크 레이더즈는 제너레이티브 AI 사용이 반드시 게임을 망치는 것은 아니라는 사실을 증명했지만, 이 게임의 경우 실제로 게임을 개선하지는 못했습니다. 워크플로 관점에서 보면 개선되었다고 말할 수 있지만, 아크 레이더스라는 완성된 작품이 제너레이티브 AI 덕분에 더 좋아진 것 같지 않다면 과연 그만한 가치가 있을까요? 더 많은 개발자가 제너레이티브 AI로 인해 발생하는 장애물에 대해 이야기함에 따라, 스튜디오는 뒤처질까 봐 두려워서 제너레이티브 AI를 도입하는 것 같지만 때로는 다른 개발자의 속도를 늦추는 원인이 된다는 사실을 깨닫지 못하고 있는 것 같습니다.

이 모든 것이 당분간 현업에 종사하는 제 마음속의 최전선에 있을 것입니다. 게임스팟에서 많은 인터뷰를 해왔고 앞으로도 더 많은 인터뷰를 할 예정입니다. 저는 이 기술을 어떻게 활용할 계획인지 개발자들에게 물어볼 것입니다. 저는 우리가 변곡점, 즉 갈림길에 도달했다고 생각합니다. 우리는 이것을 정상화하여 피할 수 없는 것으로 받아들이고 게임, TV, 책, 그리고 우리가 좋아하는 다른 예술 형식에 더 많이 스며들게 하거나 중요한 질문을 던질 수 있습니다. 이 기술을 사용하는 이유는 무엇인가요? 어떤 문제를 해결하나요? 어떤 문제를 야기하나요? 누가 혜택을 받고 누가 피해를 입는가? 2025년 말, 아크 레이더는 이 주제에 대한 번개와도 같은 게임이었습니다. 제 개인적인 올해의 게임 선정을 어색하고 불편하게 만들었지만, 이 게임이 마지막은 아닙니다. 경영진이 창의적인 정신을 수익률과 무분별하게 맞바꿀 수 있다면, 그 이유를 알려주는 것이 매우 중요하다고 생각합니다.