Почему бывший руководитель отдела ИИ в Take-Two больше не защищает генеративный ИИ?

В апреле компания Take-Two уволила всю свою команду разработчиков ИИ в рамках реструктуризации, что выглядело странным, учитывая, насколько открыто индустрия стремилась к развитию генеративного ИИ. Дело в том, что большинство уволенных вообще не работали над генеративным ИИ. Команда начала свою деятельность в Zynga в 2019 году как инновационная группа в области исследований и разработок, за три года до того, как ChatGPT заставил общественность ассоциировать ИИ с большими языковыми моделями, и осталась в компании после того, как Take-Two приобрела Zynga в 2022 году. Ее бывший руководитель, доктор Люк Дикен, изложил свои опасения в интервью GamesIndustry.biz.

Группа работала в подвале штаб-квартиры Zynga в Сан-Франциско, занимаясь экспериментальной разработкой игр с использованием искусственного интеллекта. В качестве отправной точки Дикен использовал настольные ролевые игры. Он утверждает, что хороший мастер подземелий понимает, чего хотят игроки, и подстраивает игровую сессию под них, и что та же логика может мгновенно повлиять на видеоигру. Команда разработала систему профилирования на основе машинного обучения, которая отслеживала около 40 показателей для каждого игрока. На основе этой концепции была создана игра Spell Forest 2020 года, которая, по словам Дикена, подтвердила его тезис, изменив ключевые показатели бизнеса за счет изменения восприятия игры игроком.

Выпуск ChatGPT в 2022 году изменил задачи команды. Когда выяснилось, что пользовательский ввод может использоваться в качестве обучающих данных, Zynga передала группе управление генеративным ИИ в масштабах всей компании, в основном занимаясь обучением персонала и утверждением инструментов. Из команды в 25 человек только трое или четверо работали над генеративным ИИ; остальные продолжили заниматься ИИ в более широком смысле. Позже надзор распространился на всю компанию Take-Two, прежде чем группа была расформирована в этом году, и ее обязанности перешли к другим командам.

Дикен говорит совсем не так, как человек, который до недавнего времени занимал должность руководителя отдела ИИ. Он рассматривает генеративный ИИ как нечто, чем он чувствовал моральную обязанность управлять, а не как технологию, в которую он верил.

«Я никогда особо не увлекался генеративным искусственным интеллектом. Я считаю, что существует моральная обязанность управлять этим процессом наилучшим образом, но также понимаю, что для любой крупной корпорации в 2025/2026 годах генеративный ИИ — это неправильное решение, которое вызовет недовольство у многих».

— Люк Диккен

Его возражения касаются трех аспектов: этики, права и бизнеса. Он ссылается на материалы судебного разбирательства, свидетельствующие о том, что Midjourney вела список художников, чьи работы использовались в качестве основы для моделей, и утверждает, что знает людей из этого списка. Он ставит под сомнение качество результатов, называя LLM-модели предикторами, ориентированными на среднее значение. По его мнению, сильный программист так же, как и слабый, склоняется к посредственной работе. Он также указывает на то, как мало нужно, чтобы сломать настроенную модель: одно изменение в обучающих данных вызывает цепную реакцию в сети и разрушает сценарий использования, который работал вчера.

Я считаю его тезис о регрессии к среднему наиболее полезным в данном случае, поскольку он отделяет маркетинг от того, что инструменты делают измеримо. Акции Take-Two выросли на 5% после объявления о предварительных заказах на GTA 6 на этой неделе, и этот разрыв между продуктом Rockstar, созданным вручную, за который инвесторы готовы платить надбавку, и усредненным результатом работы магистра права, — это именно то противоречие, которое постоянно поднимает Дикен.

Он считает, что ажиотаж вокруг этой идеи принес один положительный момент. Пять лет назад, когда я представлял алгоритм генерации уровней, на меня смотрели с недоумением; теперь же в зале все одобрительно кивают, когда речь заходит о чем-либо, обозначенном как ИИ.

«Это сделало людей более восприимчивыми к разговорам о том, что традиционные методы могли бы сделать для них много лет назад. Они более склонны верить в то, что подобные вещи могут существовать».

— Люк Диккен

Беспокойство вызывает то, что произойдет, когда пузырь лопнет. Штраус Зельник позиционирует GTA 6 как игру, «которой еще никогда не было», — амбиции, требующие лет и человеческого мастерства, а не статистического усреднения. Дикен же опасается противоположного исхода для этой области: лопнувший пузырь полностью отобьет у индустрии интерес к ИИ, включая традиционные методы. Я думаю, что этот страх вполне оправдан, поскольку негативная реакция редко отделяет полезные инструменты от переоцененных. Он ссылается на аргумент Эда Зитрона о том, что экономическая целесообразность бума не подтверждается, и заключает, что ответ, похоже, отрицательный в этике, праве и бизнесе, в то время как расходы все равно продолжаются.

«Меня беспокоит то, что генеративный ИИ отравляет колодец. Я не думаю, что в нем достаточно сложности и тонкости, чтобы сохранить традиционные подходы. Что касается магистерских программ, мы уже оказались в яме разочарования».

— Люк Диккен

Дикен говорит, что подход студий к решению этой проблемы зависит от контекста. Стартап, у которого осталось шесть месяцев, будет использовать все возможные преимущества. Крупная фирма должна взвесить юридические риски. Он приходит к выводу, что дело в ценностях: морально правильный ответ — никакого генеративного ИИ, бизнес-правильный ответ — достаточно, а где студия проводит черту, зависит от того, что для неё важно. Те же интервью с Зельником, которые объясняют, почему разработка GTA 6 заняла так много времени, указывают на совершенно другую модель: компания тратит 13 лет на выпуск чего-то, что она считает максимально качественным.

Читайте также: похоже, Rockstar готовит третий трейлер GTA 6, незаметно убрав пометку «новый» из трейлера 2 перед началом предзаказов 25 июня. Инсайдер DarkViperAU утверждает, что следующий трейлер длится 20 минут.