Драма безопасности в Roblox после напряженного интервью генерального директора

Последнее интервью генерального директора ROBLOX вывело на чистую воду давно зревшие сомнения в культуре безопасности платформы. Roblox уже много лет находится под пристальным вниманием, но цифры усилили это внимание. В настоящее время компания насчитывает около 150 миллионов ежедневных активных пользователей, многие из которых - дети, и за один год было зарегистрировано более 13 000 случаев эксплуатации детей.

Во время выступления на технологическом подкасте Hard Fork газеты The New York Times соучредителя и генерального директора Roblox Дэвида Басуки напрямую спросили о хищниках, нацеленных на детей в сервисе. Его решение назвать эту проблему "возможностью" прозвучало с необычной силой, потому что оно появилось не само по себе, а на фоне судебных исков, неудач модерации и борьбы за политику, которые уже довели доверие родителей до предела.

Три американских штата - Луизиана, Кентукки и Техас - подали иски, утверждая, что Roblox не сделала достаточно для защиты несовершеннолетних. Еще более 20 дел в федеральных судах утверждают, что платформа допускает сексуальную эксплуатацию. В то же время Roblox внедряет систему оценки возраста с помощью искусственного интеллекта и расширяет ограничения на общение в чате, а затем преподносит эти инструменты как доказательство того, что она идет впереди всей индустрии.

Ведущие Hard Fork Кейси Ньютон и Кевин Руз построили свои вопросы в этом контексте. Когда Ньютон спросил, как он относится к "проблеме хищников в Roblox", Базуки ответил:

"Мы думаем об этом не только как о проблеме, но и как о возможности. Как мы можем позволить молодым людям строить, общаться и проводить время вместе? Как одновременно построить будущее коммуникации?" - Дэвид Башуцки.

Из остальной части ответа стало ясно, что он имел в виду возможность инноваций в области модерации и коммуникационного дизайна. Однако такая формулировка превратила одну из самых мрачных реальностей любой детской платформы в задачу роста. Для критиков это укрепило подозрение, что руководство Roblox рассматривает безопасность как еще одну инженерную проблему, которую нужно оптимизировать, а не как жесткую границу, которая может ограничить деятельность компании.

На протяжении всего интервью с генеральным директором ROBLOX Басцуки постоянно возвращался к теме масштаба как к объяснению, так и к защите. Он отметил, что пользователи Roblox проводят за игрой около 11 миллиардов часов в месяц, и привел в пример хитовую игру Steal a Brainrot, число одновременных игроков в которой летом достигло 25 миллионов, как доказательство того, что инфраструктура платформы может поддерживать. На вопрос о том, легко ли хищникам обходить фильтры, он отказался от прямого ответа и вместо этого сказал:

"Это одна из основных задач, которую мы решаем, - пытаться удержать людей на нашей платформе... Мы всегда стараемся быть впереди". - Дэвид Басцуки.

Когда Ньютон в ответ прямо спросил, считает ли он, что у Roblox есть проблема хищников, Басзуки не стал уступать.

"Я думаю, что мы делаем невероятную работу по внедрению инноваций относительно количества людей на нашей платформе и часов, чтобы действительно заглянуть в будущее того, как это будет работать". - Дэвид Басцуки.

Этот обмен мнениями выкристаллизовал напряженность. С одной стороны, компания, потратившая почти два десятилетия на создание инструментов для пользовательских игр и сообществ, теперь в значительной степени опирается на фильтрацию с помощью искусственного интеллекта и оценку возраста для управления рисками. С другой - растущий лагерь родителей, регуляторов, создателей и групп защиты, которые говорят, что основной вопрос остается без ответа: достаточно ли этого, и кто должен решать?

Этот вопрос обострился благодаря случаям за пределами подкаста. Недавно Roblox запретил YouTuber Schlep, создателя, который собрал большую аудиторию, устраивая "охоту на хищников" в пространствах Roblox. Его видео, которые, по его словам, привели к многочисленным арестам, были удалены, а аккаунт закрыт в соответствии с правилами Roblox, запрещающими самосуд. Его сторонники объединились под хэштегом #freeschlep и утверждают, что его работа выявила недостатки в собственных системах компании. Для них то, что главный исполнительный директор назвал кризис хищников "возможностью" через несколько дней после увольнения одного из самых заметных, хотя и противоречивых, наблюдателей, звучит как неправильная интерпретация момента.

Юридическое давление также усиливается. Law By Mike, популярный YouTuber и практикующий адвокат, публично заявил о планах подать судебный иск против Roblox в связи с предполагаемыми пробелами в защите детей. Его участие имеет значение, потому что он находится в двух мирах: он понимает механику управления платформой и обращается к той же аудитории родителей и подростков, которые относятся к Roblox как к социальному сообществу. Вместе с исками от штата и федеральных властей он расширяет фронт, на котором Roblox должна защищать свои достижения.

В интервью Hard Fork Башуцкий попытался сместить акценты с кризисного управления на долгосрочную архитектуру. Он описал новую систему оценки возраста по лицу - видеоселфи, которое используется для оценки возраста пользователя, прежде чем разрешить ему общаться в чате, - как еще один сигнал в стопке, которая также включает поведенческие данные и самоотчеты о возрасте.

"Мы уже делаем кучу всего: У нас очень, очень хорошие текстовые фильтры; нет обмена изображениями; мы проводим множество мониторингов. Но если добавить к этому еще один сигнал, это действительно поможет нам принимать крутые решения". - Дэвид Басцуки.

Он утверждает, что платформа исторически променяла рост на безопасность, усиленно фильтруя текст, ссылаясь на старый мем о том, как чат Roblox превращался в "хэштег, хэштег, хэштег", когда запрещенные слова блокировались. По его словам, с помощью ИИ фильтры могут стать более точными и устойчивыми к враждебным тактикам, например, когда пользователи пытаются зашифровать контактные данные в закодированных фразах.

Подкаст, выпускаемый в рамках портфолио The New York Times Podcast, недолго оставался в этом техническом русле. Руз привел отчет Hindenburg Research за 2024 год, в котором Roblox обвиняется в "компрометации безопасности детей, чтобы отчитаться перед инвесторами о росте", и указывает на сокращение расходов на обеспечение доверия и безопасности. Базуки со смехом отверг эту компанию. "Весело. Давайте продолжим в том же духе", - сказал он, отметив, что Hindenburg с тех пор вышла из бизнеса, и заявив, что переход на системы проверки ИИ равносилен переходу от ручной сборки автомобилей к конвейерной. По его мнению, главное - не срезать углы, а применять более совершенные инструменты.

Такой акцент на ИИ ставит Roblox в привычную категорию. Социальные сети большую часть 2010-х годов обещали, что автоматизированные системы будут устранять злоупотребления и дезинформацию в больших масштабах, но обнаружили жесткие ограничения на то, что машинное обучение может достоверно определить. Руз и Ньютон напомнили Басцуки об этой истории. В ответ он заявил, что внутренние метрики Roblox показывают, что фильтрация и обнаружение улучшаются по мере внедрения новых моделей, и что "умопомрачительный" масштаб платформы делает такую автоматизацию не только эффективной, но и необходимой.

Даже внутри игр позиция Roblox в отношении модерации находится в напряжении. Такие правозащитные группы, как Women In Games, Out Making Games и BAME in Games, недавно опубликовали открытое письмо, в котором раскритиковали проект правил для создателей, касающихся "деликатных вопросов". Недавно предложенные Roblox правила для создателей, касающиеся "деликатных вопросов", представляют собой шаг назад как для творческого самовыражения, так и для социальной справедливости", - утверждается в письме, предупреждая, что рассмотрение таких тем, как гендерное равенство, репродуктивные права и расовая справедливость, в качестве необязательных или рискованных "деликатных" зон рискует похоронить истории, имеющие значение для молодых игроков. - Women In Games, Out Making Games и BAME in Games.

Эта критика не сосредоточена на хищниках или проверке возраста, но она говорит о той же самой основной проблеме: кто устанавливает границы того, что молодые пользователи могут видеть и обсуждать, и чьему комфорту служат эти решения.

В конце концов разговор о Hard Fork перешел к Polymarket, криптовалютной платформе прогнозирования, которую Башуцкий оценил как мощный информационный сигнал. Когда Руз полушутя-полусерьезно спросил, разместит ли он когда-нибудь рынок предсказаний в самом Roblox, Басцуки ответил утвердительно, но затем признал, что это сопряжено с юридическими сложностями. На вопрос о том, не будет ли превращение рынка предсказаний в игру для детей "ужасной идеей", он ответил:

"Ну, на самом деле я считаю, что это блестящая идея, если это можно сделать в образовательной форме, но при этом законно... просто игра под названием "Одеться, чтобы произвести впечатление", где не пытаются получить деньги детей или что-то в этом роде. Я был бы большим поклонником этого". - Дэвид Басцуки.

Для компании, которая уже подвергается проверке на предмет обращения с несовершеннолетними, идею создания геймифицированного механизма предсказаний в Roblox, даже без прямых финансовых ставок, будет трудно отделить от более широких дебатов о лутбоксах, игровых механиках и цифровом принуждении.

В некоторые моменты Ньютон отмечал, что беседа была напряженной. Башуцки настаивал, что он не расстроен, а лишь удивлен тем, что внимание было сосредоточено на безопасности, а не на более легких темах индустрии, и неоднократно описывал положение Roblox как "ситуацию с высокой ответственностью", которая также является "невероятной возможностью". Он отверг образ главного исполнительного директора, который проводит дни, оглядываясь через плечо, заявив, что компания упреждала безопасность "с первого дня", даже остановила рост в самые первые недели, чтобы создать базовые инструменты модерации.

Эта уверенность сохранялась до конца интервью с генеральным директором ROBLOX, когда Руз задал личный вопрос: будет ли Roblox достаточно безопасным к тому времени, когда его собственный маленький сын попросит поиграть в него. Башуцкий не ограничился простым "да".

"Roblox - это потрясающая платформа для вашего ребенка", - сказал он, предложив при необходимости показать внутренние показатели на условиях неразглашения и добавив, что родители остаются "высшим арбитром ответственности". - Дэвид Басцуки.

Ответ отражает позицию компании в миниатюре. Roblox позиционирует себя как компанию, которая уже опережает время, которая уже безопаснее многих аналогов, которая уже использует инструменты, которые со временем переняли бы и другие. Остается нерешенным вопрос, соответствует ли эта самооценка опыту семей, которые видели случаи груминга или эксплуатации, появившиеся на платформе, или создателей и защитников, которые говорят, что их собственные предупреждения оставались без внимания, пока судебные иски и заголовки газет не заставили их отреагировать.

Все это не отменяет того, что было создано Roblox. Платформа играет важную роль в более широкой экономике онлайн-игр: это и творческий инструментарий, и огромный социальный центр, где дети учатся тому, как работают онлайн-сообщества, к лучшему и к худшему. Эпизод с хард-форком показывает, насколько хрупким может быть это положение, когда доверие шатается. Высказывания Башуцкого не открыли новых фактов о системах безопасности Roblox, но они показали, как руководство компании расставляет свои приоритеты. Инновации, масштаб и долгосрочное видение платформы находятся в центре, а четкое признание вреда - ближе к краю.

Читайте также: "Roblox преодолел отметку в 100 миллионов ежедневных активных пользователей ". Это событие подчеркивает, как быстро растет аудитория платформы и почему каждое решение, касающееся безопасности, модерации и политики, теперь имеет последствия, выходящие далеко за рамки одного интервью с генеральным директором ROBLOX.