Roblox и Discord под обстрелом за нарушения в области детской безопасности

Две крупнейшие игровые площадки Интернета, Roblox и Discord, официально находятся в центре внимания по поводу детской безопасности - и, похоже, все может обернуться неприятностями.

Власти штатов Флорида и Нью-Джерси начали серьезное расследование того, как эти платформы защищают (или не защищают) своих юных пользователей. Roblox, в котором ежедневно играют 85 миллионов человек, и Discord с 200 миллионами пользователей в месяц, теперь столкнулись с юридическим давлением, требующим объяснить, как они на самом деле обеспечивают безопасность детей, а не просто обещают это.

"Генеральный прокурор Флориды Джеймс Утмайер (James Uthmeier) направил Roblox Corp. повестку с требованием предоставить информацию о том, как она продает свои игры детям, и о своей политике борьбы с хищниками".

В центре внимания - достаточно ли Roblox делает для того, чтобы предотвратить взаимодействие детей с потенциальными хищниками. По словам представителей офиса Утмайера, они хотят получить информацию о политике модерирования, о том, как работает (или не работает) проверка возраста и насколько легко дети обходят родительский контроль.

Roblox ответила, сказав:

"Мы намерены сотрудничать с генеральной прокуратурой и с нетерпением ждем возможности рассказать обо всем, что делает Roblox для обеспечения безопасности пользователей".

Хорошее пиар-заявление, но суд общественного мнения уже шумит - и не в лучшую сторону.

Изображение: Discord

Проблемы Discord

Если Roblox пылает, то Discord может оказаться еще ближе к огню.

Генеральный прокурор Нью-Джерси Мэтью Платкин только что подал в суд на Discord, обвинив компанию в том, что она вводит семьи в заблуждение относительно того, насколько безопасно ее приложение. В иске утверждается, что Discord обещал защитные функции вроде фильтров сообщений, но не выполнил их. Дети все равно подвергались воздействию ужасных материалов - речь идет о материалах о сексуальном насилии над детьми, насильственном контенте и даже СМИ, связанных с терроризмом.

"Discord ввел в заблуждение пользователей и родителей, преувеличив свои функции безопасности, и не проверил сообщения даже между друзьями", - говорится в иске.

Опаньки.

Что еще более ужасно, в иске говорится, что Discord не обеспечивает должного соблюдения своего собственного правила о минимальном возрасте (якобы 13+), что позволяет детям младшего возраста легко проскользнуть через щели.

Официальный ответ Discord? Довольно оборонительный:

"Учитывая наше взаимодействие с офисом генерального прокурора, мы удивлены сообщением о том, что Нью-Джерси сегодня подал иск против Discord".

Перевод: "Подождите, вы подаете на нас в суд? Мы думали, что у нас все хорошо?"

Почему это взорвалось именно сейчас?

Обе платформы пытались исправить ситуацию, по крайней мере, на бумаге.

Roblox утверждает, что только в 2024 году выпустила 40 обновлений по безопасности, включая одно крупное, выпущенное в ноябре, которое запрещает детям младше 13 лет входить в социальные пространства, такие как виртуальные клубы. В свою очередь, генеральный директор Discord Джейсон Ситрон в прошлом году давал показания в Конгрессе по поводу безопасности детей - как раз в тот момент, когда компания готовится к возможному IPO.

Но многим людям (и многим родителям) кажется, что это слишком мало и слишком поздно.

Прошлым летом издание Bloomberg's Businessweek сообщило, что Roblox испытывает серьезные проблемы с тем, чтобы отвадить хищников от своей платформы. С 2018 года полиция США арестовала более двух десятков человек, обвиненных в обхаживании или насилии над жертвами, с которыми они познакомились через Roblox. Инсайдеры говорят, что проблема огромна, отчасти из-за масштабов этих платформ.

"Сотрудники Roblox рассказали о масштабах проблемы, связанной с охраной порядка на огромной пользовательской базе компании".

По сути, даже при наличии всех искусственных интеллектов, модов и систем отчетности плохие игроки все равно проскальзывают.

"Roblox, Discord завтра"

И Roblox, и Discord грозят серьезные юридические проблемы, и общественное доверие определенно находится под угрозой.

Если Roblox не сможет доказать, что его системы герметичны, он рискует получить дополнительные меры регулирования (и разгневанных родителей, отстраняющих своих детей). Для Discord судебный иск может не только отсрочить IPO, но и подорвать репутацию в тот момент, когда она пытается выйти за пределы игровых кругов и стать более широкой социальной платформой.

Есть и более важный вопрос об ответственности. Насколько ответственными должны быть платформы, если они больше похожи на игровые площадки, чем на традиционные социальные сети? И насколько реально полностью контролировать пространства с сотнями миллионов пользователей?

Эти случаи могут создать серьезные прецеденты для того, как приложения будут обеспечивать безопасность детей в будущем, и не только для Roblox и Discord, но и для всего интернета.

Дело не только в том, что две компании попали в беду. Речь идет о том, кто несет ответственность за то, что виртуальные игровые площадки становятся опасными.