OpenAI закрывает аккаунты, связанные с предполагаемым китайским инструментом слежки

OpenAI заблокировала несколько аккаунтов, которые предположительно использовали ChatGPT для создания инструмента мониторинга социальных сетей, предназначенного для освещения антикитайских протестов в США и других западных странах. Компания утверждает, что эта сеть, скорее всего, связана с Китаем.

OpenAI ужесточает контроль за неправомерным использованием ИИ. Компания закрыла несколько аккаунтов, которые, по сообщениям, использовали ChatGPT для создания инструмента наблюдения за социальными сетями. Согласно отчету OpenAI, эти аккаунты якобы были связаны с операцией, проводимой при поддержке Китая, целью которой был сбор данных в реальном времени об антикитайских протестах в США, Великобритании и других западных странах.

Так называемый "Qianyue Overseas Public Opinion AI Assistant" был описан в маркетинговых материалах как программное обеспечение, предназначенное для отслеживания и передачи данных о протестах против прав человека в Интернете непосредственно китайским властям, спецслужбам и посольствам. OpenAI не смог самостоятельно подтвердить существование этого инструмента, но получил доступ к рекламным материалам, в которых подробно описывались его возможности - в основном сканирование таких платформ, как X, Facebook и Instagram, на предмет соответствующих обсуждений.

Бен Ниммо, ведущий расследователь OpenAI, назвал этот случай тревожным примером того, как "авторитарный режим пытается использовать американский ИИ в антидемократических целях". Выводы были сделаны на фоне роста напряженности в связи с использованием Китаем западных технологий, и OpenAI активно предупреждает американских политиков о рисках для национальной безопасности, связанных с китайским ИИ.

Запрещенные аккаунты также ссылались на использование других моделей ИИ, включая Llama от Meta с открытым исходным кодом. Meta признала такую возможность, но отметила, что у злоумышленников есть доступ ко многим инструментам ИИ, в том числе разработанным в Китае.

Это не первый случай, когда OpenAI принимает меры против сомнительной деятельности. Компания также запретила аккаунты, связанные с иранскими операциями влияния, северокорейскими мошенничествами с трудоустройством и другой связанной с Китаем сетью, генерирующей испаноязычный контент с критикой правительства США.

С ростом числа китайских ИИ-стартапов, таких как DeepSeek, OpenAI рассматривает возможность открытия некоторых собственных моделей для конкуренции. Тем временем американские политики пытаются найти баланс между инновациями в области ИИ и вопросами национальной безопасности.