Microsoft разоблачает хакеров, стоящих за эксплойтами ИИ

Корпорация Microsoft заявила, что выявила хакеров-преступников из США и других стран, которые обходят защитные барьеры инструментов генеративного искусственного интеллекта, включая сервисы Azure OpenAI компании, для создания вредоносного контента, включая неконсенсуальные интимные изображения знаменитостей и другой откровенный контент сексуального характера.

Хакеры выкрали логины клиентов из общедоступных источников и использовали их для доступа к генеративным службам ИИ, включая Azure OpenAI, облачный продукт Microsoft, который позволяет клиентам использовать модели OpenAI, согласно компании. Затем хакеры изменили возможности продуктов ИИ и продали доступ другим вредоносным группам, предоставив им инструкции о том, как создавать вредоносный контент.

Хакеры, идентифицированные Microsoft, базируются в Иране, Великобритании, Гонконге и Вьетнаме. Они предположительно являются частью глобальной сети киберпреступности, которую Microsoft называет Storm-2139. Двое других участников находятся во Флориде и Иллинойсе, но Microsoft заявила, что не называет их имен, чтобы не мешать уголовным расследованиям. Производитель программного обеспечения заявил, что готовит уголовные направления в правоохранительные органы США и других стран.

Действия предпринимаются в то время, когда растущая популярность инструментов генеративного ИИ порождает опасения относительно их неправомерного использования для создания поддельных незаконных изображений публичных лиц и обычных людей, а также для создания материалов о сексуальном насилии над детьми. Такие компании, как Microsoft и OpenAI, запрещают такое поведение и принимают технологические меры для его блокировки, но вредоносные группы все еще могут попытаться получить несанкционированный доступ.

«Мы очень серьезно относимся к неправомерному использованию ИИ, осознавая серьезные и долгосрочные последствия оскорбительных изображений для жертв»,

Стивен Масада, помощник генерального юрисконсульта подразделения по борьбе с цифровыми преступлениями Microsoft, заявил в четверг в своем блоге.

«Microsoft по-прежнему привержена защите пользователей, внедряя надежные меры безопасности на основе искусственного интеллекта в наши платформы и защищая наши сервисы от незаконного и вредоносного контента».

Заявление Microsoft последовало за иском, поданным компанией в декабре в Восточном округе Вирджинии против 10 «Джонов Доус» с целью собрать больше информации о хакерской группе и пресечь ее деятельность, сообщил Масада в блоге.

Суд вынес постановления, позволяющие Microsoft захватить ключевой веб-сайт, который использовали хакеры. Это, а также раскрытие юридических документов в прошлом месяце, вызвало панику среди хакерской группы и заставило некоторых ее членов указывать пальцами друг на друга, что Microsoft смогла наблюдать, чтобы идентифицировать некоторых членов, заявила компания.

Microsoft отказалась назвать имена знаменитостей, которых это коснулось.