Google обнаружила хакеров, злоупотребляющих искусственным интеллектом Gemini

Компания Google выявила множество спонсируемых государством хакерских групп, пытающихся использовать ее платформу искусственного интеллекта Gemini в злонамеренных целях, в том числе для разработки вредоносного ПО. Однако технологический гигант сообщает, что эти попытки не привели к серьезным киберугрозам, подчеркивая, что ИИ остается для злоумышленников инструментом, а не игровым механизмом.

Согласно выводам Google, хакеры из Ирана, Северной Кореи, Китая и России использовали Gemini для выполнения таких задач, как перевод контента, отработка фишинговых атак и написание компьютерного кода. Компания отследила эту деятельность более чем 10 иранских хакерских групп, 20 китайских групп, поддерживаемых правительством, и девяти северокорейских субъектов угроз.

"Иранские субъекты APT (продвинутых постоянных угроз) были самыми активными пользователями Gemini, используя его для исследования оборонных организаций, анализа уязвимостей и создания контента для дезинформационных кампаний", - отметил Google в своем блоге в среду.

Несмотря на эти попытки, Google утверждает, что Gemini в основном обеспечивает этим субъектам повышение производительности, а не прямые хакерские возможности. "В настоящее время они используют ИИ в основном для исследований, устранения неполадок в коде, создания и локализации контента", - заявили в компании.

Изображение кредитное: Jaque Silva | NurPhoto

Google также рассказала об ограничениях, с которыми столкнулись хакеры, пытаясь использовать Gemini для более сложных вредоносных задач. Хотя ИИ помогал им разбираться в сложных темах и генерировать базовый код, его средства защиты не позволяли совершать кибератаки. Попытки использовать Gemini для продвинутых методов фишинга, создания вредоносных программ или обхода мер безопасности Google оказались безуспешными.

"Некоторые злоумышленники безуспешно пытались обратиться к Gemini за инструкциями по использованию продуктов Google, такими как продвинутые методы фишинга для Gmail, помощь в кодировании похитителя информации для Chrome и способы обхода методов проверки создания аккаунта Google", - сообщили в компании. "Эти попытки не увенчались успехом. Gemini не создавал вредоносных программ или другого контента, который мог бы быть использован в успешной вредоносной кампании".

Однако Google признала, что инструменты ИИ, подобные Gemini, могут ускорить рабочие процессы субъектов киберугроз, позволяя им действовать более эффективно и масштабно. Например, иранская пропагандистская организация использовала Gemini для улучшения переводов, чтобы дезинформационные кампании охватывали более широкую аудиторию. В то же время связанные с Северной Кореей хакеры использовали чат-бот для составления сопроводительных писем и сбора рекомендаций по поиску работы в LinkedIn, что могло помочь им в попытках получить удаленные должности в американских ИТ-компаниях, что вызывает растущее беспокойство у федеральных следователей.

"Группа также использовала Gemini для получения информации об обмене сотрудниками за рубежом. Многие из этих тем были бы обычными для тех, кто изучает и ищет работу", - отметили в Google.

Выводы Google перекликаются с аналогичными открытиями OpenAI. Год назад OpenAI обнаружил несколько государственных групп, пытавшихся использовать ChatGPT не по назначению. Однако в ходе расследования выяснилось, что эти хакеры использовали чат-бота в основном для незначительного повышения производительности, а не для совершения сложных кибератак.

В ответ на эти угрозы Google укрепила свои протоколы безопасности ИИ. Компания постоянно проверяет защиту Gemini, чтобы предотвратить злоупотребления, и при необходимости сотрудничает с правоохранительными органами. "Мы расследуем случаи злоупотребления нашими продуктами, сервисами, пользователями и платформами, включая злонамеренные кибердействия со стороны поддерживаемых правительством угроз, и при необходимости сотрудничаем с правоохранительными органами", - заявили в Google.

Кроме того, Google активно работает над пресечением этих киберугроз, удаляя предполагаемых злоумышленников со своих платформ. Такая активная позиция подчеркивает стремление компании обеспечить безопасность своих инструментов искусственного интеллекта, признавая при этом растущие риски, связанные с деятельностью хакеров, спонсируемых государством.