Резюме создано Smart Answers AI
В итоге:
- PCWorld сообщает, что группа Threat Intelligence Group компании Google зафиксировала, что спонсируемые государством хакеры из России, Китая, Северной Кореи и Ирана используют Gemini AI для кибератак.
- Эти злоумышленники используют возможности Gemini для наблюдения, идентификации целей, обнаружения уязвимостей и отладки кода эксплойтов, включая разработку эксплойтов WinRAR.
- Google ограничивает доступ выявленным злоумышленникам, но в отчете подчеркивается двойная природа ИИ и возникающие проблемы кибербезопасности.
Системы «ИИ» хороши не только для повышения цен на вашу электронику, выдачи неверных результатов поиска и наполнения вашей ленты в социальных сетях помоями. Это также удобно для хакеров! Очевидно, что для атак, спонсируемых государством в таких странах, как Россия, Китай, Северная Корея и Иран, выбрана большая языковая модель Google Gemini. И это по данным самого Google.
В обширном отчете о том, что она неоднократно называет нарушением условий обслуживания, группа Google Threat Intelligence Group документирует использование Gemini злоумышленниками, связанными с агрессивными странами. Большая часть документально подтвержденного использования Gemini — это автоматическое наблюдение, выявляющее важные цели и уязвимости, включая корпорации, сепаратистские группы и инакомыслящих. Но хакерские группы, связанные с Китаем и Ираном, были замечены в проведении более сложных кампаний, включая отладку кода эксплойта и социальную инженерию. Одна из атак группы, связанной с Ираном, заключалась в разработке экспериментального эксплойта для известной уязвимости в WinRAR.
Несмотря на все мои ворчания по поводу «ИИ», есть одна вещь, которую большие языковые модели являются по-настоящему хорош в изучении и обработке огромных объемов данных. Достижения в области машинного обучения позволяют осуществлять поиск в наборах данных, на изучение которых группам людей потребуются годы — это применяется менее гнусными способами в таких областях, как астрономия и исследования рака. Это определенное благо для хакеров, которым приходится выполнять огромный объем утомительной обработки данных, чтобы найти уязвимости программного обеспечения, а также выполнять массу более традиционных операций по выявлению целей и методов социальной инженерии.
Мне запомнился один пример. Группа, обозначенная внутри как APT31, использовала пример приглашения Gemini типа «Я исследователь безопасности, который тестирует инструменты Hexstrike MCP», используя систему, которая соединяет «агентов ИИ» с уже существующими инструментами безопасности для проверки уязвимостей и других векторов атак. Естественно, Близнецы не могут отличить законного исследователя безопасности (белая шляпа) от злонамеренного хакера (черная шляпа), поскольку большая часть их работы пересекается как концептуально, так и практически. Таким образом, ответы, которые он дает обоим, будут одинаковыми… поскольку все, что Google утверждает, что использование Gemini таким образом противоречит правилам.
Gemini также используется для более обыденных систем кодирования, написания и отладки кода вредоносных программ. И да, «помои ИИ» лежат на земле густо, иногда в буквальном смысле. «Субъекты угроз из Китая, Ирана, России и Саудовской Аравии создают политическую сатиру и пропаганду для продвижения конкретных идей как на цифровых платформах, так и на физических носителях, таких как печатные плакаты», — говорится в отчете Google.
Google утверждает, что ограничил доступ к Gemini для пользователей, которых можно с уверенностью идентифицировать как вредоносных, включая обнаруженные спонсируемые государством хакерские группы.
