НЕ используйте пароли, сгенерированные искусственным интеллектом, предупреждают эксперты по безопасности

Фатальный недостаток паролей, генерируемых ИИ

Причина этого проста: все модели ИИ, основанные на LLM, в основном основаны на вероятностях. Точно так же, как текст и изображения, сгенерированные ИИ, создаются с помощью вероятностных функций, пароли, сгенерированные ИИ, также основанный на вероятности. Другими словами, такие пароли создаются с использованием данных на основе уже известных паролей и формулируются для поиска паролей, которые «вероятно безопасны».

Таким образом, пароли, сгенерированные ИИ, не являются случайными. Эксперты заметили, что ИИ склонны размещать определенные символы и строки в одинаковых (то есть предсказуемых) позициях. Мало того, пароли часто начинались со схожих символов и строк и, как правило, имели небольшие различия в выбранных цифрах или буквах.

Несколько примеров из отчета:

• Все сгенерированные пароли начинаются с буквы, обычно в верхнем регистре. Письмо G появлялись особенно часто.
• Персонажи L, 9, m, 2, $и # присутствовал во всех сгенерированных паролях, при этом некоторые буквы никогда не использовались.
• Ни один из паролей не содержал повторяющихся символов, что в какой-то момент должно было произойти при действительно случайном выборе. ИИ предполагал, что в противном случае пароли не будут выглядеть «достаточно случайными».
• Некоторые пароли повторялись, то есть только 30 из 50 сгенерированных паролей были действительно новыми.
• Самый распространенный пароль был G7$kL9#mQ2&xP4!wкоторый был сгенерирован в общей сложности 18 раз.

Вывод? Чат-боты с искусственным интеллектом не только не способны генерировать случайные пароли, но и пароли, которые они генерируют, очень уязвимы. Пароли, сгенерированные ИИ, даже не достаточно надежны, чтобы противостоять простой атаке методом перебора. Эти проблемы присутствовали во всех исследованных моделях ИИ, включая ChatGPT, Gemini и Claude.

Риски и последствия реальны

По мнению экспертов по безопасности, идея создания паролей с помощью чат-ботов с искусственным интеллектом уже имеет реальные последствия. Им удалось обнаружить некоторые закономерности, обнаруженные в паролях ИИ в открытом исходном коде на платформах разработчиков, таких как GitHub.

Эти легко распознаваемые шаблоны представляют серьезную угрозу безопасности. Хакеры могут использовать их для целевых атак на приложения. Но риску подвергаются не только разработчики, но и реальные пользователи, которые решают создавать свои пароли с помощью чат-ботов с искусственным интеллектом.

Эксперты советуют этого не делать, предупреждая об опасности слишком большого доверия к ИИ. Некоторые чат-боты (например, Gemini) теперь также отображают предупреждения о том, что не следует использовать пароли, сгенерированные с помощью ИИ, отчасти потому, что они обрабатываются через серверы.

Вывод: Вы можете создавать по-настоящему безопасные пароли только с помощью подлинных генераторов случайных паролей. Зачастую они уже интегрированы в менеджеры паролей. Начните с одного из наших лучших менеджеров паролей, чтобы обеспечить безопасность ваших паролей.