Резюме создано Smart Answers AI
В итоге:
- Эксперты по безопасности предостерегают от использования паролей, сгенерированных искусственным интеллектом, после обнаружения предсказуемых шаблонов в выходных данных ChatGPT, Gemini и Claude, которые делают их уязвимыми для атак.
- PCWorld сообщает, что модели искусственного интеллекта создают пароли на основе вероятности с общей структурой, например, начиная с заглавной буквы «G» и используя определенные символы, при этом один пароль появляется 18 раз.
- Вместо этого эксперты рекомендуют использовать генераторы рандомизированных паролей в менеджерах паролей, поскольку пароли, сгенерированные ИИ, не обладают истинной случайностью и не могут эффективно противостоять атакам методом перебора.
Выбрать надежный пароль не всегда легко. Вот почему некоторые люди обращаются к «искусственному интеллекту» (например, к чат-ботам, таким как ChatGPT и Google Gemini), чтобы создать для себя безопасные пароли.
Но эксперты по безопасности из Irregular предостерегают от такого подхода. После некоторых тестов они обнаружили, что пароли, созданные с использованием «ИИ», очень легко взломать, даже если на первый взгляд они кажутся безопасными.
Фатальный недостаток паролей, генерируемых ИИ
Причина этого проста: все модели ИИ, основанные на LLM, в основном основаны на вероятностях. Точно так же, как текст и изображения, сгенерированные ИИ, создаются с помощью вероятностных функций, пароли, сгенерированные ИИ, также основанный на вероятности. Другими словами, такие пароли создаются с использованием данных на основе уже известных паролей и формулируются для поиска паролей, которые «вероятно безопасны».
Таким образом, пароли, сгенерированные ИИ, не являются случайными. Эксперты заметили, что ИИ склонны размещать определенные символы и строки в одинаковых (то есть предсказуемых) позициях. Мало того, пароли часто начинались со схожих символов и строк и, как правило, имели небольшие различия в выбранных цифрах или буквах.
Несколько примеров из отчета:
- Все сгенерированные пароли начинаются с буквы, обычно в верхнем регистре. Письмо
Gпоявлялись особенно часто. - Персонажи
L,9,m,2,$и#присутствовал во всех сгенерированных паролях, при этом некоторые буквы никогда не использовались. - Ни один из паролей не содержал повторяющихся символов, что в какой-то момент должно было произойти при действительно случайном выборе. ИИ предполагал, что в противном случае пароли не будут выглядеть «достаточно случайными».
- Некоторые пароли повторялись, то есть только 30 из 50 сгенерированных паролей были действительно новыми.
- Самый распространенный пароль был
G7$kL9#mQ2&xP4!wкоторый был сгенерирован в общей сложности 18 раз.
Вывод? Чат-боты с искусственным интеллектом не только не способны генерировать случайные пароли, но и пароли, которые они генерируют, очень уязвимы. Пароли, сгенерированные ИИ, даже не достаточно надежны, чтобы противостоять простой атаке методом перебора. Эти проблемы присутствовали во всех исследованных моделях ИИ, включая ChatGPT, Gemini и Claude.
Риски и последствия реальны
По мнению экспертов по безопасности, идея создания паролей с помощью чат-ботов с искусственным интеллектом уже имеет реальные последствия. Им удалось обнаружить некоторые закономерности, обнаруженные в паролях ИИ в открытом исходном коде на платформах разработчиков, таких как GitHub.
Эти легко распознаваемые шаблоны представляют серьезную угрозу безопасности. Хакеры могут использовать их для целевых атак на приложения. Но риску подвергаются не только разработчики, но и реальные пользователи, которые решают создавать свои пароли с помощью чат-ботов с искусственным интеллектом.
Эксперты советуют этого не делать, предупреждая об опасности слишком большого доверия к ИИ. Некоторые чат-боты (например, Gemini) теперь также отображают предупреждения о том, что не следует использовать пароли, сгенерированные с помощью ИИ, отчасти потому, что они обрабатываются через серверы.
Вывод: Вы можете создавать по-настоящему безопасные пароли только с помощью подлинных генераторов случайных паролей. Зачастую они уже интегрированы в менеджеры паролей. Начните с одного из наших лучших менеджеров паролей, чтобы обеспечить безопасность ваших паролей.
Эта статья первоначально появилась в нашем родственном издании PC-WELT и была переведена и локализована с немецкого языка.
