В отчете The Financial Times утверждается, что, по данным четырех источников, два недавних сбоя в работе AWS были вызваны тем, что инженеры позволили его инструменту кодирования Kiro AI вносить изменения без надзора.
По словам старшего сотрудника AWS, как минимум два сбоя в производстве за последние несколько месяцев были вызваны тем, что ИИ-агент работал на своих условиях. «Инженеры позволяют ИИ (агенту) решать проблему без вмешательства», — утверждает один источник. «Отключения были небольшими, но вполне предсказуемыми».
«Это короткое событие стало результатом ошибки пользователя (сотрудника AWS), а именно неправильной настройки контроля доступа, а не искусственного интеллекта. Прерывание обслуживания было крайне ограниченным событием в прошлом году, когда был затронут один сервис (AWS Cost Explorer — который помогает клиентам визуализировать, понимать и управлять затратами и использованием AWS с течением времени) в одном из двух наших регионов в материковом Китае.
«Это событие не повлияло на вычисления, хранилище, базы данных, технологии искусственного интеллекта или какие-либо другие из сотен сервисов, которые мы используем. После этих событий мы внедрили множество дополнительных мер безопасности, включая обязательную экспертную оценку для доступа к продукции».
В аналогичных заявлениях для FT Amazon заявила, что ее инструмент Kiro AI «запрашивает авторизацию, прежде чем предпринимать какие-либо действия», и повторила утверждение, что инженер, участвовавший в декабрьском инциденте, имел «более широкие разрешения, чем ожидалось». Компания также заявила, что использование инструментов искусственного интеллекта было «совпадением».
Итак, ошибка пользователя, а не ошибка ИИ, по крайней мере, по мнению Amazon. Тем не менее, поскольку инструменты кодирования ИИ продолжают внедряться инженерами по всему миру, я сомневаюсь, что это последний раз, когда мы слышим заявления о том, что мошеннические развертывания ИИ выходят из-под контроля и вызывают серьезные сбои, а также о том, что компании спешат заявить, что полный контроль все еще находится в руках ИИ, а не ИИ.
Хотя кодирование агентного ИИ, безусловно, имеет свое применение, похоже, что выяснение барьеров вокруг его развертывания все еще находится в стадии разработки, даже для такого веб-гиганта, как AWS.
Лучшие игровые установки 2026 года


