Резюме создано Smart Answers AI
В итоге:
- PCWorld сообщает, что OpenAI запускает новые функции безопасности для ChatGPT, включая режим блокировки и метки повышенного риска для борьбы с растущими угрозами.
- Режим блокировки ограничивает внешнее взаимодействие и отключает просмотр веб-страниц для пользователей с высоким уровнем конфиденциальности, а метки риска четко обозначают потенциально опасные функции.
- Эти обновления специально предназначены для атак с внедрением подсказок, когда вредоносные подсказки пытаются обманом заставить ИИ выполнить вредоносные действия.
Согласно недавнему сообщению в блоге, OpenAI запускает две новые функции безопасности в ChatGPT для устранения растущих угроз своим системам искусственного интеллекта.
Поскольку сервисы искусственного интеллекта все чаще подключаются к более широким частям Интернета и большему количеству внешних приложений, также увеличивается риск так называемых «атак с быстрым внедрением». Атака с внедрением подсказок — это когда кто-то создает вводящую в заблуждение подсказку, пытаясь заставить LLM следовать вредоносным инструкциям и/или раскрывать конфиденциальную информацию.
Одной из новых функций ChatGPT является режим блокировки, дополнительный режим безопасности, предназначенный для пользователей с высокими требованиями к конфиденциальности. Этот режим строго ограничивает взаимодействие ChatGPT с внешними системами. Некоторые инструменты и функции полностью отключены, а просмотр веб-страниц разрешен только через кэшированный контент, а не через прямые сетевые вызовы. Режим блокировки сначала будет доступен корпоративным клиентам, а позже в ближайшие месяцы он будет доступен для потребителей.
В то же время будет введена более четкая маркировка рисков: единая маркировка с текстом «Повышенный риск» для функций, которые представляют повышенный риск безопасности (например, тех, которые предоставляют доступ к сети инструментам искусственного интеллекта). Метки будут видны в ChatGPT, ChatGPT Atlas и Codex.
Эта статья первоначально появилась в нашем родственном издании PC for Alla и была переведена и локализована со шведского языка.
