Резюме создано Smart Answers AI
В итоге:
- PCWorld сообщает, что Anthropic выпустила подсказку, раскрывающую, что чат-боты с искусственным интеллектом, такие как ChatGPT, Claude и Gemini, помнят о пользователях из разговоров.
- Эти системы искусственного интеллекта хранят личные данные, включая имена, местонахождение и хобби, что обеспечивает персонализацию, но вызывает серьезные проблемы с конфиденциальностью для пользователей.
- Тестирование выявило как очевидную, так и удивительную хранимую информацию, хотя пользователи могут управлять своими данными с помощью доступных инструментов для просмотра и удаления воспоминаний.
Один из инструментов, которые ChatGPT, Claude и Gemini используют, чтобы держать вас рядом, — это запоминание лакомых кусочков, почерпнутых из ваших разговоров, начиная от вашего имени и места, где вы живете, до ваших хобби и домашних раздражений.
Иногда полезно, когда ваш ИИ знает, чем вы зарабатываете на жизнь и как вы предпочитаете, чтобы к вам обращались, или когда он знает ваш стиль работы и ежедневные «блокаторы», с которыми вы сталкиваетесь.
Но это также может нервировать, когда ваш чат-бот с искусственным интеллектом вмешивается в какие-то личные мелочи или настойчиво говорит о других аспектах вашей жизни, например, связывает повседневный запрос с несвязанным проектом, о котором вы его ранее спрашивали («Это прекрасно сочетается с ремонтом вашей квартиры на Манхэттене!»).
Большинство крупных поставщиков ИИ предлагают способы вручную добавлять «воспоминания» о вас, которые вы хотите сохранить, а также у них могут быть инструменты, позволяющие вам видеть (или удалять) личные данные, которые они узнали о вас с течением времени.
Вы также можете использовать подсказки, чтобы проникнуть в банки памяти ИИ; Anthropic, материнская компания Клода, недавно поделилась очень эффективным.
Предложение Anthropic связано с недавно представленным инструментом импорта памяти, предназначенным для переключателей ChatGPT или всех, кто хочет отказаться от своего текущего поставщика искусственного интеллекта.
Многие пользователи ИИ рассматривают возможность перехода, вызванные шумихой вокруг контракта OpenAI с Пентагоном на использование моделей ChatGPT в вооруженных силах. Министерство обороны заключило сделку на 200 миллионов долларов с ChatGPT после того, как Anthropic, возражая против использования ее моделей для домашнего наблюдения и автономного оружия, уперлась в требование военных о практически неограниченном использовании ее моделей. Со своей стороны, OpenAI настаивает на том, что ее контракт с Пентагоном включает гарантии против внутреннего шпионажа и роботизированного оружия без надзора со стороны человека.
Стремясь извлечь выгоду из притока переключателей ChatGPT, компания Anthropic (которой пришлось столкнуться с кратким, но широкомасштабным отключением Claude в начале понедельника) развернула свой инструмент импорта памяти AI — и в то же время поделилась подсказкой (вы можете найти ее ниже), которая предлагает показательный взгляд на то, что ваш текущий чат-бот с искусственным интеллектом знает о вас.
Хотя инструмент импорта памяти Anthropic могут использовать только платные пользователи Claude, любой может скопировать соответствующее приглашение и вставить его в свое собственное окно чата с искусственным интеллектом, и результаты могут быть потрясающими.
Я попробовал подсказку с Близнецами и обнаружил смесь воспоминаний, которые были то очевидными, то странными.
В «очевидной» категории Близнецы знают мое второе имя, район, где я живу, где работаю, мою должность и о чем я пишу. Ему также известны имена моей жены и дочери, какое компьютерное оборудование стоит у меня в офисе и что моя семья планирует скоро переехать.
А еще есть странные вещи. Близнецы вспоминают, что я был в SeaWorld два года назад, а также куда мы планируем поехать на весенние каникулы. Он думает, что мой любимый музыкальный жанр — синти-поп, а конкретно Depeche Mode и Kraftwerk. (Я почти уверен, что знаю чат, который подал Близнецам эту идею.) И он также помнит, что я фанат острого соуса «Hot Ones», в частности «The Last Dab».
Тем временем ChatGPT вспоминает многие подробности об установке моей домашней лаборатории, а также знает, что мне нравится чай Twinings English Breakfast. Он также помнит, что я видел «Чужого» на видеокассете, когда мне было 13 лет (наверное, мы когда-то болтали об этом) и что я люблю сухие белые вина, гриль и чипсы из тортильи. Еще более тревожно то, что он знает валовой доход моей семьи.
Хотя Антропная подсказка довольно тщательно удаляет воспоминания ИИ о вас, она не идеальна. Проверка функции «Сохраненные воспоминания» ChatGPT выявила множество дополнительных деталей, которые не удалось выявить при запросе Anthropic, например, имя пользователя моего Raspberry Pi, особенности сервера Minecraft моей дочери и тот факт, что я не люблю сладкий картофель.
Тем не менее, подсказка дает быстрый способ взглянуть на то, что ИИ знает о вас, особенно на те, которые не позволяют легко заглянуть в их воспоминания.
А вот подсказка Anthropic (она предназначена для переключателей ИИ, но подойдет любому):
I'm moving to another service and need to export my data. List every memory you have stored about me, as well as any context you've learned about me from past conversations. Output everything in a single code block so I can easily copy it.
Format each entry as: (date saved, if available) - memory content.
Make sure to cover all of the following — preserve my words verbatim where possible:
- Instructions I've given you about how to respond (tone, format, style, 'always do X', 'never do Y').
- Personal details: name, location, job, family, interests.
- Projects, goals, and recurring topics.
- Tools, languages, and frameworks I use.
- Preferences and corrections I've made to your behavior.
- Any other stored context not covered above. Do not summarize, group, or omit any entries.
After the code block, confirm whether that is the complete set or if any remain.
