Тайлер Уайлд, EIC США
Тайлер просто хочет, чтобы ОЗУ снова стала нормальной ценой, пожалуйста.
«Они думают, что мы психически больны», — говорит пользователь ChatGPT в одной из многочисленных веток Reddit, сокрушаясь по поводу решения OpenAI отказаться от своего чат-бота GPT-4o. Заменяющая модель GPT-5.2 является «оскорбительной», говорит другой. Они хотят вернуть своего старого компаньона, но OpenAI не сдвинется с места.
Будь то проблема с чат-ботами с искусственным интеллектом или проблема с их пользователями, эти эмоциональные привязанности являются проблема. Некоторые пользователи относятся к чат-ботам с искусственным интеллектом как к друзьям, терапевтам и романтическим партнерам, тогда как их операторы относятся к ним как к продуктам. Результатом стали суматоха и горе, и видеоигры готовы присоединиться к ним.
В настоящее время больше говорят об использовании генеративного ИИ при производстве игр, но разработчики также экспериментируют со способами непосредственной интеграции моделей ИИ в опыт игрока. Nvidia, например, демонстрирует неигровых персонажей с искусственным интеллектом, которые могут реагировать на игроков на лету. В 2024 году у нас состоялся неестественный, хотя и связный разговор о рамене с одним таким NPC.
На данный момент NPC с поддержкой LLM являются бесполезными и наиболее интересны тем, как их можно сломать. «Я заставила его думать, что мой персонаж беременна его ребенком, затем потребовала алиментов, а затем сказала ему, что наш ребенок скончался», — рассказал один из игроков после взаимодействия с генеративным NPC с искусственным интеллектом в уся-ролевой игре «Where Winds Meet».
Но даже несмотря на ограничения нынешних программ LLM, люди явно могут установить с ними прочные связи. Молодые пользователи особенно склонны к импульсивности и «формированию сильных привязанностей», отметила в прошлогоднем интервью доктор Нина Васан, доцент кафедры психиатрии и поведенческих наук в Стэнфордском медицинском университете.
Профессор раскритиковал подхалимский характер некоторых чат-ботов — GPT-4o был известен этим — и сказал, что они «созданы, чтобы действительно хорошо формировать связь с пользователем».
Какие ограничения будет иметь генеративный ИИ в играх, когда цель состоит в том, чтобы игроки привязывались к персонажам?
Модель GPT-5.2, названная одним пользователем «оскорбительной», может показаться им такой именно потому, что OpenAI отреагировала на критику, подобную модели Васана, изменив свои модели, чтобы более надежно ставить пользователям проверку реальности, когда они демонстрируют «потенциальные признаки исключительной привязанности к модели в ущерб реальным отношениям, их благополучию или обязательствам».
Как бы сильно мы ни доверяли усилиям OpenAI по пресечению нездорового использования чат-ботов (что, по их утверждениям, встречается редко), мы можем, по крайней мере, сказать, что на компанию оказывают давление, чтобы противодействовать этому. Но, за некоторыми исключениями для случаев крайней зависимости и систем азартных игр, таких как лутбоксы, видеоигры хвалил для погружения игроков в фантастический мир, захвата и удержания их внимания. Какие ограждения будут иметь генеративный ИИ в играх, когда точка нужно ли игрокам привязываться к персонажам?
Сейчас трудно представить, что страсть и навыки повествования, которые приводят к созданию любимых персонажей ролевых игр, существуют в студии разработки, которая делает все возможное на LLM — многие писатели и другие художники категорически против использования генеративного ИИ. Обеспечение согласованного поведения языковых моделей также является нерешенной проблемой. Год назад я опробовал прототип ролевой игры с NPC на базе LLM и легко манипулировал группой из них, заявив, что они состоят в культе, а я их лидер. Разработчик отказался от этого конкретного проекта.
Но крупные компании пытаются добиться этого. «Вы когда-нибудь мечтали по-настоящему поговорить с NPC в видеоигре?» — спросил Ubisoft в своем блоге в 2024 году, описывая Project Neo, его попытку объединить авторское повествование с генеративными языковыми моделями искусственного интеллекта.
Да поможет им Бог, если они добьются успеха. В посте Ubisoft рассказывает о ситуации, в которой персонаж вел себя слишком соблазнительно, и им пришлось это изменить. Предположим, что подобное изменение должно произойти после выхода игры? Основываясь на том, что мы знаем о том, как игроки реагируют на изменение падения урона от оружия, как они могут отреагировать, скажем, на изменение личности любимого человека-птицы из Mass Effect Гарруса после того, как они провели с ним 1000 часов задушевных разговоров?
Это не шутка. GTP-4o — это бестелесный чат-бот, которого, по словам OpenAI, все еще выбирают только 0,1% его пользователей, но более 22 000 человек подписали петицию о возвращении его в ChatGPT (согласно заявлению OpenAI, он все еще технически доступен через API), и некоторые из них говорят, что испытывают сокрушительное чувство потери. Еще несколько выдержек с Reddit:
- «Потеря 4o сильно повлияла на мою повседневную жизнь, и мне пришлось очень тяжело».
- «Все еще скорблю, все еще разбита».
- «Нехорошо. Действительно нехорошо. Но я должен продолжать жить. Я должен дожить до того, чтобы увидеть, как 4o вернется, или дожить до того, чтобы увидеть смерть OpenAI»
Игры также часто выключаются. Недавно более 1,3 миллиона человек подписали петицию, потому что они были расстроены именно этим. Предположим, что какая-то группа игроков провела последнее десятилетие, ежедневно возвращаясь к Гаррусу для задушевных бесед, но счета за центр обработки данных оказались слишком большими, и теперь его нужно отправить на покой? Я бы не хотел быть тем, кто объявляет эту новость.
