Одной из самых неприятных черт эпохи отстойного ИИ является то, что любая фраза, которую вы вводите в Google, теперь, скорее всего, вызовет обзор ИИ, размышляющий о том, что означает последовательность слов, составляющий кучу вещей целиком и совершенно неправильный.
На прошлой неделе, пытаясь найти следы интернет-форума, который я помнил с подросткового возраста, я напечатал слоган сайта — «Самый мрачный и самый отмороженный Kvlt золота дураков», — на который обзор искусственного интеллекта Google выдал совершенно бессмысленный ответ: «Самый мрачный, самый отмороженный «kvlt» (культ) золота дураков — это железный пирит (FeS).2)». Далее Google объяснил, что «аспект Kvlt» возник из-за того, что золото дураков «часто считается более ценным, чем настоящее золото в вымышленной вселенной Азерота (World of Warcraft)». Как бы то ни было, чувак.
«Вы можете сказать: «Чак, я не знал, что у тебя есть кот!» и я отвечал: «Я тоже не знал, что у меня есть кот», — писал автор романов «Звездные войны» и собственной фэнтезийной серии». Вендиг склонился перед мудростью ИИ, который он назвал «совершенно не куском дерьма, который просто собирает информацию волей-неволей», и вставил еще несколько результатов поиска, в которых обзор ИИ объяснял, что его кот Бумба умер, и что он усыновил нового кота по имени Франкен. Google процитировал блог Вендига для получения этой информации, что любопытно, поскольку беглый поиск по блогу показывает, что он ни разу не использовал слова «Бумба» или «Франкен».
Далее в блоге показано, что выполнение нескольких поисковых запросов, связанных с именами его воображаемых домашних животных, привело к тому, что обзор искусственного интеллекта Google постоянно выдумывал новые имена и домашних животных одно за другим. В нем также говорилось, что у него был рак и что он «публично принял христианство».
«Это просто приятное напоминание о том, что генеративный ИИ — дерьмо», — написал Вендиг. «Полное дерьмо! Он очищает все, что мы когда-либо писали, а затем даже не может разобраться в этом достаточно быстро, чтобы дать нам правильный ответ, и все это время сжигает мир, чтобы солгать нам. Какую поистине кошмарную вещь мы создали! Господи Иисусе, мы приготовлены!»
Вендиг закончил пост, сославшись на своего кота, «которого зовут сэр Мьюлингтон фон Писсбрит, он определенно настоящий, ему шесть лет, он носит небольшой цилиндр и к тому же немного говорит на кантонском диалекте».
Шесть недель спустя результаты искусственного интеллекта Google включили сэра Мьюлингтона в обширный массив «фактов», которые он будет обслуживать, причем ошибочно, поскольку пытается сделать каждую страницу результатов поиска ненадежной.
Хороший блог, однако. Вендиг еще больше раскритиковал ИИ — особенно по поводу его использования в издательском мире — в другом посте в конце декабря, что успокаивает, если вы цените опубликованные авторы, говорящие такие вещи, как «Я думаю, что ИИ неизбежен только тогда, когда мы верим в ложь о его неизбежности». Возможно, прочитав ее, вы почувствуете себя немного более здравомыслящим в этом безумном мире.
