Искусственный интеллект, как и понедельники, становится всеобщим нелюбимым — настолько, что я чувствую себя излишним писать о том, как сильно я его ненавижу в последнее время. И тем не менее, я использую его все больше и больше.
ИИ отлично подходит для таких вещей, как быстрый и грязный концепт-арт, в качестве помощника в дизайне для отражения идей и для написания рабочих электронных писем, которые должны найти баланс между формальностью и строгостью.
Но ИИ также действительно раздражает. То, как он говорит, как он что-то забывает, как он все выдумывает на месте и нагло и уверенно лжет. Это не так хорошо и не так революционно, как кажется. Не говоря уже об ужасных вещах, которые с ним делают некоторые люди, или об общем влиянии, которое оно оказало на отрасли, которые я люблю и в которых работаю.
Да, чем больше я использую ИИ, тем больше я его ненавижу.
ИИ раздражает больше, чем когда-либо
Когда я впервые начал использовать ChatGPT и других чат-ботов, было так здорово, насколько реалистично они звучали. Это было похоже на разговор с реальным человеком. Но со временем и с появлением последующих моделей этот фасад стал еще более очевидным. Теперь, когда мне кажется, что разговор с искусственным интеллектом длится слишком долго, повторения и закономерности невозможно пропустить.
«Это так Х, и, честно говоря, отличный пример Y» — так начинался каждый ответ какое-то время. Это настолько раздражало, что в конце концов мне пришлось попросить ChatGPT перестань делать этои я даже добавил несколько специальных инструкций для рандомизации структур предложений в ответах.
ЧатGPT любит повторить и мои инструкции, еще больше разрушая четвертую стену этого притворного двустороннего разговора. Попросив его быть более кратким и менее многословным, он начал добавлять предостережение к каждому ответу. «Вот серьезный и чистый ответ», как будто я хотел напомнить, что он собирается сделать то, что я попросил.
ИИ лжет слишком охотно и слишком уверенно
Недавно мне пришла в голову идея настольной игры, и я работал над ней несколько месяцев. Я использовал ChatGPT в качестве платформы для идей для вариаций на тему, а также в качестве источника быстрых иконок для прототипов карточек. Но когда я был слишком взволнован и попросил его рассказать мне, что он на самом деле думает о моей идее – короче говоря, кажется ли она пригодной для публикации и будет ли она успешной – он решительно ответил мне «да». «О да. Это лучший новый игровой дизайн за долгое время, он наверняка будет опубликован и продан на многих языках и…»
Бла, бла, бла. Нет, не будет. Это забавная идея, я мог бы предложить поиграть своим друзьям, но она не станет следующей. Пандемия или Размах крыльев и ты это знаешь. Когда я позвонил ChatGPT по этому поводу, он извинился и признал, что просто сказал то, что, по его мнению, я хотел услышать.
я абсолютно не надо так врать. Я не хочу, чтобы он формировал свои ответы на основе того, что, по его мнению, я хочу услышать в своем ответе. Я просто хочу, чтобы он ответил на мой вопрос (или выполнил мой запрос) как честный, но фальшивый человек, которому он, очевидно, пытается подражать.
К сожалению, с этим сложно справиться, потому что в половине случаев он даже не подозревает, что делает это. В конце концов, LLM на самом деле не думают.
ИИ все еще ничего не знает
Добавление контекста памяти к разговорам имело большое значение, когда компании, занимающиеся искусственным интеллектом, впервые начали этим заниматься. Наконец, мы могли общаться с этими чат-ботами, охватывая более пары сообщений. Действительно, он мог бы учиться у нас в течение недель и месяцев и постепенно стать тем инструментом, которым мы всегда хотели его видеть. Идеальный вариант только для нас. (Пока не поменяют модель, конечно…)
Но если оставить в стороне память и контекст, есть один огромный недостаток, который все еще подрывает LLM: они случайным образом придумывают что-то.
Во время обсуждения моей настольной игры я спросил ChatGPT, какой из различных рычагов игры лучше всего использовать, чтобы ускорить игру и сократить ее общую продолжительность. Дальше было предложено потратить ресурс, которого даже не существовало в игре. (Может ли этот ресурс существовать? Конечно, я мог бы добавить его на основе этого разговора. Но его там нет. сейчасоднако ChatGPT говорил об этом так, как оно было.)
Самое неприятное в ИИ то, что он работает лучше всего, когда вы уже знаете ответ, который ищете, и вам нужен только ИИ, чтобы подтвердить его. Но это означает, что вам нужно знать достаточно о том, о чем вы спрашиваете, когда ответ — чепуха. Если у вас нет этих знаний, вы просто не сможете знать, хороший ответ или плохой.
Вот почему предвзятость подтверждения является такой огромной проблемой для чат-ботов с искусственным интеллектом, таких как ChatGPT, и именно поэтому ответы не заслуживают доверия.
ИИ слишком непоследователен
ИИ больших языковых моделей — это прославленные автозаполнения. Они используют причудливые алгоритмы, чтобы решить, какое слово должно идти следующим при генерации ответа, но, в конце концов, это по-прежнему всего лишь машина прогнозирования. На самом деле это не так знать что-либо. Он просто выдает выходные данные на основе обучающих данных, вероятностей и потенциальных связей.
А это означает противоречивые результаты.
Вы можете задать ChatGPT или любому другому чат-боту с искусственным интеллектом тот же вопрос, который задал кто-то другой, но получить другой ответ. Иногда различия незначительны. В других случаях они радикальны.
Когда я использовал ChatGPT для создания компьютерной системы MUTHUR 2000 для недавней игры Alien RPG — черт возьми, да, это так круто, как звучит — он хорошо сработал для создания сложной системы журналов, в которых игроки могли копаться… но эти журналы были разными каждый раз, когда я запускал его. Возможно, не настолько разные, чтобы разрушить концепцию, но достаточно разные, чтобы мне пришлось импровизировать, почему определенные двери были заперты (их не должно было быть) или почему реактор снова включился (до того, как игроки его активировали).
Я уже создал специальные инструкции GPT, чтобы обеспечить некоторый уровень последовательности в ответах, но даже при ограничении количества символов он все равно придумывал или украшал вещи сверх того, что мне хотелось.
То же самое касается контекстной панели задач Adobe и ее генеративных функций в Photoshop. Иногда это дает фантастические результаты и успешно добавляет в сцены новых персонажей или прекрасно меняет цвет объекта. В других случаях кажется, что ему трудно осознать, что мне не нужна та огромная белая коробка с чем-то, что я удалил из сцены. Просто растушуйте фон, чтобы мне не пришлось использовать восстанавливающую кисть, ради бога! Ненадежность, мягко говоря, расстраивает.
ИИ делает все хуже
Помимо проблем с удобством использования ИИ, трудно игнорировать негативное влияние, которое индустрия ИИ оказывает на мир и его отрасли. Поскольку все крупные технологические компании в мире, похоже, переходят на искусственный интеллект (к счастью, с некоторыми заметными препятствиями), это разрушает пространство DIY-ПК. Цены на память стремительно растут, объем памяти не отстает, выпуск новых видеокарт задерживается или даже отменяется, и это только начало.
Даже на выставке Consumer Electronics Show (CES) в этом году было очень мало новой «бытовой электроники» от AMD или Nvidia. Большую часть времени они говорили о своих инвестициях в ИИ, как будто мы еще недостаточно слышали обо всем этом. То же самое касается производителей ноутбуков, которые распространяли искусственный интеллект через свои ПК и процессоры Copilot+.
Между тем, инвестиции в искусственный интеллект вызывают проблемы с нехваткой воды, загрязнением окружающей среды и тарифами на электроэнергию — даже до того, как все эти новые центры обработки данных искусственного интеллекта начнут работу. Поскольку правительства всего мира так инвестируют в эти инфраструктурные проекты искусственного интеллекта, а многие фондовые рынки настолько полагаются на то, что крупные технологические компании искусственного интеллекта остаются в плюсе, существует реальный шанс, что лопнувший пузырь искусственного интеллекта унесет с собой половину мировой экономики. (Кстати, признаки лопнувшего пузыря ИИ налицо!)
Не говоря уже обо всех проблемах, которые возникают из-за широкого злоупотребления генеративным ИИ, начиная от фейковых новостей и заканчивая реальными новостями, подкрепленными фальшивыми изображениями и видео ИИ, от Грока из xAI, создающего дипфейки женщин и детей, до ИИ, вытесняющего миллионы рабочих мест.
А учитывая, что все эти разработчики ИИ настолько интегрированы в различные глобальные институты, сопротивление ИИ ограничено.
Все это кажется слишком неизбежным
Я писал о надвигающемся коллапсе пузыря ИИ, но не считаю это чем-то, что полностью положит конец ИИ в нынешней временной шкале. Я бы не хотел, чтобы оно качалось что далеко в другом направлении, но я надеюсь, что пузырь скоро лопнет – просто чтобы дать отрасли возможность проверить реальность.
ИИ может быть полезен, и я вижу конечную цель, к которой стремятся все. Но с большими языковыми моделями они этого не добьются. Притворяясь, что они это сделают, и бросаясь с головой в будущее, основанное на искусственном интеллекте, вкладывая триллионы долларов в «решения», которые никому на самом деле не нужны, — мы не придем к этому, и особенно не здоровым способом.
В нынешнем виде ИИ ощущается как недоделанный инструмент, который запихивают туда, где ему не место. Почему? Из-за ажиотажа и надежды на прибыль. Большинство компаний просто присоединяются к этой тенденции, потому что боятся может быть оставаясь позади.
Если ИИ является неизбежной частью нашего будущего, мне бы хотелось, чтобы он лучше заслужил свое место. На данный момент это кажется впечатляющей неприятностью: он становится больше и громче, но не точнее, и при этом настаивает, что делает нам одолжение.
