В Википедии возникла проблема с переводом слова «ИИ»

Большие языковые модели, называемые в терминах маркетинга «ИИ», иногда несут полную ерунду. Это проблема, которую осознает каждый, если использует его хоть какое-то время, и они ошибаются не только в базовой информации. Википедия борется только с одним таким примером, обнаружив «галлюцинации» в статьях, переведенных LLM.

Начало этой истории позитивное и альтруистическое: сторонняя некоммерческая организация под названием Ассоциация открытых знаний (OKA) выплачивает стипендию людям, которые переводят статьи Википедии на другие языки. Проблемы возникают из-за использования больших языковых моделей, таких как Google Gemini и ChatGPT, для выполнения переводов без проверки человеком.

Согласно отчету 404 Media, редакторы Википедии, выполнявшие регулярные проверки переведенных статей, обнаружили основные информационные ошибки, которых не было в статьях на языке оригинала, а также отсутствующие, замененные местами цитаты или страницы книг, не имеющие никакого отношения к теме. (LLM особенно плохо справляются с документацией, как это обнаружили многие юристы.) Раньше система использовала Grok — LLM Илона Маска, который подключен к eX-Twitter и известен тем, что производит массовое количество материалов сексуального характера без согласия, — но, как сообщается, OKA изменила свою политику.

Авторы Википедии почти полностью не получают зарплату. Человек может редактировать Википедию в рамках своей широкой работы, например, агент по связям с общественностью, но эти изменения требуют раскрытия и подлежат дополнительной проверке. Добавление коммерческого элемента к крупномасштабному редактированию, даже в целях перевода, может стимулировать работников, которым платит Ассоциация открытых знаний, действовать быстро и совершать ошибки. ОКА платит своим работникам около 400 долларов в месяц за полный рабочий день переводчик. Это немного, но на Глобальном Юге, где живет много переводчиков, это идет гораздо дальше.

Несмотря на широкую политику Википедии в отношении статей, созданных LLM, редакторы Википедии решили продолжать пользоваться услугами OKA. Поскольку английская Википедия по-прежнему в два раза больше, чем следующий по величине язык (не считая кебуанской Википедии, которая, похоже, почти полностью создана роботами), а языки с меньшим количеством носителей часто плохо обслуживаются, переводы важных статей крайне необходимы. Но к переводчикам ОКА применяются гораздо более суровые редакционные методы, чем к обычным пользователям: после пяти задокументированных ошибок переводчик ОКА может быть забанен, а его предыдущие переводы могут быть удалены, если только более старший редактор не перейдет к власти.