Мринанк Шарма, возглавлявший исследовательскую группу по защитным мерам в Anthropic, ушел из компании с одним из самых дурацких писем, которые вы когда-либо читали, вместе с цитатой из Библии о космоэротическом гуманизме. Последнее — это новая глобальная мифология о том, что все, что тебе нужно, — это любовь, чувак.
Шарма опубликовал на X свое необычное заявление об отставке, первое из тех, что я когда-либо читал, со сносками (четыре из них) и заканчивающимися стихотворением. В любом случае, после множества размышлений в LinkedIn о том, насколько замечателен Anthropic, мы подошли к сути вопроса:
Последний проект Шармы для Anthropic изучал, как ИИ-помощники могут «исказить нашу человечность», но, несмотря на соблазн нажать кнопку Skynet, из этого следует более провокационное следствие, а именно, что Anthropic может каким-то образом отклоняться от своих принципов, чтобы конкурировать.
Вернувшись на X, Шарма говорит, что он «вернётся в Великобританию и позволит себе на какое-то время стать невидимым». Кто знает, может быть, его акции просто переданы в собственность или что-то в этом роде.
Уход Шармы последовал за некоторыми другими громкими уходами из Anthropic, в том числе инженером по исследованиям и разработкам Харшем Мехтой, ученым в области искусственного интеллекта Бехнамом Нейшабуром и исследователем безопасности искусственного интеллекта Диланом Скандинаро. В отличие от Шармы, они, кажется, все остаются в индустрии искусственного интеллекта, а не пытаются взломать Вордсворта.
Очевидно, легко упустить из виду фразу об «опасности» или предположении, что Anthropic не так ангельский, как кажется, но, честно говоря, это настолько расплывчатое сообщение, что у меня почти такое чувство, будто нас спасают роботы-убийцы. Пользователь One X высказал по этому поводу невероятно хорошее мнение:
«Первое заявление об увольнении, которое я когда-либо видел, в котором есть энергия главного героя (и сноски)», — говорит FJzeit на X. «Это работа. Вы можете расторгнуть свой контракт одним предложением. О вас забудут через неделю».
«Письмо об отставке AI Safety теперь представляет собой отдельный литературный жанр», — говорит Михал Подлевски. «У нас уже есть достаточно материала (Лейке, Кокотайло, Суцкевер, Шульман, Кристиано) для значительного тома. Такими темпами у нас будет антология «Best Of» к концу года».
Подлевский вполне может быть прав. Это было бы очень забавно, если бы мне не пришлось это читать.
