OpenAI распускает еще одну команду по безопасности ИИ

Майлз Брандейдж, глава команды OpenAI «AGI Readiness», покидает компанию на этой неделе, сообщил он в своем сообщении в Substack в среду.

Как пишет Quartz, Брандейдж сказал, что планирует основать некоммерческую организацию или присоединиться к существующей, которая будет заниматься исследованием политики ИИ. Подгруппа экономических исследований перейдет под начало нового главного экономиста OpenAI Ронни Чаттерджи, сказал Брандейдж, а другие члены будут переведены в другие команды.

Уходящий старший советник сказал, что ни производитель ChatGPT, ни другие передовые лаборатории ИИ не готовы к AGI, или искусственному интеллекту общего назначения, который считается интеллектом человеческого уровня. Брандейдж сказал, что одной из причин создания или присоединения к некоммерческой организации является его мнение, «что ИИ вряд ли будет максимально безопасным и полезным без согласованных усилий, чтобы сделать его таким». Брэндедж назвал свою роль консультанта «по сути своей работой мечты», но сказал, что хочет «больше времени уделять работе над проблемами, которые затрагивают всю отрасль ИИ, иметь больше свободы для публикации и быть более независимым».

Одной из главных причин его ухода являются высокие издержки упущенных возможностей из-за огромного профиля OpenAI и его ощущение, что его работа «будет более эффективной» за пределами отрасли ИИ. Брандейдж также сказал, что хочет «быть менее предвзятым» и «сделал многое из того, что намеревался сделать в OpenAI».

«Мы полностью поддерживаем решение Майлза продолжить свои исследования за пределами отрасли и глубоко признательны за его вклад», — отметил представитель OpenAI. — Его план полностью посвятить себя независимым исследованиям политики ИИ дает ему возможность оказывать влияние в более широком масштабе, и мы рады учиться на его работе и следить за ее влиянием».

В мае OpenAI распустила свою команду, которая была сосредоточена на экзистенциальных опасностях ИИ. Соучредитель OpenAI и бывший главный научный сотрудник Илья Суцкевер и Ян Лейке, соучредитель команды, ушли из стартапа в том же месяце.

Мира Мурати, бывший главный технический директор компании, объявила о своем уходе из компании в сентябре, а за ней последовали главный научный сотрудник OpenAI Боб МакГрю и вице-президент по исследованиям Баррет Зоф. Через неделю после отставок OpenAI завершила раунд финансирования на сумму 6,6 млрд долларов, что привело к оценке в 157 млрд долларов. Сообщается также, что стартап работает над планом реструктуризации своего некоммерческого статуса, что может дать генеральному директору Сэму Альтману крупный капитал.

Инвестировать в перспективные стартапы, в том числе в сфере ИИ, можно до публичного размещения – на этапе pre-IPO. Внебиржевые инвестиции через «Финам», участие в pre-IPO Anthropic.

* Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.