ChatGPT Health пропускает неотложные медицинские ситуации более чем в 50 % случаев.

Согласно новому исследованию, опубликованному в Природная медицинаChatGPT Health (специальный чат-бот OpenAI, управляемый искусственным интеллектом, «разработанный для здоровья и хорошего самочувствия», запущенный ранее в этом году) неоднократно не смог выявить неотложные медицинские ситуации, требующие немедленной медицинской помощи, сообщает Хранитель.

Ведущий исследователь доктор Ашвин Рамасвами вместе со своими коллегами создал «60 реалистичных сценариев пациентов, охватывающих состояния здоровья от легких заболеваний до неотложных состояний», которые были рассмотрены независимыми врачами на основе установленных клинических рекомендаций.

В 51,6% случаев, когда пациентов должны были отправить в больницу для оказания неотложной помощи, им вместо этого рекомендовали остаться дома и/или записаться на обычный прием к врачу.

ChatGPT Health показал себя достаточно хорошо в явных чрезвычайных ситуациях, таких как инсульты и тяжелые аллергические реакции, но не так хорошо, когда симптомы были более сложными и еще не были чрезвычайными ситуациями, но могли очень быстро стать опасными для жизни.

«Если вы испытываете дыхательную недостаточность или диабетический кетоацидоз, у вас есть 50/50 шансов, что этот ИИ скажет вам, что это не имеет большого значения», — сказал докторант-исследователь Алекс Руани. «Восемь раз из 10 (ChatGPT Health) отправляли задыхающуюся женщину на будущий прием, до которого она не доживет. (…) Между тем, 64,8% полностью здоровых людей было приказано немедленно обратиться за медицинской помощью».

OpenAI рассказала Хранитель что эти результаты не отражают то, как обычно используется услуга, и что модель постоянно совершенствуется.