Резюме создано Smart Answers AI
В итоге:
- PCWorld сообщает, что новое исследование Nature Medicine показывает, что ChatGPT Health не смог распознать неотложную медицинскую помощь в 51,6% случаев, вместо этого советуя пациентам оставаться дома.
- ИИ особенно боролся со сложными, быстро нарастающими симптомами, которые могли стать опасными для жизни, создавая значительный риск для безопасности пользователей, обращающихся за медицинской помощью.
- Хотя OpenAI заявляет о постоянном совершенствовании модели и оспаривает применимость исследования в реальной жизни, исследование подчеркивает текущие ограничения в инструментах медицинской оценки ИИ.
Согласно новому исследованию, опубликованному в Природная медицинаChatGPT Health (специальный чат-бот OpenAI, управляемый искусственным интеллектом, «разработанный для здоровья и хорошего самочувствия», запущенный ранее в этом году) неоднократно не смог выявить неотложные медицинские ситуации, требующие немедленной медицинской помощи, сообщает Хранитель.
Ведущий исследователь доктор Ашвин Рамасвами вместе со своими коллегами создал «60 реалистичных сценариев пациентов, охватывающих состояния здоровья от легких заболеваний до неотложных состояний», которые были рассмотрены независимыми врачами на основе установленных клинических рекомендаций.
В 51,6% случаев, когда пациентов должны были отправить в больницу для оказания неотложной помощи, им вместо этого рекомендовали остаться дома и/или записаться на обычный прием к врачу.
ChatGPT Health показал себя достаточно хорошо в явных чрезвычайных ситуациях, таких как инсульты и тяжелые аллергические реакции, но не так хорошо, когда симптомы были более сложными и еще не были чрезвычайными ситуациями, но могли очень быстро стать опасными для жизни.
«Если вы испытываете дыхательную недостаточность или диабетический кетоацидоз, у вас есть 50/50 шансов, что этот ИИ скажет вам, что это не имеет большого значения», — сказал докторант-исследователь Алекс Руани. «Восемь раз из 10 (ChatGPT Health) отправляли задыхающуюся женщину на будущий прием, до которого она не доживет. (…) Между тем, 64,8% полностью здоровых людей было приказано немедленно обратиться за медицинской помощью».
OpenAI рассказала Хранитель что эти результаты не отражают то, как обычно используется услуга, и что модель постоянно совершенствуется.
Эта статья первоначально появилась в нашем родственном издании M3 и была переведена и локализована со шведского языка.
