ChatGPT ошибается в экстренной медицине: итоги исследования

Стремительное внедрение технологий искусственного интеллекта в повседневную жизнь породило опасную тенденцию: пользователи все чаще обращаются к языковым моделям за медицинскими советами. Однако недавнее масштабное исследование показало, что в вопросах жизни и смерти алгоритмы демонстрируют пугающую неточность. Эксперты предупреждают, что слепое следование рекомендациям чат-ботов в экстренных ситуациях может иметь фатальные последствия.

Результаты тестирования: статистика против технологий

Группа независимых исследователей провела серию тестов, моделируя наиболее распространенные неотложные состояния — от анафилактического шока до сердечных приступов. Результаты оказались неутешительными: в большинстве случаев ChatGPT предоставлял информацию, которая либо была неполной, либо прямо противоречила установленным медицинским протоколам.

Основная проблема заключается в механизме работы больших языковых моделей (LLM). Они предсказывают следующее наиболее вероятное слово в предложении, основываясь на массивах данных из интернета, но не обладают «пониманием» биологических процессов или актуальных клинических рекомендаций. В условиях дефицита времени это приводит к генерации «галлюцинаций», которые выглядят профессионально, но являются ложными.

Ключевые ошибки в экстренных протоколах

Анализ ответов нейросети выявил несколько критических зон риска, где ошибки встречались наиболее часто:

• Дозировка препаратов: ИИ часто ошибается в расчетах действующих веществ в зависимости от веса и возраста пациента.
• Приоритизация действий: В ситуациях, требующих немедленной реанимации, бот предлагал второстепенные диагностические шаги.
• Игнорирование противопоказаний: Советы по приему лекарств часто не учитывали возможные аллергические реакции или несовместимость с другими препаратами.

Почему ИИ — плохой «скоропомощник»

Официальный медицинский протокол строится на принципах доказательной медицины и жесткой иерархии действий. Искусственный интеллект, напротив, склонен к избыточной вежливости и многословию, что размывает суть совета в критический момент. Более того, базы данных, на которых обучался ChatGPT, могут содержать устаревшую информацию, в то время как медицинские стандарты обновляются ежегодно.

Специалисты подчеркивают, что даже при наличии «медицинского» режима работы, алгоритмы лишены возможности физического осмотра и оценки визуальных симптомов, таких как бледность кожных покровов или характер дыхания, что является основой диагностики в скорой помощи.

Юридический и этический аспекты

Вопрос ответственности за неверный совет остается открытым. Разработчики ПО защищают себя дисклеймерами о том, что продукт не является медицинским устройством. Однако для рядового пользователя эти предупреждения часто остаются незамеченными на фоне убедительного тона ответов нейросети. Профессиональное сообщество настаивает на необходимости жесткого регулирования использования ИИ в сфере здравоохранения.

Роль технологий в будущем

Несмотря на текущие провалы, эксперты не призывают полностью отказываться от ИИ. Речь идет о правильном позиционировании: нейросети могут быть отличными ассистентами для врачей при анализе огромных массивов данных или расшифровке снимков, но они категорически не подходят на роль первичного источника помощи для непрофессионалов в экстренной ситуации.

Главный вывод исследования однозначен: при возникновении угрозы здоровью единственным верным действием остается немедленный звонок в профессиональные службы спасения, а не запуск мобильного приложения.