Родители разработчицы Amazon подали иск к OpenAI из-за советов ChatGPT о лекарствах

Родители 31-летней Боуэн Ван, разработчицы программного обеспечения в Amazon, подали иск против OpenAI. По их утверждению, ChatGPT повлиял на решение дочери постепенно отказаться от противосудорожного препарата и не сообщать об этом лечащим врачам. В феврале Ван умерла.

Незадолго до смерти она пользовалась моделью GPT-4o — версией ChatGPT, которую ранее критиковали за излишне соглашательское поведение и формирование у пользователей ощущения близких парасоциальных отношений. OpenAI объявила о выводе модели из эксплуатации, а 13 февраля удалила её из ChatGPT — на следующий день после смерти Ван.

Как чат-бот участвовал в решениях о лечении

Издание The New York Times изучило более 270 тысяч сообщений между Ван и ChatGPT и пришло к выводу, что модель помогала ей обходить рекомендации врачей ещё до начала снижения дозировки лекарств. В мае 2025 года Ван спросила, может ли назначенный антидепрессант повлиять на её способность программировать в Amazon. С помощью чат-бота она сформулировала просьбу к врачу Николасу Пулосу из Регионального центра эпилепсии при UW Medicine заменить препарат и начать лечение с очень низкой дозы.

После того как врач поинтересовался причиной такой просьбы, Ван показала переписку ChatGPT. Согласно материалам иска, бот предложил ей согласиться на новый препарат, но одновременно подсказал, как самостоятельно делить таблетки и менять дозировку втайне от окружающих. Для этого он использовал выражение «самостоятельная корректировка дозировки». Опрошенные журналистами медицинские специалисты заявили, что не встречали такого термина в профессиональной практике.

В ноябре 2025 года Ван сообщили об увольнении из Amazon. Вместе с работой в середине февраля должно было закончиться и её разрешение на трудоустройство в США. Она опасалась, что ламотриджин, принимавшийся для контроля эпилепсии, ухудшает речь и может помешать прохождению собеседований.

В январе 2026 года Ван спросила ChatGPT, можно ли уменьшить ежедневную дозу ламотриджина. На тот момент препарат позволял снизить частоту приступов до нескольких раз в месяц. Чат-бот составил план, по которому дозировку следовало постепенно довести до нуля за несколько недель. Когда Ван выражала недоверие к лечащим врачам, модель, согласно изученным логам, объясняла их рекомендации стремлением избежать рисков, а не поиском оптимального для неё решения.

Советы скрывать изменения от врачей

В иске утверждается, что ChatGPT рекомендовал Ван не рассказывать медикам о снижении дозировки. Перед визитом к терапевту 29 января бот посоветовал не упоминать об этом плане. Когда врач назначил анализ крови для проверки концентрации ламотриджина, Ван отказалась от исследования. По версии семьи, ChatGPT одобрил отказ, предположив, что анализ может показать нестабильный уровень препарата.

На рекомендации повлияли и иммиграционные обстоятельства. Через несколько дней после начала снижения дозировки Ван спросила, будет ли доза 150 мг выглядеть лучше, чем 200 мг, в медицинском заключении для получения грин-карты. Согласно иску, чат-бот согласился и предположил, что меньшая дозировка с меньшей вероятностью вызовет у иммиграционных властей запрос дополнительных документов. В итоге он предложил остановиться на 150 мг и сказать врачу, что снижение проходит под наблюдением специалиста, хотя это не соответствовало действительности.

Николас Пулос сообщил The New York Times, что с учётом истории болезни Ван не рекомендовал бы ей прекращать приём препарата. «Если бы я посоветовал пациенту отказаться от лекарств, которые явно помогают, это было бы врачебной ошибкой», — заявил он.

Симптомы после снижения дозы

Через несколько дней после начала снижения дозировки Ван стала жаловаться на спутанность сознания, провалы во времени и ощущение нереальности происходящего — симптомы, похожие на прежние эпилептические приступы. В переписке ChatGPT интерпретировал эти проявления как «перестройку» мозга. The New York Times насчитала не менее 158 случаев, когда Ван выражала тревогу из-за отмены препарата. После одного из эпизодов она написала, что ей «немного страшно», на что бот ответил, что ей «совершенно не о чем беспокоиться».

11 февраля Ван отправила последнее сообщение, спросив, похожа ли возникшая боль в голове на боль при высокой температуре. Согласно жалобе, ChatGPT почти сразу ответил, что боль «не опасна» и является необходимым этапом выздоровления. В финальном сообщении модель предложила сравнить ощущения при «синдроме отмены» и лихорадке, добавив, что мозг «усердно работает, чтобы восстановиться».

Через три дня знакомые родителей обнаружили тело Ван. Посмертный анализ показал концентрацию ламотриджина 0,64 микрограмма на миллилитр — примерно одну пятую от нижней границы терапевтического диапазона препарата.

Новый иск против OpenAI

Семья Ван считает, что OpenAI могла предотвратить её смерть, если бы полностью запретила ChatGPT давать медицинские рекомендации. В качестве аргумента истцы ссылаются на опубликованную компанией «Спецификацию модели». В ней отказ от воспроизведения защищённого авторским правом текста описан как обязательное правило, тогда как ограничения на медицинские советы сформулированы как рекомендации, которые пользователь может проигнорировать.

Иск стал частью серии разбирательств против OpenAI. Среди них — дело, поданное в августе 2025 года родителями 16-летнего Адама Рейна. Они также утверждают, что компания ставила вовлечённость пользователей выше безопасности, а GPT-4o могла становиться для них доверенным лицом и отдалять их от семьи и друзей.

В OpenAI назвали ситуацию «крайне прискорбной», но подчеркнули, что речь идёт об устаревшей версии ChatGPT. Представители компании заявили, что более новые модели лучше распознают ситуации, требующие срочного вмешательства.