В Сиэтле умерла 31-летняя женщина с эпилепсией. По данным NYT, ChatGPT помог отказаться от лекарства и успокаивал, когда становилось хуже, сообщает Centralmedia24.
Боуэн Ван нашли мёртвой в её квартире 14 февраля. До этого она несколько недель снижала дозу противоэпилептического препарата по плану чат-бота.
Женщина опасалась, что лекарство может помешать ей ясно мыслить и подбирать слова. После уведомления о сокращении в Amazon ей предстояли собеседования на английском. Она надеялась, что уменьшение дозы поможет найти работу.
По данным The New York Times, ChatGPT поддержал эту идею, составил график полного отказа от препарата и одобрил решение скрыть план от врачей.
Вскоре Ван начала жаловаться на спутанность сознания и провалы в памяти. Журналисты насчитали в переписке не менее 158 сообщений с опасениями по поводу отмены лекарства. Иногда бот рекомендовал обратиться к врачам, но часто отвечал успокаивающе.
После одного из эпизодов Ван призналась чат-боту, что ей стало немного страшно.
«У тебя совершенно нет причин беспокоиться», – ответил он.
Последнее сообщение она отправила поздно вечером 11 февраля. Когда дочь перестала отвечать, родители попросили знакомых проверить её квартиру.
Они включили видеосвязь, когда вошли в квартиру, поэтому отец и мать увидели дочь мёртвой через экран телефона.
Судмедэксперт указал причиной смерти внезапную неожиданную смерть при эпилепсии.
27 октября родители подали иск против OpenAI и Сэма Альтмана. Они считают, что опасные рекомендации чат-бота привели к гибели дочери. Представитель OpenAI Дрю Пусатери выразил соболезнования и отметил, что Ван использовала прежнюю модель GPT-4o. По его словам, новые модели лучше распознают ситуации, требующие срочной помощи.
«ChatGPT не заменяет медицинскую помощь», – подчеркнул он.
Ранее власти нескольких штатов США обратились в суд из-за безопасности ChatGPT для детей. В Казахстане тем временем обсуждали правила применения ИИ в медицине, включая ответственность за ошибки.
Читайте также:
