В США 60-летний мужчина попал в больницу с тяжёлыми психическими нарушениями после того, как три месяца следовал диете, составленной искусственным интеллектом. Об этом сообщает медицинский журнал Annals of Internal Medicine, опубликовавший клинический случай.
По данным врачей, пенсионер решил перейти на строгую диету и полностью исключил из рациона хлорид натрия — поваренную соль. За рекомендациями он обратился к одной из популярных нейросетей, которая предложила заменить соль бромидом натрия — химическим соединением, в прошлом использовавшимся как седативное средство, а в некоторых странах — как антисептик или компонент пестицидов.
Как выяснилось, нейросеть не предупредила пользователя о высокой токсичности вещества. Длительный приём бромида натрия приводит к хронической интоксикации, сопровождающейся кожными высыпаниями, ухудшением когнитивных функций, апатией и нарушениями нервной системы.
У пациента развились паранойя, дезориентация, галлюцинации и психоз. При поступлении в отделение неотложной помощи он утверждал, что его сосед пытается его отравить. Медики отметили, что ранее у мужчины не было диагностированных психиатрических заболеваний.
«Он рассказывал, что сам дистиллирует воду дома и крайне подозрительно относится к любой предлагаемой жидкости. При этом испытывает сильную жажду», — описали врачи состояние пациента.
Лабораторные анализы подтвердили высокий уровень брома в крови — признак тяжёлого отравления. Пациенту потребовалась экстренная детоксикация, включая гемодиализ и симптоматическое лечение. После курса терапии его состояние стабилизировалось, однако восстановление когнитивных функций заняло несколько недель.
Случай стал ярким предупреждением о рисках использования искусственного интеллекта в сфере здравоохранения и питания без экспертного контроля. Эксперты подчеркивают, что нейросети, несмотря на свою эффективность, могут выдавать опасные рекомендации, особенно если речь идёт о химических веществах, требующих строгой дозировки и медицинского сопровождения.
«Это не просто ошибка — это потенциально смертельная рекомендация. Бромид натрия не является пищевой добавкой. Его применение в быту недопустимо», — отметил токсиколог доктор Марк Эллисон из Медицинского центра при Колумбийском университете.
Случай вызвал широкий резонанс в США и стал поводом для обсуждения необходимости регулирования ИИ-советов в области здоровья. В FDA уже заявили о начале анализа подобных инцидентов и возможном введении требований к предупреждениям в интерфейсах нейросетей, касающихся рисков для здоровья.
Николай Ильясов
