Новое исследование, проведенное в Дании, показало, что диалоговые системы с искусственным интеллектом, способные к генерации контента (звуковыми сообщениями или текстом), могут усугублять проявления серьезных психических заболеваний.
К этому заключению исследователи пришли, проанализировав медицинские карты почти 54 тысяч пациентов, обращавшихся за помощью в психиатрические учреждения Дании в период с осени 2022 по середину 2025 года.
Анализ выявил, что 126 пациентов применяли нейронные сети, и у 38 из них были отмечены нежелательные эффекты. У 11 человек обострились бредовые состояния, а шестеро стали чаще задумываться о смерти. Кроме того, пятеро, страдающих расстройствами пищевого поведения, почувствовали ухудшение из-за непрерывного подсчета калорий. Также были зафиксированы случаи усиления маниакальных состояний и компульсивного взаимодействия с чат-ботами.
В то же время, 32 человека получили от чат-ботов поддержку и информацию, касающуюся здоровья, а 20 использовали их для организации своих планов. Датские ученые предлагают интегрировать в нейронные сети механизмы, способные распознавать тревожные мысли и перенаправлять пользователей к медицинским специалистам, как сообщает издание Science XXI.
По мнению исследователей, процесс регулирования развития таких технологий должен быть под контролем государственных органов, а не только частных компаний. Врачи теперь должны беседовать с пациентами о возможности использования интернета и потенциальных рисках.
Из 54 000 пациентов. Да все эти данные на уровне погрешности.