Искусственный интеллект (ИИ) обладает определенным потенциалом для применения в сфере охраны психического здоровья и в соответствующих исследованиях, однако результаты проведенного недавно исследования указывают на наличие здесь существенных недостатков, что может свидетельствовать о чрезмерной поспешности во внедрении новых моделей ИИ, полезность которых до конца не изучена.
Роль искусственного интеллекта в охране психического здоровья
В 2021 г. в Европейском регионе ВОЗ насчитывалось более 150 миллионов человек с нарушениями психического здоровья. Пандемия COVID-19 лишь усугубила эту ситуацию. Снизилась доступность услуг для населения, и стресс, ухудшение ситуации в экономике, военный конфликт и насилие делают наше психическое здоровье очень уязвимым.
Одновременно с этим, применение ИИ делает возможными революционные прорывы в медицине и в здравоохранении. Технологии искусственного интеллекта рассматриваются в качестве нового инструмента для планирования услуг по охране психического здоровья и для выявления и мониторинга нарушений психического здоровья на уровне отдельных лиц и групп населения. Инструменты на базе ИИ способны использовать оцифрованные данные здравоохранения, в том числе электронные медицинские карты, изображения и записи, сделанные от руки, для автоматизации задач, облегчения работы специалистов и изучения причин сложных заболеваний.
В Региональном плане действий в области цифрового здравоохранения для Европейского региона ВОЗ на 2023–2030 гг., который был представлен в сентябре 2022 г., также отмечается потребность в инновациях в сфере прогнозирования и аналитики, с использованием больших массивов данных и искусственного интеллекта в здравоохранении.
"ИИ все более широко применяется в сфере здравоохранения, и сейчас важно оценить ситуацию с использованием основанных на ИИ инструментов при проведении исследований в сфере психического здоровья, чтобы определить актуальные тенденции, пробелы, возможности и вызовы", – говорит региональный советник по данным и цифровому здравоохранению в ЕРБ ВОЗ д-р David Novillo-Ortiz, один из авторов исследования.
Вызовы
Исследование "Связанные с методикой и качеством недостатки применения искусственного интеллекта в исследованиях в области психического здоровья: систематический обзор", авторами которого выступают эксперты из Политехнического университета Валенсии (Испания) и ЕРБ ВОЗ, посвящено использованию инструментов на базе ИИ в исследованиях в области психического здоровья в период с 2016 г. по 2021 г.
"Мы увидели, что инструменты на базе ИИ используются преимущественно в исследованиях, касающихся депрессивных расстройств, шизофрении и других психотических расстройств, но при этом практически не задействованы в других сферах. Это свидетельствует о наличии серьезных пробелов в наших знаниях о том, как можно применять эти инструменты для изучения других нарушений психического здоровья", – говорит региональный советник по вопросам психического здоровья в ЕРБ ВОЗ д-р Ledia Lazeri.
ИИ открывает новые возможности для изучения психических заболеваний и выработки более эффективных стратегий охраны здоровья. В то же время, применение решений на базе ИИ часто предполагает использование сложных статистических и математических инструментов и многомерных данных, в связи с чем возникает вероятность ошибок и неверной интерпретации результатов: исследователи порой склонны чрезмерно доверять ИИ. Результаты исследования указывают на наличие существенных недостатков, связанных с тем, как инструменты на базе ИИ обрабатывают статистические данные, и с недостаточной валидацией данных и их оценкой на предмет возможных погрешностей.
Обеспокоенность вызывает также проблема недостаточно открытой отчетности о применении моделей на базе ИИ, что ограничивает возможности для воспроизведения результатов. Исследование показало, что используемые данные и модели чаще всего не попадают в открытый доступ, и исследователи практически не сотрудничают между собой.
"Недостаточная открытость и наличие методологических погрешностей вызывают тревогу, поскольку это препятствует безопасному применению инструментов на базе ИИ. Вопросы инженерии данных для моделей на базе ИИ зачастую упускаются из виду или неверно интерпретируются, и отмечаются недостатки в обработке данных. Это серьезные проблемы, которые могут свидетельствовать об излишне поспешном внедрении моделей на базе ИИ без предварительной оценки их применимости в реальных условиях", – отмечает д-р Novillo-Ortiz.
"Искусственный интеллект – это краеугольный камень цифровой революции. Это исследование дает нам некоторое представление о том, что ждет нас в ближайшие годы, и какие факторы необходимо будет учитывать при дальнейшем совершенствовании структур и процессов систем здравоохранения применительно к охране психического здоровья", – говорит Antonio Martinez-Millana, доцент в Политехническом университете Валенсии и один из авторов исследования.
Отдельные результаты исследования были представлены на организованном ЕРБ ВОЗ мероприятии под названием "Применение анализа больших данных и технологий искусственного интеллекта в сфере охраны психического здоровья", которое состоялось 7 декабря 2022 г. Его участники – эксперты из стран Европейского региона – обсудили подходы к применению моделей на базе ИИ к планированию услуг по охране психического здоровья, а также соображения безопасности и факторы успеха, такие, например, как вовлечение в создание моделей самих людей с нарушениями психического здоровья.