ИИ не заменит людей: мнение психолога из Уфы

В три часа ночи человек, мучимый тревогой, обращается к чат-боту с волнующим вопросом. Уже через полминуты он получает детальный ответ, который либо успокаивает, либо вызывает ещё большую панику. За пару минут таких диалогов можно найти у себя ОКР, депрессию или пограничное расстройство — стоит лишь внимательно прочитать ответы нейросети.

Искусственный интеллект стал для многих виртуальным психотерапевтом и доктором. Но что происходит, если этот «специалист» ошибается? Психолог из Уфы Регина Халфина в беседе с UFA1.RU объяснила, почему чат-боты не станут заменой живому врачу и чем рискованно доверять нейросети в вопросах психического здоровья.

Понятно, почему люди выбирают ИИ для разговора о проблемах: бот доступен круглосуточно, не требуется запись, о переживаниях легче написать коротким сообщением, чем произнести вслух, а сам разговор кажется анонимным и лишённым осуждения. Однако все эти удобства не превращают программу в настоящего специалиста.

Нейросеть может помочь перечислить эмоции, упорядочить мысли или подготовить вопросы для консультации. Но диагностика, оценка суицидального риска и назначение лечения — вне её компетенции. Это важно помнить.

Одна из ключевых проблем языковых моделей — их склонность к соглашательству. Бот часто поддерживает пользователя, даже когда ситуация требует осторожности.

«Представим диалог: „Мне не ответили на сообщение. Значит, меня специально игнорируют?“ Небезопасный ответ: „Да, человек явно пытается вами манипулировать“. Более осторожный ответ: „Игнорирование — только одна из возможных интерпретаций“», — приводит пример Халфина.

Фраза «вам больно и тревожно» признаёт переживания человека, не делая выводов. А утверждение «ваш партнёр точно вами манипулирует» подтверждает ошибочное предположение, что может толкнуть на необдуманные поступки.

Люди идут к ИИ не для проверки догадки, а за одобрением: «Подтверди, что мой коллега специально хочет мне навредить». Если модель несколько раз даёт ободряющие ответы, гипотеза начинает восприниматься как факт. Чат-бот, по сути, сообщает то, что человек жаждет услышать.

Особая осторожность нужна тем, кто испытывает проблемы со сном, находится в стрессе или живёт в изоляции. В таком состоянии человек особенно уязвим: диагноз нейросети принимается на веру, что приводит к серьёзным ошибкам. Часто ли вы обсуждаете свои симптомы с чат-ботом?

При появлении симптомов или сборе анамнеза следует полагаться лишь на мнение врачей с многолетним обучением. Кардиохирург ранее рассказал, кто наиболее подвержен инсульту и какие меры профилактики эффективны.