СTO edtech-компании Никита Вторушин рассказал «Чемпионату», способен ли разговор с искусственным интеллектом заменить поход к психологу. Оказалось, что ИИ может выслушать, поддержать и предложить возможные способы справиться с проблемой, но полноценной заменой психологу он быть не способен.
© Чемпионат
Главное ограничение ИИ в том, что он работает с предоставленной ему информацией и не может надёжно оценить состояние человека так, как это делает специалист. Человек может выглядеть спокойно и даже шутить, скрывая при этом тяжёлое эмоциональное состояние. Психолог учитывает не текст или просто слова, но и контекст, поведение, динамику состояния и профессиональные диагностические критерии.
Кроме того, ИИ может ошибаться, соглашаться с пользователем и уверенно выдавать недостоверную информацию. Чрезмерно доверять его советам опасно, особенно когда речь идёт о серьёзных психологических проблемах.
«Отдельная проблема — сикофантия, то есть склонность соглашаться с пользователем и подтверждать его позицию. Она может возникать, если у модели есть память, то есть она обучается на данных о пользователе: это ответы, вопросы, утверждения, всё то, что получает высокую оценку от пользователя. В результате модель иногда предпочитает согласиться, а не указать на ошибку или поиск истины», — отмечает эксперт.
Вместе эти особенности крайне опасны в психологическом контексте, человек может прийти с ошибочной интерпретацией своей ситуации и получать от ИИ убедительное подтверждение. Существуют ограничения в промптах, дабы это исправить, но даже это не является гарантией безопасности.
Мы хотим быть источником мотивации для вас. Начинайте меняться к лучшему вместе с нами! В нашем телеграм-канале @championat_lifestyle рассказываем, как правильно питаться, тренироваться и расслабляться.
