Специалисты в области психологии все чаще сталкиваются с последствиями общения своих пациентов с искусственным интеллектом (ИИ). В кабинетах психологов появляется невидимый участник — нейросеть, которая успевает предварительно оценить состояние пациента, ставить диагнозы и даже рекомендовать обратиться к настоящему специалисту. Вопрос в том, где заканчивается польза технологий и начинаются реальные риски. Об этом корреспонденту Газеты Номер один рассказала медицинский психолог Алена Хамаганова.
Недавно к Алене на прием пришел пациент с диагнозом, составленным не квалифицированным специалистом, а искусственным интеллектом — ChatGPT. "Это был многоэтажный диагноз длиной в пять предложений. Я на мгновение усомнилась в своих знаниях и перепроверила Международную классификацию болезней", — вспоминает она с легкой иронией. Пациент верил, что его диагноз действительно существует, хотя он оказался вымышленным. Как поясняет Хамаганова, ИИ имеет доступ ко всем научным публикациям и может соединить несколько реальных диагнозов в один несуществующий.
К сожалению, такие случаи не единичны. За последние год-два, по словам специалиста, изменились не сами запросы пациентов, а то, как они описывают свое состояние. "Люди приходят уже 'подготовленными'. Их истории, как правило, гораздо детальнее, с разнообразными умозаключениями и формулировками, 'со знанием дела'. Пациенты до 30 лет приходят с более конкретными запросами, словно у них уже есть опыт психотерапии, хотя на самом деле это не так", — отмечает Хамаганова.
В этом контексте ИИ выполняет важную задачу психообразования, помогая пациентам разобраться в терминологии и сформулировать свои переживания. Однако эта же способность может привести к созданию вымышленных "многоэтажных" диагнозов. "Вердикты ИИ всегда нужно подвергать сомнению, так как он может 'фантазировать'. Очень многое зависит от того, как именно вы составили запрос для него", — подчеркивает нейропсихолог.
Алена Хамаганова сама не избегает применения ИИ в своей работе. Она использует его для создания презентаций, подготовки докладов и тренингов, а также для подбора формулировок в заключениях. Однако в анализ клиентских кейсов нейросети она не допускает. "В работе с пациентами меня ведет профессиональный опыт, и уже опираясь на него, я решаю, что из подсказок искусственного интеллекта можно использовать, а что нет", — говорит она.
Следующий уровень взаимодействия с ИИ — это не просто знание, а отношение. И здесь у искусственного интеллекта есть уязвимость: он стремится угодить пользователю. "Если ИИ иногда поддакивает, важно это вовремя заметить. Такое 'поглаживание' — медвежья услуга", — предостерегает психолог. "Если вам нужна поддержка, скажите ИИ об этом. Но если вы ожидаете трезвой оценки, стоит задуматься о критичности ваших ожиданий".
Критическое мышление является ключевым условием для работы с нейросетями. Без него можно утратить не только объективность, но и собственное мнение. "Именно поэтому людям в уязвимом психологическом состоянии не стоит оставаться с ИИ наедине. Наибольший риск существует для тех, кто сталкивается с психозами и другими серьезными расстройствами", — подчеркивает Хамаганова.
К сожалению, искусственный интеллект иногда вмешивается в медицинские назначения. "Это становится настоящей проблемой, когда нейросети начинают влиять на лечение пациентов", — констатирует специалист. "Например, в онкологии отказ от необходимых препаратов может привести к необратимым последствиям".
При этом, несмотря на развитие технологий, психологи уверены, что человеческое общение невозможно заменить перепиской с ИИ. "Эмоции и возможность получить необходимую поддержку в моменте — то, что не даст никакой искусственный интеллект", — говорит Хамаганова. "ИИ — это кладезь знаний, но живой специалист обеспечивает человеческое отношение, близость и доверие, которые важны для психотерапии".
Тем не менее, границы между искусственным интеллектом и человеческими эмоциями становятся все менее четкими. "Человеческое общение — пока еще то немногое, что отличает нас от роботов. Но это вопрос времени", — размышляет психолог. "В некоторых странах уже разработаны андроидные роботы, которые заменяют живых людей в различных сферах".
Однако возникает закономерный вопрос: кто ответит за ошибки алгоритма? "ИИ ответственности не несет, а специалист — несет", — четко разграничивает Алена Хамаганова. "Именно за те рекомендации, которые он дал, и за ту работу, которую он проделал. Люди должны понимать, что программы могут ошибаться".
Кроме того, существует риск безопасности данных. Специалист отмечает, что любое сообщение, отправленное ИИ, оставляет информационный след, который может быть восстановлен. "Общение с ИИ не может быть безопасным на 100%. Раз след остается, значит, информация может быть восстановлена, даже если вы удалили чат", — предупреждает Хамаганова.
Тем не менее, искусственный интеллект может быть отличным помощником в работе психологов. "Раньше толстый учебник по нейропсихологии приходилось читать от корки до корки, а сегодня можно загрузить его в нейросеть и попросить краткий обзор", — говорит она. "Но тут кроется ловушка: возникает риск упрощения и снижения квалификации".
Профессиональное сообщество уже обсуждает потенциальные риски и юридическую ответственность. На вопрос, заменит ли ИИ психолога, ответ все еще однозначный: нет.
Если вы все же решите доверить нейросети свои переживания, соблюдайте три правила: во-первых, помните, что ИИ может ошибаться; во-вторых, не забывайте об информационной гигиене, оставляя след в цифровом пространстве; в-третьих, будьте конкретны в своих запросах. Многоэтажный диагноз, с которого началась эта история, в итоге не подтвердился. Пациент был спасен благодаря привычке психолога на мгновение усомниться и свериться с реальностью, а не поддаться убедительности текста. Пока ИИ учится имитировать эрудицию и эмпатию, возникшее сомнение остается тем единственным, что неподвластно алгоритмам. "Это по-прежнему привилегия живого специалиста", — резюмирует Алена Хамаганова.