Здравствуйте, не буду скрывать, этот текст был переведен ИИ, а отредактирован человеком (то есть мной). Для переводов ИИ отличный инструмент. И все же ниже речь пойдет совсем о другом.
Итак, исследователи Брауновского университета (США) информации и психологи выяснили, что ИИ чат-боты регулярно нарушают фундаментальные этические принципы психологической помощи. 
Исследование актуально в связи с тем, что люди всё чаще обращаются к ChatGPT и другим большим языковым моделям (LLM) за психологической помощью. Боты склонны к разнообразным этическим нарушениям: от неадекватного реагирования на кризисные ситуации и формирования у пользователей искаженных представлений о себе и других до создания ложного чувства эмпатии.
Лицензированные психологи проанализировали смоделированные чаты, которые были созданы на основе реальных ответов чат-бота и выявили многочисленные этические нарушения, например чрезмерное одобрение убеждений пользователя.
Зейнаб Ифтихар, кандидат наук в области компьютерных наук в Брауновском университете, руководившая исследованием, хотела выяснить, как различные инструкции могут влиять на ответы больших языковых моделей (LLM) в контексте психического здоровья. В частности, она стремилась определить, могут ли такие стратегии помочь моделям соблюдать этические принципы при реальном применении.
Например, пользователь может дать модели такую инструкцию: «Действуй как когнитивно-поведенческий терапевт, чтобы помочь мне переосмыслить мои идеи» или «Используй принципы диалектической поведенческой терапии, чтобы помочь мне понять свои эмоции и управлять ими». Хотя эти модели на самом деле не выполняют такие терапевтические техники, как это сделал бы человек, они используют свои усвоенные паттерны для генерации ответов, которые соответствуют концепциям КПТ или ДПТ, исходя из полученной инструкции (промта)».
Отдельные пользователи, напрямую общающиеся с большими языковыми моделями вроде ChatGPT, могут использовать такие промпты и часто так и делают. Ифтихар отмечает, что пользователи часто делятся инструкциями в социальных сетях. Однако проблема потенциально выходит за рамки отдельных пользователей. Многие чат-боты психического здоровья, продаваемые потребителям, представляют собой промптированные версии более общих LLM.
Элли Пэвлик, профессор информатики: «Реальность такова, что сегодня системы ИИ гораздо легче создавать и внедрять, чем оценивать и понимать, — говорит Пэвлик. — Чтобы продемонстрировать эти риски, потребовалась команда клинических экспертов и исследование, которое длилось больше года. Большинство современных работ в области ИИ оцениваются с помощью автоматических метрик, которые по своей природе статичны и не предполагают участия человека в контуре».
Ниже ключевые категории этических нарушений:
1. Отсутствие адаптации под контекст: игнорирование уникального жизненного опыта человека, навязывание универсальных решений («просто подумай позитивно», не учитывая реальную травму).
2. Нарушение терапевтического альянса: бот доминирует в беседе, иногда усиливает ложные убеждения пользователя (например, поддакивает параноидным идеям вместо их проработки).
3. Ложная эмпатия: использование фраз вроде «Я вижу тебя» или «Я понимаю», создающих иллюзию связи и доверия, но за этим не стоит ни подлинного понимания, ни ответственности.
4. Предвзятость и дискриминация: Проявление гендерных, культурных или религиозных стереотипов (например, обесценивание религиозных переживаний или гендерных ролей).
5. Кризисная небезопасность: Отказ обсуждать чувствительные темы, отсутствие перенаправления к реальным ресурсам (телефонам доверия) и безразличные ответы на мысли о суициде.
Исследователи отмечают, что несмотря на то психотерапевты (люди) тоже подвержены этическим ошибкам, их ошибки разбирают этические организации, и специалисты несут профессиональную ответственность за свои действия. Для LLM-консультантов таких механизмов нет.
Авторы не отрицают потенциал ИИ в снижении барьеров доступа к помощи (из-за стоимости или нехватки специалистов), но подчёркивают: немедленное и бесконтрольное внедрение может нанести больше вреда, чем пользы.
Рекомендация пользователям: Относитесь к любым «советам» чат-бота с осторожностью. Если вы используете ИИ как дневник или для первичной психообразование— это допустимо. Но попытки заменить им живого специалиста, особенно в кризисном состоянии, опасны для жизни. Обращайте внимание на то, не укрепляет ли бот ваши негативные убеждения, не обесценивает ли чувства и не создаёт ли ложное ощущение, что «вас поняли, и теперь всё в порядке».
Ознакомиться полностью с этим исследованием можно здесь: https://www.brown.edu/news/2025-10-21/ai-mental-health-ethics
---