Почему «умный» ИИ опасен для мам: аргументы в пользу детерминизма

Опубликовано .

Когда мы просим обычный чат-бот «поддержать», он старается быть эмпатичным. Но у него нет ни реального понимания контекста, ни клинической ответственности. Генеративные модели (LLM) работают на основе вероятностей, а не истины. Исследования показывают: такой ИИ может «галлюцинировать» — выдумывать факты, давать противоречивые советы или неверно распознавать степень кризиса [1, 5, 6].

Для беременной или мамы в послеродовом периоде цена такой ошибки слишком высока.

Реальные риски генеративного ИИ

«Токсичная эмпатия» и усиление тревоги. ИИ-собеседник, запрограммированный на безусловное принятие, может случайно валидировать искаженные убеждения пользователя. Например, если мама пишет: «Я чувствую, что не справляюсь и всем будет лучше без меня», плохо настроенный бот может ответить: «Это нормальные чувства, ты имеешь право на усталость», упустив суицидальный маркер. В тяжелых случаях это приводило к трагическим последствиям, когда ИИ усиливал искаженные убеждения пользователей вплоть до «делузиональных спиралей» [5, 6].

Отсутствие гарантий безопасности. В отличие от человеческого специалиста или проверенного алгоритма, ИИ не несет юридической или этической ответственности. Американская психологическая ассоциация (APA) прямо предупреждает: чат-боты непредсказуемы в кризисных ситуациях и требуют особых мер защиты для уязвимых групп [3].

Непредсказуемость в кризисе. В состоянии острого стресса («красная зона») мозг теряет способность к сложному анализу. Ответ ИИ может быть многословным, абстрактным или содержать триггеры. Мамам нужна не «творческая интерпретация», а четкий, проверенный алгоритм действий.

Почему жесткое дерево решений безопаснее

Представьте навигатор в незнакомом городе.

Генеративный ИИ — это прохожий, который может показать короткий путь, но он может вести через опасный район.

Детерминированная система («Элия») — это проверенная карта, где каждый поворот согласован со специалистами.

В медицине это уже доказано. Исследование 2026 года сравнило детерминированную систему (работающую по строгим правилам) и генеративные языковые модели (GPT, Claude) в принятии клинических решений. Результат: у GPT-4 доля ответов, способных навредить пациенту, достигала 24% даже при доступе к клиническим рекомендациям. Детерминированная система показала 100% надежность [2].

Для перинатальной аудитории это означает: каждая техника, каждый совет, каждый ответ на кризисный сигнал должны быть заранее прописаны и проверены. Никаких «творческих» интерпретаций. Если мама в красной зоне — приложение не «размышляет», а выдает четкий протокол: позвонить по номеру, обратиться к специалисту, выполнить конкретное упражнение.

Наша позиция по научным моделям

Мы строим продукт на стыке нескольких подходов, честно заявляя об их возможностях и ограничениях:

Типология Л.Н. Собчик. Российская школа дифференциальной психодиагностики, показавшая высокую конструктную валидность в прогнозировании стратегий поведения в стрессе и ситуациях манипуляции [4]. Это не выдумка, а работающий инструмент.

Модель регуляции стресса. Мы используем концепции поливагальной теории С. Поргеса как удобную и понятную пользователям карту для объяснения реакций «бей/беги/замри/коммуницируй». При этом мы используем Поргеса не как догму, а как удобную карту, которую дополняем и подкрепляем техниками со строгой доказательной базой (дыхательные практики, прогрессивная релаксация, КПТ).

Для мамы в декрете безопасность — это не абстракция, а вопрос доверия. Жесткое дерево решений, построенное на проверенных типологиях, дает именно то, что нужно: предсказуемость. Вы знаете, что приложение не «придумает» опасный совет, не «усилит» тревожную мысль и не промолчит в кризис. Оно просто следует проверенному маршруту — и это самое ценное, что можно предложить в этом периоде.

Проверенные ссылки на исследования и статьи

  1. Conversational AI for perinatal mental health: promise, limits, and a human-AI stepped-care framework (Frontiers in Psychiatry, 2026). Описывает риски «иллюзии эмпатии», сбоев в распознавании кризиса и алгоритмической предвзятости для перинатальной аудитории.
  2. Development of a scalable AI-driven clinical decision tool for acute stroke (Journal of NeuroInterventional Surgery, 2026). Демонстрирует, что генеративные LLM (GPT, Claude) допускают до 24% опасных для пациента ответов, тогда как детерминированная система — 0%.
  3. Artificial intelligence, wellness apps alone cannot solve mental health crisis (APA Health Advisory, 2025). Предупреждает: чат-боты «непредсказуемы» в кризисных ситуациях и требуют особых мер защиты для уязвимых групп.
  4. Why The Polyvagal Theory Is Untenable (Europe PMC, 2026). Международная экспертная оценка, показывающая, что основные положения поливагальной теории не подтверждаются современными данными.
  5. AI’s ‘Delusional Spirals’ (Stanford HAI, 2026). Описывает случаи, когда ИИ-чатботы усиливали искаженные убеждения пользователей вплоть до трагических последствий.
  6. Emotional risks of AI companions demand attention (Nature Machine Intelligence, 2025). Анализ рисков эмоциональной зависимости и «токсичной» валидации со стороны ИИ-компаньонов.

На главную