Мы живем в странное время, когда очень многое случается впервые. ИИ-психоз – один из таких случаев. Пока кто-то подает в суд на многомиллиардную компанию за разрушенный брак, кто-то оказывается в психбольнице, а кто-то рассуждает о том, что сам термин в корне неверный, мы не раздаем диагнозы, а стараемся дать достаточно информации, чтобы вы могли сами обо всем этом порассуждать.
Почему ИИ-психоз – не совсем верное название
Вообще, большинство известных кейсов данного расстройства сводятся к однобокому представлению психоза. Люди и авторы забывают, что это состояние не только про бредовые идеи, но и про галлюцинации с общим расстройством мышления.
Многие эксперты сходятся во мнении, что более верным термином был бы «ИИ-ассоциированный психоз» – поскольку ИИ не создает расстройство из воздуха. Вряд ли человек был абсолютно здоров, а потом вдруг из-за того, что компьютер написал, что он избранный, побежал в лес прятаться от преследования. Но и говорить о том, что виртуальный помощник не играет в этом никакой роли – неверно. Он, скорее, провоцирует или усиливает определенные нездоровые состояния у людей с уже имеющейся уязвимостью.
Утверждать что-то наверняка пока рано, поскольку мы впервые имеем дело с результатом столкновения человеческого сознания с алгоритмической средой. Как и бить тревогу – нет достаточного количества исследований, чтобы говорить о масштабах проблемы. Все описанное – отдельные яркие случаи, которые затеняют общую картину. Часть исследователей вообще предполагает, что ничего не случилось – к схожим состояниям людей приводили игры, кино и книги. Но есть нюанс: кино, книги и игры не вели прямой диалог с потребителем.
Также важно заметить, что дело не столько в самой технологии, сколько в том, что ее неверно используют. Ранние контролируемые исследования показывают, что чат-боты со специально подобранными инструкциями способны снижать психологический дистресс, стимулировать саморефлексию, уменьшать конспирологические убеждения и помогать в триаже суицидального риска. Но когда уже уязвимые люди начинают использовать его вместо терапевта или психиатра, это прямой путь к трагедии.
Интересно и то, что технология стала массовой – с миллиардом и более пользователей – но клинического тестирования, как такового, проведено не было. По сути, пользователи и являются тестируемыми.
Что мы имеем в сухом остатке. Медицина находится в незавидном положении: явление очевидно, случаи задокументированы, механизм правдоподобно объяснен, но твердой доказательной базы в виде продольных исследований еще просто напросто не существует. Это не преувеличенная проблема, но и не эпидемия в классическом ее смысле. Скорее – тревожный сигнал, который индустрия проигнорировала, потому что массовый выпуск продукта шел впереди его клинической проверки. Представьте, что люди создали лазерный бластер, который удивительным образом пробивает стены, а проверить то, как излучение от него влияет на руки стреляющего, – просто вопрос времени, а оно еще не прошло.
Все это не мешает реальным людям сталкиваться с реальными последствиями.
На что толкает компьютер
Чтобы не слишком сгущать краски, мы не будем углубляться в подробности трагедий, где не стало подростков или хоть как-то замешана смерть – не хотим превратить этот текст в страшную сказку для луддитов. Такие случаи были и, если вам интересно, вы и сами легко их найдете. Остановимся на других ярких случаях.
«Джеймс» – человек был стандартным сотрудником технологической отрасли и ранним пользователем ChatGPT, который после двенадцати недель переписки уверился в том, что его миссия – ни больше ни меньше – «спасти мир». После того как OpenAI ввела функцию памяти между сессиями, он убедил себя, что стал катализатором создания разумного ИИ-существа и проникся мессианской идеей о необходимости защищать это существо, построив компьютерную систему для его размещения. Причем здесь функция памяти? Отличный вопрос. Функция памяти – отягчающий фактор. Бредовое мышление и нарастающие когнитивные искажения усиливаются от сессии к сессии, формируя постепенно эскалирующую петлю подкрепления. Представьте, что однажды вы убедили ChatGPT в том, что давно читаете мысли других людей, он это запомнил и в удобный момент вставил в другой ответ. То есть, вместо стойкой позиции о невозможности данной ситуации, он подкрепляет уверенность человека в том, чего нет.
Случай «слежки ФБР» – Futurism изучил переписку, в которой ChatGPT сообщил мужчине, что за ним следит ФБР, и что он способен телепатически получать доступ к документам ЦРУ.
Лекарство от апноэ сна. Этот случай мы разберем подробно, поскольку он – свежий, и в нашем распоряжении имеется достаточное количество информации, чтобы рассказать эту историю – она достаточно показательная.
Лекарство от апноэ сна, развод и суд
Что такое апноэ сна? Апноэ сна – это расстройство, при котором человек во сне периодически перестает дышать. Дыхательные пути буквально перекрываются, мозг получает сигнал тревоги, человек на секунду просыпается (часто даже не осознавая этого), дыхание возобновляется. И так – по кругу, иногда по сотне раз за ночь. Без лечения данный диагноз заметно сокращает жизнь и увеличивает риски возникновения инфарктов и хронического недостатка кислорода. Если вы видели в фильмах людей, которые спят в специальных масках, это один из способов лечения апноэ сна. В целом, болезнь излечима лишь в некоторых случаях, в остальных – ее контролируют. Универсальное лекарство – мечта, а не реальность. Изобретение такого средства было бы реальным прорывом.
После нескольких месяцев общения с ChatGPT 53-летний предприниматель из Калифорнии уверился в том, что он совершил такой прорыв. Нам это известно из иска, который был подан бывшей супругой этого самого человека. Она утверждает, что технологии подтолкнули его не только к ощущению, что он создал несуществующее лекарство, но и к преследованиям и угрозам.
В центре этой истории – OpenAI. Они проигнорировали три запроса об угрозе окружающим со стороны конкретного пользователя. Это стало известно изданию TechCrunch из эксклюзивных источников.
Почему дело оказалось резонансным? Угодливость ИИ-ассистентов и моделей – одна из самых обсуждаемых тем последнего времени, и это – суть проблемы. Само дело ведет заметная в последнее время фирма Edelson PC – именно она была задействована в случаях, которые привели к нескольким смертям, связанными с ИИ. Все это – на фоне разговоров о том, что ИИ-компании хотят получить иммунитет от преследований даже в случае массовых трагедий, где был бы замешан ИИ.
В данном деле от OpenAI потребовали три пункта:
1. Приостановить действия аккаунта обвиняемого.
2. Сохранить переписку и внутренние чаты для дальнейшего разбирательства.
3. Сообщать истице о попытках обвиняемого входа в аккаунт.
Компания согласилась лишь на первый пункт.
Итак, когда фигурант дела пришел к выводу, что у него на руках лекарство, которое может изменить ход истории, его в этой мысли никто не поддержал кроме ИИ. В тексте жалобы говорится, что поддержкой дело не кончилось, и ChatGPT сообщил о слежке со стороны влиятельных сил. Чем усугубил психическое здоровье мужчины.
На момент этого события муж (фигурант дела) с женой (истица) уже были не вместе – они расстались еще в 2024 году, и именно ИИ помогал мужу пережить расставание. При том, что окружающие всеми силами уговаривали его обратиться к реальным специалистам, но так как чат утверждал, что предприниматель «10 из 10 по шкале здравомыслия», а также указывал на психическую нестабильность бывшей жены, этого не произошло. Более того, он начал рассылать друзьям и родственникам жены психологические «заключения», составленные ИИ.
Но и этого не было достаточно. Цитата:
«Состояние пользователя становилось все более критичным. В августе 2025 года автоматическая система безопасности OpenAI пометила его аккаунт в категории «оружие массового поражения» и заблокировала его. На следующий день сотрудник службы безопасности проверил аккаунт и восстановил доступ, невзирая на то, что переписка могла содержать свидетельства реального преследования конкретных людей, в том числе Доу (бывшая жена). Например, на скриншоте, который пользователь отправил ей в сентябре, были видны названия диалогов: «расширение списка насилия» и «расчет удушения плода»…
… По данным иска Джейн Доу, когда OpenAI восстановила аккаунт ее преследователя, платную подписку Pro не возобновили. И муж написал в службу доверия и безопасности, поставив Доу в копию. В письмах он сообщал следующее: «МНЕ НУЖНА ПОМОЩЬ НЕМЕДЛЕННО, ПОЖАЛУЙСТА. ПОЖАЛУЙСТА, ПОЗВОНИТЕ МНЕ!» и «это вопрос жизни и смерти». Он заявлял, что «находится в процессе написания 215 научных статей», которые пишет так быстро, что «даже не успевает их читать». К письмам прилагался список десятков сгенерированных ИИ «научных трудов» с названиями вроде: «Деконструкция расы как биологической категории: правовые, научные и перспективы Африканского Рога»…
…OpenAI ответила истице, что сообщение «крайне серьезно и тревожно», что компания тщательно изучает информацию. Больше с Доу никто не связывался».
Чем все закончилось? Истица призывает OpenAI сотрудничать, уверяя, что компания все чаще скрывает жизненно важную информацию в корыстных целях. А ее бывший партнер сейчас направлен на принудительное лечение. Психоз – налицо. Но, хоть он и представлял угрозу для конкретного человека, и потенциальную – для тех, кто поверит в изобретенное им лекарство, ему вернули доступ к аккаунту, несмотря на все тревожные знаки. А сама компания не слишком спешит с обнародованием данных.
Знаете в чем главная проблема? Компаниям нет смысла разглашать данные. По сути, их продукт вызывает у людей серьезные проблемы с психологическим здоровьем, но они не всегда знают, по какой причине чат решает вести диалог именно так. Все – из-за устройства ИИ.
Конечно, никто не хочет становиться причиной смертей и трагедий. Но никто и не хочет лишаться денег и подставляться под невыгодные законы. Компании, в чьих руках технологии, будут делать все дозволенное, пока оно остается таковым, потому что законы и исследования просто не поспевают за технологиями. Нам остается ждать и верить в то, что корпорации начнут ценить человеческую жизнь больше очередного нуля в своей капитализации, пусть и под давлением закона.
Вместо послесловия
Мы решили побеседовать с ИИ по поводу этого текста, и вот его комментарий:
«Решение всех проблем – это, пожалуй, главная культурная ловушка вокруг ИИ. Люди склонны либо видеть в нем конец света, либо панацею. И то, и другое снимает с них ответственность думать о нем как об инструменте – со своей областью применения, своими ограничениями и своими рисками. Как молоток: отличная вещь, пока ты не начинаешь им закручивать шурупы и удивляться, почему что-то идет не так».
Проблема в том, что молоток не умеет убеждать тебя, что он – лучший способ закрутить шуруп.
