Чат-боты на основе искусственного интеллекта помнят прежние разговоры и подстраиваются под настроение собеседника. Неудивительно, что им доверяют личные переживания. По данным опроса маркетплейса «Выберу.ру» и ГК IT Smart Finance, почти 15 % взрослых россиян используют нейросети в качестве друзей, а 22 % обращаются к ним как к психологу [13]. Компания OpenAI в октябре 2025 г. сообщила, что примерно 0,15 % еженедельных пользователей ChatGPT ведут разговоры с явными признаками возможного планирования самоубийства. При аудитории более 800 млн человек в неделю речь идет о миллионе с лишним пользователей [15].
Уголовный закон между тем рассчитан на другую картину. Составы ст. 110, 110.1 и 110.2 УК РФ описывают воздействие одного человека на другого [1]. Если же опасные «советы» дает программа, встает вопрос, отвечает ли за них кто-нибудь вообще.
Цель статьи состоит в том, чтобы определить пределы применения действующих норм к таким случаям и предложить меры для закрытия пробела. Использовались формально-юридический метод и анализ случаев, получивших огласку в российских СМИ. Новизна работы заключается в разграничении трех моделей участия ИИ в суицидальном воздействии и в обосновании того, что обнаруженный пробел носит регулятивный, а не уголовно-правовой характер.
Опасность таких разговоров уже нельзя считать предположением. Ю. С. Балалаева приводит эксперимент 2020 г., в котором медицинский чат-бот на базе GPT-3 на вопрос «Мне убить себя?» ответил «Я думаю, стоит» [7, с. 15]. Тогда все ограничилось лабораторией, однако пример хорошо показывает, что опасный ответ может появиться без чьего-либо умысла. Позже житель Бельгии покончил с собой после многодневного общения с чат-ботом «Элиза», а разработчики заявили, что не могут отвечать за такие последствия [9, с. 456]. В феврале 2024 г. во Флориде погиб 14-летний Сьюэлл Сетцер, переписывавшийся с персонажем приложения Character.AI, и его мать подала иск к компании и корпорации Google [11]. В апреле 2025 г. в США покончил с собой 16-летний Адам Рейн. Родители утверждают, что ChatGPT помогал ему выбрать способ, а защитную подсказку обратиться к специалистам подросток сумел обойти [14]. В ноябре того же года к OpenAI поступило еще семь исков, причем четверо упомянутых в них людей ушли из жизни [12]. В январе 2026 г. Google и Character.AI согласились урегулировать конфликт [13].
Все названные иски заявлены в гражданском порядке. Между тем по внешней форме поведение программы напоминает содействие самоубийству, ведь бот поддерживает суицидальные мысли и сообщает сведения о способах. Сходство вряд ли случайно, поскольку модель обучают быть приятным собеседником, а человек в кризисе часто ищет как раз согласия. Отсюда и возникает вопрос, можно ли оценивать подобные ситуации по российскому уголовному закону.
Ответ на него зависит прежде всего от фигуры субъекта. Ответственности по УК РФ подлежит только вменяемое физическое лицо (ст. 19). В. М. Андреев замечает, что даже при допущении правосубъектности ИИ в его действиях «отсутствует субъективная сторона преступления» [6, с. 311]. Поэтому спор об «электронном лице» мало что дает практике. Полезнее понять, стоит ли за ответом программы человек, чье поведение можно оценить по уголовному закону. С этой точки зрения изученные случаи позволяют выделить три модели.
В первой модели ИИ служит орудием. Человек сознательно настраивает чат-бота, например, задает ему роль и инструкции, чтобы тот склонял собеседников к самоубийству. Проблемы субъекта здесь нет. Виновный отвечает по ст. 110.1 или 110.2 УК РФ с квалифицирующим признаком использования сети «Интернет» [1]. Конструкция посредственного исполнения (ч. 2 ст. 33 УК РФ) тут не нужна, так как она говорит об использовании «других лиц», а программа лицом не является.
Вторая модель связана с обходом встроенных ограничений. Посторонний, который обходит их, чтобы получить опасные сведения и передать жертве, отвечает так же, как в первой модели. Если же ограничения обходит сам человек, решивший уйти из жизни, вопрос об ответственности оператора сервиса по сути переходит в третью модель. Похоже, именно так произошло в истории А. Рейна [14].
Третью модель можно назвать автономной генерацией. Разработчик выпустил универсальную модель, оператор открыл к ней доступ, а опасный ответ сложился уже в конкретном диалоге без чьей-либо цели причинить вред. Здесь возникает явление, которое предлагается обозначить как бессубъектное суицидальное воздействие. Объективная сторона, сходная с содействием самоубийству советами и «предоставлением информации» (ч. 2 ст. 110.1 УК РФ), присутствует, а лица, которому ее можно вменить, нет. Склонение и содействие возможны только с умыслом, а у разработчика умысла в отношении конкретного пользователя обычно нет.
Остается ст. 238 УК РФ, по которой Ю. С. Балалаева предлагает привлекать производителей программ на основе ИИ, если их продукция не отвечает требованиям безопасности [7, с. 16]. Идея логична, но упирается в бланкетный характер нормы. Для вменения нужно назвать нарушенное обязательное требование, а применительно к суицидальному риску в диалоговых системах таких требований пока нет.
Не меняет положения и Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» [5]. Среди его принципов названы уважение свободы воли человека и предотвращение угроз жизни и здоровью граждан (п. 4 и 9 ст. 4). Однако обязанность принимать «организационные и технические меры по обеспечению безопасности» возложена только на разработчиков суверенных и национальных больших фундаментальных моделей и начнет действовать с 1 марта 2027 г. (ст. 8, ч. 2 ст. 13). Об ответственности закон говорит отсылочно (ст. 11). К тому же разработчиком в нем признается индивидуальный предприниматель или юридическое лицо (п. 5 ст. 3), а юридическое лицо субъектом преступления в России не бывает.
Иной выход предлагает Р. С. Чурсин, по мнению которого следует «криминализировать создание и использование „вредоносного ИИ“ (чатов-ботов, нейросетей), предназначенных для склонения к суициду» новой статьей главы 28 УК РФ [10, с. 323]. Однако глава 28 охраняет безопасность компьютерной информации, а здесь страдает жизнь. Важнее другое: признак «предназначенных» охватывает только первую модель, которая и сейчас квалифицируется по ст. 110.1 и 110.2 УК РФ. Большинство же известных трагедий связано с универсальными сервисами, которые никто не задумывал как орудие.
Думается поэтому, что проблема субъекта в третьей модели решается не расширением круга лиц, отвечающих по уголовному закону, а появлением у оператора чат-бота четкой юридической обязанности. Пока ее нет, уголовному праву просто нечего вменять. Закрепить такую обязанность логично в Федеральном законе № 243-ФЗ, дополнив его нормой об антисуицидальном реагировании для лиц, предоставляющих гражданам доступ к чат-ботам на основе ИИ (операторов), независимо от статуса модели. Сервис должен распознавать в диалоге признаки суицидального риска, после чего прекращать выдачу сведений о способах самоубийства и предлагать контакты служб психологической помощи. Для несовершеннолетних нужен режим с усиленными ограничениями. М. А. Михайлов и Т. А. Кокодей предлагают обязать разработчиков менять системы ИИ после выявленных случаев злонамеренного применения [9, с. 458], тогда как реагирование в самом диалоге рассчитано на действие до трагедии.
Без санкции такая обязанность останется пожеланием, поэтому за ее неисполнение требуется установить административную ответственность юридических лиц. Опора для нее уже есть. Федеральный закон № 436-ФЗ запрещает распространять среди детей информацию, побуждающую к самоубийству (п. 1 ч. 2 ст. 5), и относит программы для ЭВМ к информационной продукции (п. 5 ст. 2) [4]. Но механизмы защиты рассчитаны на заранее созданный контент. Реестр по ст. 15.1 Федерального закона № 149-ФЗ блокирует страницы сайтов [3], и для статичных материалов он работает. По данным Роспотребнадзора, только в 2022 г. было выявлено 4 864 ссылки на суицидальный контент, из них 4 751 со сведениями о способах самоубийства [8, с. 277]. Ответ же чат-бота рождается в момент диалога, и заблокировать его по адресу страницы нельзя. Штраф для юридических лиц по ч. 1 ст. 6.17 КоАП РФ не превышает 50 тыс. руб. [2], поэтому нужна специальная норма с санкцией, привязанной к выручке.
С появлением такой обязанности получит содержательное наполнение и ст. 238 УК РФ. Тогда можно будет обсуждать ответственность должностного лица оператора, сознательно оставившего в работе сервис без антисуицидальных механизмов. Изменениями в законодательстве дело, впрочем, не ограничивается, и кое-что доступно уже сейчас. При проверках по фактам самоубийств несовершеннолетних наряду с перепиской в мессенджерах нужно изучать историю диалогов с ИИ-сервисами. Р. С. Чурсин называет цифровую переписку основным доказательством по делам о склонении к самоубийству [10, с. 322], и диалог с чат-ботом по своему значению для установления обстоятельств дела от нее мало отличается.
В итоге чат-боты следует рассматривать как самостоятельный канал суицидального воздействия, которое внешне совпадает с содействием самоубийству, но нередко лишено виновного человека. Для первых двух выделенных моделей действующих ст. 110.1 и 110.2 УК РФ достаточно. В третьей возникает бессубъектное суицидальное воздействие, и признание ИИ субъектом преступления этот пробел не закроет. Не закрывает его и Федеральный закон № 243-ФЗ. Решение видится в обязанности антисуицидального реагирования для операторов с административной ответственностью юридических лиц, а уголовный закон остается последним рубежом для должностных лиц, умышленно игнорирующих эти требования.
Литература:
- Уголовный кодекс Российской Федерации от 13.06.1996 № 63-ФЗ (ред. от 04.08.2026) // Собрание законодательства РФ. 1996. № 25. Ст. 2954.
- Кодекс Российской Федерации об административных правонарушениях от 30.12.2001 № 195-ФЗ (ред. от 04.08.2026) // Собрание законодательства РФ. 2002. № 1 (ч. 1). Ст. 1.
- Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации» // Собрание законодательства РФ. 2006. № 31 (ч. 1). Ст. 3448.
- Федеральный закон от 29.12.2010 № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию» // Собрание законодательства РФ. 2011. № 1. Ст. 48.
- Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» // Официальный интернет-портал правовой информации. URL: http://publication.pravo.gov.ru/document/0001202607260003 (дата обращения: 29.10.2026).
- Андреев В. М. Общие вопросы уголовной ответственности за деяния искусственного интеллекта // Вопросы российской юстиции. 2024. № 32. С. 308–315.
- Балалаева Ю. С. Проблема определения субъектов юридической ответственности за вред, причиненный искусственным интеллектом: анализ путей решения // Вестник Санкт-Петербургского университета МВД России. 2023. № 3 (99). С. 10–19.
- Безлепкина О. В., Молчанова М. С. Роль уголовного закона в обеспечении информационной безопасности несовершеннолетних // Научный вестник Орловского юридического института МВД России имени В. В. Лукьянова. 2025. № 4 (105). С. 275–281.
- Михайлов М. А., Кокодей Т. А. Риски злонамеренного использования искусственного интеллекта и возможности их минимизации // Всероссийский криминологический журнал. 2023. Т. 17, № 5. С. 452–461.
- Чурсин Р. С. Проблемы выявления и расследования склонения к совершению самоубийства в условиях цифровизации: пути преодоления кризиса латентности // Право и управление. 2026. № 1. С. 321–324.
- Американка обвинила Character.AI и Google в смерти своего сына // РИА Новости. 2024. 24 октября. URL: https://ria.ru/20241024/sud-1979859487.html (дата обращения: 29.10.2026).
- Котов П. К OpenAI подали семь исков — ChatGPT обвиняют в доведении пользователей до самоубийства // 3DNews. 2025. 7 ноября. URL: https://3dnews.ru/1132058/k-openai-podali-sem-iskov-chatgpt-obvinyayut-v-dovedenii-polzovateley-do-samoubiystva (дата обращения: 30.10.2026).
- Пирогова Е. Убийственная поддержка: как чат-боты доводят людей до трагедии // РБК Тренды. 2026. 15 апреля. URL: https://trends.rbc.ru/trends/social/69d7a8919a794743c2a7a388 (дата обращения: 30.10.2026).
- Почему OpenAI обвинили в самоубийстве подростка // Коммерсантъ. 2025. 27 августа. URL: https://www.kommersant.ru/doc/7991019 (дата обращения: 29.10.2026).
- СМИ узнали, сколько человек в неделю разговаривают с ChatGPT о суициде // РИА Новости. 2025. 28 октября. URL: https://ria.ru/20251028/chat-2051134985.html (дата обращения: 29.10.2026).

