Развитие искусственного интеллекта является одним из значимых направлений цифровой трансформации. В Российской Федерации развитие технологий искусственного интеллекта закреплено на уровне национальной стратегии, что подчеркивает социальную, экономическую и технологическую значимость данного направления [1]. Вместе с тем расширение сферы применения ИИ-систем актуализирует не только технические, но и психологические вопросы проектирования цифровых продуктов. Пользователь взаимодействует не с алгоритмом как таковым, а с конкретным интерфейсом, рекомендацией, ответом, сценарием или цифровым помощником. Поэтому восприятие продукта во многом зависит от того, насколько система понятна, полезна, предсказуема и безопасна.

Цель статьи — проанализировать психологические факторы пользовательского взаимодействия, которые необходимо учитывать при проектировании цифровых продуктов с использованием искусственного интеллекта. В статье использованы методы теоретического анализа, обобщения и систематизации научных и нормативно-этических источников, посвященных искусственному интеллекту, доверию к автоматизированным системам, вовлеченности пользователя, объяснимости ИИ и принятию цифровых технологий.

Цифровые продукты с использованием искусственного интеллекта отличаются от традиционных информационных систем тем, что их работа не ограничивается хранением, передачей или отображением данных. ИИ-система способна анализировать информацию, выявлять закономерности, формировать прогнозы, предлагать рекомендации и адаптировать сценарий взаимодействия под конкретного пользователя. В исследованиях доверия к искусственному интеллекту подчеркивается, что ИИ отличается от более ранних цифровых технологий способностью взаимодействовать со средой, интерпретировать поступающую информацию, генерировать результат и корректировать поведение на основе полученных данных [2]. В связи с этим ИИ-продукт может восприниматься пользователем не как пассивный инструмент, а как активная система, участвующая в процессе выбора, оценки информации и принятия решений.

Одним из ключевых психологических факторов взаимодействия с ИИ-системами является доверие. В исследованиях доверия к автоматизации отмечается, что доверие приобретает особое значение в условиях неопределенности и уязвимости, когда человек не может полностью контролировать или понимать работу системы, но должен решить, можно ли на нее опереться [3]. В контексте ИИ-продуктов данная проблема усиливается, поскольку алгоритмические решения могут быть сложными, вероятностными и непрозрачными для неспециалиста. Пользователь нередко делегирует системе часть когнитивной работы: поиск информации, анализ данных, выбор рекомендации, формирование ответа или прогнозирование результата. Поэтому доверие становится механизмом, определяющим степень опоры на систему.

При этом доверие к искусственному интеллекту не должно пониматься как безусловное согласие с его выводами. Более корректным является понятие адекватного доверия, при котором пользователь соотносит возможности системы с ее ограничениями и сохраняет способность критически оценивать результат. В исследованиях доверия к ИИ подчеркивается различие между обоснованным и необоснованным доверием. Необоснованное доверие может приводить к чрезмерной зависимости от рекомендаций ИИ, снижению критичности и ошибочным решениям [4]. Следовательно, задача проектирования заключается не в максимальном повышении доверия любой ценой, а в формировании реалистичного представления пользователя о возможностях, ограничениях и степени надежности системы.

На доверие влияет и форма представления ИИ-системы. Искусственный интеллект может быть встроен в продукт незаметно для пользователя, например, в виде рекомендательного алгоритма, а может быть представлен как чат-бот, виртуальный ассистент или диалоговый агент. Чем более выражены антропоморфные признаки интерфейса, тем сильнее пользователь может переносить на систему ожидания, характерные для межличностного взаимодействия: ожидание компетентности, доброжелательности, последовательности и понятной реакции. В исследованиях доверия к технологиям различаются доверие к технологии как к системе, связанное с ее надежностью, функциональностью и полезностью, и доверие к технологии как к социальному агенту, связанное с восприятием интерфейса как более человекоподобного [5]. Это особенно важно для современных цифровых продуктов, где взаимодействие с ИИ часто строится в форме диалога.

Важным условием доверия является объяснимость искусственного интеллекта. Современные ИИ-системы нередко критикуются за эффект «черного ящика», то есть за невозможность для пользователя понять, каким образом был получен результат. В связи с этим объяснимость становится не только техническим, но и психологическим фактором доверия. Пользователь склонен больше доверять системе, если понимает причины рекомендации, критерии выбора или границы применимости результата. При этом важно, чтобы объяснение было ориентировано не только на технического специалиста, но и на конечного пользователя. В исследованиях объяснимого искусственного интеллекта подчеркивается, что значение имеет не только сам факт наличия объяснения, но и его понятность для пользователя, то есть возможность осмыслить причинную логику предложенной системой рекомендации [6].

Наряду с доверием значимым психологическим фактором является вовлеченность пользователя. Она рассматривается как качественная характеристика взаимодействия человека с технологией, включающая внимание, интерес, эмоциональную включенность, ощущение контроля, восприятие пользы и готовность возвращаться к продукту [7]. В ИИ-продуктах вовлеченность дополнительно связана с персонализацией, адаптацией сценария и диалоговым форматом взаимодействия. Однако сама по себе персонализация не гарантирует вовлеченности. Если пользователь не понимает, почему система предлагает определенный вариант, не видит практической пользы или сталкивается с чрезмерной сложностью интерфейса, взаимодействие может вызывать не интерес, а напряжение, недоверие или отказ от дальнейшего использования продукта. Вовлеченность формируется на пересечении воспринимаемой полезности, простоты использования, качества обратной связи, эмоциональной приемлемости и субъективной ценности опыта. В модели принятия технологий воспринимаемая полезность и воспринимаемая простота использования рассматриваются как одни из ключевых условий пользовательского принятия информационных систем [8].

Исследования вовлеченности показывают, что значимыми параметрами пользовательского опыта являются сфокусированное внимание, воспринимаемая удобность, эстетическая привлекательность и ощущение ценности взаимодействия с системой [9]. Для проектирования ИИ-продуктов это означает, что вовлеченность не может обеспечиваться только технической точностью алгоритма. Пользовательский опыт должен восприниматься как осмысленный, полезный и управляемый. Поэтому важное значение имеет обратная связь: возможность увидеть следующий шаг, получить объяснение ограничений, скорректировать запрос, уточнить результат или отказаться от рекомендации.

Игнорирование психологических факторов при проектировании цифровых продуктов с искусственным интеллектом может приводить к пользовательским, этическим и продуктовым рискам. К числу таких рисков относится как недостаточное доверие к системе, так и чрезмерное доверие к ее результатам. В первом случае пользователь может отказаться от полезного инструмента, даже если система способна эффективно решать его задачу. Во втором случае возникает риск некритичного принятия рекомендаций ИИ, что особенно значимо в ситуациях, связанных с финансовыми, медицинскими, образовательными или профессиональными решениями. В исследованиях доверия к автоматизированным системам такие ситуации описываются как некорректное использование автоматизации вследствие чрезмерного доверия либо как отказ от ее использования вследствие недостаточного доверия [3].

Отдельную группу составляют этические риски. Они связаны с обработкой персональных данных, возможной предвзятостью алгоритмов, недостаточной прозрачностью решений, отсутствием ответственности за последствия автоматизированных рекомендаций и риском причинения вреда пользователю. В российских и международных нормативно-этических документах подчеркивается необходимость ответственного, прозрачного и человекоцентричного развития искусственного интеллекта [10;11;12]. Следовательно, доверие к ИИ-продукту должно поддерживаться не только интерфейсными решениями, но и общей системой этического, организационного и технологического контроля.

Таким образом, психологически обоснованное проектирование цифровых продуктов с использованием искусственного интеллекта предполагает баланс между технологической функциональностью и пользовательским восприятием. На практике это означает необходимость понятного обозначения роли ИИ-системы, объяснения границ ее возможностей, сохранения пользовательского контроля, обеспечения воспринимаемой пользы, простоты взаимодействия и этической безопасности. Искусственный интеллект должен быть встроен в такой сценарий взаимодействия, который поддерживает доверие, вовлеченность, понимание и осознанное использование результата.

Проведенный теоретический анализ позволяет сделать вывод, что психологические факторы являются необходимым условием успешного проектирования цифровых продуктов с использованием искусственного интеллекта. Техническая точность ИИ-системы важна, однако принятие продукта пользователем зависит также от доверия, объяснимости, ощущения контроля, простоты использования и субъективной ценности опыта. Следовательно, проектирование цифровых продуктов с ИИ требует учета не только технологических и продуктовых параметров, но и психологических и этических факторов, определяющих характер взаимодействия пользователя с системой.

Литература:

1. Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации»; Национальная стратегия развития искусственного интеллекта на период до 2030 года (дата обращения: 22.05.2026).
2. Glikson E., Woolley A. W. Human Trust in Artificial Intelligence: Review of Empirical Research // Academy of Management Annals. 2020. Vol. 14. № 2. P. 627–660.
3. Lee J. D., See K. A. Trust in Automation: Designing for Appropriate Reliance // Human Factors. 2004. Vol. 46. № 1. P. 50–80.
4. Jacovi A., Marasović A., Miller T., Goldberg Y. Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI // Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. 2021. P. 624–635.
5. Lankton N. K., McKnight D. H., Tripp J. Technology, Humanness, and Trust: Rethinking Trust in Technology // Journal of the Association for Information Systems. 2015. Vol. 16. № 10. P. 880–918.
6. Shin D. The effects of explainability and causability on perception, trust, and acceptance: Implications for explainable AI // International Journal of Human-Computer Studies. 2021. Vol. 146. Article 102551.
7. O’Brien H. L., Toms E. G. What is User Engagement? A Conceptual Framework for Defining User Engagement with Technology // Journal of the American Society for Information Science and Technology. 2008. Vol. 59. № 6. P. 938–955.
8. Davis F. D. Perceived Usefulness, Perceived Ease of Use, and User Acceptance of Information Technology // MIS Quarterly. 1989. Vol. 13. № 3. P. 319–340.
9. O’Brien H. L., Cairns P., Hall M. A practical approach to measuring user engagement with the refined User Engagement Scale (UES) and new UES short form // International Journal of Human-Computer Studies. 2018. Vol. 112. P. 28–39.
10. Кодекс этики в сфере ИИ. — Текст: электронный // www.ethics.a-ai.ru: [сайт] (дата обращения: 23.05.2026).
11. Recommendation on the Ethics of Artificial Intelligence. — Текст: электронный // www.unesco.org: [сайт] (дата обращения: 24.05.2026).
12. National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100–1. Gaithersburg: NIST, 2023.