Потенциальные угрозы искусственного интеллекта и его критическая роль в жизни современного человека



В статье рассмотрен процесс развития искусственного интеллекта, его влияние на различные сферы общественной жизни. Выделены основные аргументы в пользу использования ИИ, продемонстрированы примеры отрицательного воздействия на жизнь человека. Автором сделаны выводы о потенциальной опасности технологии.

Ключевые слова: искусственный интеллект, нейросеть, интернет, дипфейк, мошенничество.

В современную эпоху Интернет представляет собой неотъемлемую составляющую повседневной жизни, без которой сложно представить существование и функционирование общества. Благодаря интернету совершенствуются процессы обучения и работы, не выходя из дома человек может совершить покупки и оплатить коммунальные услуги. Пользование интернетом не ограничивается лишь полезным применением, потребители также используют его с целью развлечений и отдыха. Буквально пять лет назад общество и не подозревало о том, что способности интернета могут быть расширены настолько, что обычному человеку может быть без надобности выполнять отчет или писать сочинение, когда за него это может сделать нечто другое. Речь идет об искусственном интеллекте (ИИ) — к его созданию самым распространенным подходом является нейросеть, которая, хоть и обрела большую популярность лишь в 2020-ых годах, начала разрабатываться еще в середине 20 века.

Нейросеть — это совокупность нейронов, которые вычисляют выходной сигнал из совокупности входных сигналов. Это определение сформулировали Уоррен Мак-Каллок и Уолтер Питтс в 1943 году, представив статью о логическом исчислении идей и нервной активности. Благодаря дальнейшим исследованиям ученых о кибернетике и алгоритмах обучения возникает понятие перцептрона. Перцептрон представляет собой кибернетическую модель мозга или устройство, моделирующее процесс человеческого восприятия — простейшая нейронная сеть. Многочисленное использование с целью установления ограничений и несовершенств данной нейронной сети действительно показало, что перцептрон не является идеальной моделью и имеет множество неточностей. Хотя до этого некоторые ученые и предлагали алгоритмы по устранению этих ошибок, только в 1986 году Дэвид Румельхарт, Джеффри Хинтон, Рональд Дж. Уильямс и одновременно Сергей Игоревич Барцев и Виктор Александрович Охонин переоткрыли и развили метод обратного распространения ошибки, который позволял минимизировать разницу предсказанного значения и реального. [1] Таким образом, ученое сообщество стремилось улучшать разработанный механизм, чтобы дать человеку новые возможности в познании мира, ведь если самую простую нейросеть — перцептрон — использовали для прогнозирования погоды, то что могла сделать более совершенная модель, стоило лишь гадать.

Нейросети обучаются на основе большого количества данных, ищут сходства и закономерности, и с помощью этого инструмента искусственный интеллект может решить задачу пользователя. Аргументов в пользу использования ИИ огромное множество и все они подкрепляются реальными примерами.

Повышение эффективности. Так, в течение 2020 года с помощью «Робота-юриста» было подготовлено свыше 2,5 млн юридических заключений. Данный искусственный интеллект обрабатывал информацию из множества документов и связывал ее друг с другом, что ускоряло рутинный процесс в несколько раз. Другим примером является обработка звонков в МФЦ — голосовой ассистент может отвечать одновременно на 100 звонков круглосуточно, в то время как каждый день сотрудникам поступает 32 тысячи звонков. Результатом использования такого помощника стало увеличение количества обработанных сообщений в два раза. [2]

Персонализация услуг. Многие онлайн-платформы используют ИИ, чтобы улучшить подбор рекомендаций пользователю: на основе его поисковых запросов формируется перечень подходящих материалов и рекламы. Многие производители косметики, например, Garnier, на своем официальном сайте предоставляют возможность получить персональную программу ухода для кожи после прохождения онлайн-диагностики и загруженного фото лица пользователя.

Улучшенные прогнозы. Применение ИИ позволяет анализировать поведение птиц и животных для своевременной эвакуации при надвижении стихийных бедствий, наблюдать со спутников за появлением засушливости во избежание угроз пожара, предсказывать возникновение ударов молнии. В качестве самого очевидного примера можно привести процесс прогнозирования погоды, нужда в котором возникает не только из потребности вовремя сменить демисезонную одежду на зимнюю, но и из необходимости вырастить сельскохозяйственные культуры с минимальными потерями: использование системы прогнозирования погоды на базе ИИ от Cropin помогло оцифровать более 30 тысяч фермерских участков в Индии и увеличить доходы фермерских хозяйств на 37 %. [3]

Перечисленные факторы достаточно обобщены, потому в них можно включить много конкретных примеров, связанных с успехом использования ИИ в медицине, образовании, бизнесе, производстве, транспортной системе и т. д. Авторы статьи экономического интернет-журнала [4] составили таблицу, содержащую в себе информацию с задачами, которые решает ИИ в различных областях (таблица 1).

Таблица 1

Ключевые области, применяющие ИИ

Область	Задачи, решаемые при помощи ИИ
Банковское дело	прогнозирование, управление рисками, чат-боты и голосовые помощники в мобильных банковских приложениях
Информационная безопасность	борьба с мошенничеством, предупреждение угроз на основе предыдущего опыта, создание базы данных вредоносного ПО и других угроз
Промышленность	контроль и оптимизация производственных процессов, диагностика и профилактическое обслуживание оборудования, сбор информации о поломках, а также промышленные роботы и умная техника
Транспорт	беспилотная транспортировка, анализ эффективности маршрутов, сбор информации о поломках транспорта
Торговля	управление закупками, анализ спроса и предложения, эффективности маркетинговых стратегий, разработка персонализированных программ лояльности
Медицина	диагностика, ведение документации
Образование	понимание мотивации обучающихся и в этой зависимости корректировка образовательных технологий

При этом существует немало информации, гласящей, что ИИ может превосходить человека. Это объясняется тем, насколько хорошо спроектирован ИИ, сколько у него опыта и как хорошо он способен учиться на своих ошибках. «Были исследования, сравнивающие вербовщиков-людей с вербовщиками с искусственным интеллектом, которые предсказывают, какие кандидаты будут работать лучше на работе. Когда производительность была измерена через 12, 18 и 24 месяца, новобранцы, отобранные AI, превзошли в среднем тех, кто был отобран людьми». [5] В 1997 году впервые машина под названием Deep Blue смогла одержать победу над чемпионом мира по шахматам Гарри Каспаровым с таким шумом, что сам шахматист долго время не мог признать проигрыш и ссылался на фальсификацию. [6] В феврале 2023 года в еженедельном конкурсе на самую красивую фотографию от DigiDirect выиграло фото, сгенерированное нейросетью (рис. 1).

Рис. 1. Фото, сгенерированное нейросетью для конкурса DigiDirect

Члены жюри полагали, что перед ними снимок с дрона, сделанный неким человеком по имени Джейн Эйкс, и уже после победы студия Absolutely AI призналась в своем участии, отказавшись от денежного вознаграждения. [7]

Машина становится победителем в телевикторине, в игре в покер против четырех ведущих игроков, побеждает в тесте на зрительное мышление, лучше понимает прочитанный текст — подобные события время от времени появляются в новостях у каждого, напоминая о том, что интеллект, созданный человеком, способен превзойти его. Тем не менее, чаще ИИ выступает в качестве помощника, который облегчает труд человека, а не побеждает в интеллектуальной схватке. Поэтому судить о том, что искусственный интеллект может полностью заменить человеческий разум, пока преждевременно, и для этого нет достаточных оснований.

Польза применения ИИ бесспорна, но стоит отметить и негативные моменты влияния машин на нашу жизнь. Человечество стало меньше думать — людям не нужно читать большое количество книг и учебников, чтобы найти какую-то информацию, достаточно ввести запрос в поисковую строку интернета и результат найдет себя сам. Можно не писать сочинения и курсовые работы, когда есть возможность попросить об этом нейросеть. Даже проводить расчеты или долго сидеть за написанием кода нет необходимости — все сделают специальные сайты и программы.

Недавно появился такой феномен, как «клиповое мышление». Из-за обретших популярность приложений с просмотром коротких, не связанных друг с другом видеороликов большое количество молодежи перестало воспринимать происходящие вокруг них события как целостную картинку: им сложно анализировать большое количество информации, так как мозг привык к ее фрагментарной подаче. Элвин Тоффлер ввел понятие «зеппинг», которое означает формирование образа из обрывков информации после частого и безостановочного переключения каналов телевидения. [8] Человек перестает понимать контекст, мозг не трудится над осмыслением образов и звуков, общество деградирует.

Кадровый вопрос также является существенным, ведь у компаний и предприятий, которые освоили внедрение ИИ, уже нет необходимости в сотрудниках, чью работу спокойно выполняют искусственные алгоритмы. Под сокращение попали 70 % менеджеров среднего звена в Сбербанке, так как их смог заменить ИИ. [4] Поддержка доставки еды, такси и даже автоответчик при звонке управляющей компании чаще работают на базе искусственного интеллекта — и это далеко не все, что можно вспомнить в качестве примера.

И, наконец, дезинформация и мошенничество — наверняка, самый волнующий общество вопрос. Люди теряют конфиденциальную информацию, деньги, доверие, ведь используя интернет они могут даже не подозревать, что имеют отношение с искусственным интеллектом. Мошенники используют нейросети для создания фейковых (поддельных) новостей и спам-рассылок: пользователь переходит по ссылке из правдоподобного сообщения или письма на почту и попадает на сайт, откуда в дальнейшем будут украдены его персональные данные. Некоторые недобросовестные продавцы в интернет-магазинах подключают к продажам сгенерированные нейросетью отзывы, которые вводят в заблуждение покупателей. Злоумышленники способны делать ненастоящие договоры и документы с вашей подписью с помощью ИИ.

Самую большую опасность сейчас представляют дипфейки — методы создания поддельного медиаконтента (воспроизведение голоса, наложение желаемого лица на исходное). Людям гораздо проще доверять таким же людям, чей голос они могут слышать, и чью мимику видеть, однако ИИ и здесь вышел на новый уровень. В интернете существует большое количество сайтов, где пользователь может купить аудио-поздравление от знаменитости для своего близкого человека. При этом поздравление сгенерировано нейросетью и голос изумительно похож на того, от чьего имени звучат пожелания. Дипфейки также используются в кинематографе, чтобы состарить или омолодить актера, сделать похожим на него дублера. Сама идея создания дипфейка имела положительную цель, однако в руках мошенников все обрело иной смысл. Так, каждый, кто хоть раз выкладывал свои фото в социальные сети, может столкнуться с проблемой распространения порнографических материалов с его лицом — мошенники используют новые технологии, чтобы вымогать средства у людей, шантажируя их фейковыми видео.

В конце 2020 года вышло видео с рекламой от главного исполнительного директора компании Dbrain Дмитрия Мацкевича, где он рассказал об инвестициях с доходностью 360 % и оставил ссылку для перехода на сайт компании. На самом деле сайт не имел к Dbrain никакого отношения и был создан с целью сбора личной информации. Два рекламных видеоролика оказались также ненастоящими и являлись дипфейками — Дмитрий Мацкевич подтвердил, что никогда не снимал подобных видео. [9]

Самым шумным событием с применением дипфейка оказались видео в сервисе TikTok, на которых популярный актер Том Круз играл в игры, показывал фокусы и просто общался, смеялся на камеру. Видео были выложены не с официального аккаунта, однако актер выглядел настолько реалистично, что только после отрицания участия в этих видео самого Круза люди узнали, что их обманывали. [9]

ИИ стал для общества спасением, облегчил и ускорил выполнение множества производственных процессов, дал новые возможности в изучении наук и познании мира. В то же время он стал инструментом в руках злоумышленников, которые поняли: люди уже сейчас перестают отличать фейк от оригинала, и поэтому ввести их в заблуждение и воспользоваться полученными данными практически ничего не стоит при использовании искусственного интеллекта и нейросетей. Перед современным человеком стоит сложная и почти невыполнимая задача: не попасться на уловки мошенников. Поэтому очень важно перепроверять полученную информацию и не доверять всему, что есть в интернете.

Литература:

1. Гафаров, Ф. М. Искусственные нейронные сети и их приложения / Ф. М. Гафаров. — Текст: электронный //: [сайт]. — URL: https://kpfu.ru/staff_files/F1493580427/NejronGafGal.pdf (дата обращения: 09.2024).
2. Мирошниченко, М. А. Применение искусственного интеллекта — современное технологическое решение в условиях цифровой экономики России / М. А. Мирошниченко. — Текст: электронный // Киберленинка: [сайт]. — URL: https://cyberleninka.ru/article/n/primenenie-iskusstvennogo-intellekta-sovremennoe-tehnologicheskoe-reshenie-v-usloviyah-tsifrovoy-ekonomiki-rossii/viewer (дата обращения: 01.10.2024).
3. Авдонин, Д. В. Искусственный интеллект в метеорологической области / Д. В. Авдонин. — Текст: электронный // Киберленинка: [сайт]. — URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-v-meteorologicheskoy-otrasli/viewer (дата обращения: 29.09.2024).
4. Головкина, С. И. Риски и этические аспекты искусственного интеллекта / С. И. Головкина. — Текст: электронный //: [сайт]. — URL: https://www.e-rej.ru/upload/iblock/6ee/fphttib0b8tu0wyonsn4cin5ncu43nzo.pdf (дата обращения: 29.09.2024).
5. Верещагина, Ю. В. Влияние искусственного интеллекта на бизнес / Ю. В. Верещагина. — Текст: электронный // Киберленинка: [сайт]. — URL: https://cyberleninka.ru/article/n/vliyanie-iskusstvennogo-intellekta-na-biznes/viewer (дата обращения: 30.09.2024).
6. Коряжкин, А. И. Проблема искусственного интеллекта: человек и машина / А. И. Коряжкин. — Текст: электронный // Киберленинка: [сайт]. — URL: https://cyberleninka.ru/article/n/problema-iskusstvennogo-intellekta-chelovek-i-mashina/viewer (дата обращения: 30.09.2024).
7. Фотография, сгенерированная ИИ, обманула судей и выиграла фотоконкурс. — Текст: электронный //: [сайт]. — URL: https://habr.com/ru/news/716416/ (дата обращения: 30.09.2024).
8. Семеновских, Т. В. Феномен «клипового мышления» в образовательной вузовской среде / Т. В. Семеновских. — Текст: электронный //: [сайт]. — URL: https://naukovedenie.ru/PDF/105PVN514.pdf (дата обращения: 30.09.2024).
9. Добробаба, М. Б. Дипфейки как угроза правам человека / М. Б. Добробаба. — Текст: электронный // Киберленинка: [сайт]. — URL: https://cyberleninka.ru/article/n/dipfeyki-kak-ugroza-pravam-cheloveka/viewer (дата обращения: 30.09.2024).