Современные системы искусственного интеллекта достигли впечатляющих успехов в решении узкоспециализированных задач. Нейросети превосходят человека в распознавании образов, обработке больших данных и выполнении рутинных операций. Однако по мере усложнения задач проявляются фундаментальные ограничения автономных ИИ-систем: отсутствие понимания контекста, неспособность к этической рефлексии и принятию решений в ситуациях с высокой неопределенностью [1]. Именно эти ограничения привели к формированию парадигмы гибридного интеллекта, где человек не устраняется из процесса, а интегрируется в него как равноправный участник [2].
В ходе исследования была разработана архитектурная модель гибридной системы, включающая три уровня взаимодействия. Первый уровень — полная автоматизация (ИИ действует самостоятельно). Второй уровень — совместное принятие решений (ИИ генерирует варианты, человек выбирает). Третий уровень — человек принимает решение, а ИИ выступает в роли ассистента. Переключение между уровнями происходит на основе оценки энтропии Шеннона, которая отражает степень неопределенности текущей ситуации [3].
В рамках экспериментальной проверки предложенной модели решалась задача краткосрочного прогнозирования транспортных потоков в мегаполисе. В качестве ИИ-компонента использовалась рекуррентная нейросеть LSTM, обученная на 36 месяцах исторических данных. Человек-оператор (диспетчер) получал информацию о локальных событиях, не учтенных в исторических данных. Сравнение эффективности различных подходов представлено в таблице 1.
Таблица 1
Сравнение точности прогнозирования транспортных потоков при различных подходах (ошибка в %, MAE)
|
Подход |
Средняя ошибка |
Ошибка в стандартных условиях |
Ошибка при внештатных ситуациях |
|
Автономный ИИ (LSTM) |
12,4 % |
8,7 % |
41,2 % |
|
Человек (диспетчер) |
18,6 % |
14,3 % |
22,1 % |
|
Гибридная система |
8,2 % |
6,1 % |
9,4 % |
Как показали результаты, представленные в таблице 1, автономный ИИ демонстрирует высокую точность в стандартных условиях, но резко теряет качество при внештатных ситуациях (ошибка возрастает до 41,2 %). Человек-оператор, напротив, стабилен, но уступает ИИ в скорости и точности обработки больших массивов данных. Гибридная система сочетает преимущества обоих подходов, показывая минимальную ошибку во всех сценариях.
Особый интерес представляет анализ поведения гибридной системы в зависимости от уровня неопределенности. При низкой неопределенности система работает в полностью автоматическом режиме. При средней неопределенности подключается совместное принятие решений. При высокой неопределенности управление полностью передается человеку. Такая стратегия позволяет минимизировать когнитивную нагрузку на оператора, одновременно сохраняя контроль над критическими ситуациями.
Результаты внедрения гибридной системы показали снижение ошибки прогнозирования на 34 % по сравнению с автономным ИИ и на 56 % по сравнению с полностью ручным управлением. При этом загрузка диспетчера снизилась на 62 %, что подтверждает эффективность предложенного подхода. Сравнительный анализ различных стратегий переключения уровней взаимодействия представлен в таблице 2.
Таблица 2
Эффективность различных стратегий переключения режимов работы гибридной системы
|
Стратегия переключения |
Ошибка прогноза |
Загрузка оператора |
Количество переключений |
|
Фиксированный порог (энтропия > 3) |
9,8 % |
45 % |
120 в день |
|
Адаптивный порог (с учетом времени суток) |
8,7 % |
38 % |
95 в день |
|
Адаптивный порог + учет усталости оператора |
8,2 % |
34 % |
78 в день |
Данные таблицы 2 показывают, что наиболее эффективной является стратегия с адаптивным порогом переключения, учитывающим не только текущую энтропию, но и состояние оператора. Это позволяет дополнительно снизить ошибку на 1,6 % и уменьшить загрузку диспетчера на 11 %.
Перспективы дальнейших исследований связаны с разработкой интерфейсов для более тесного взаимодействия человека и ИИ, а также с созданием метрик «доверия», позволяющих системе оценивать состояние оператора (усталость, уровень внимания) и автоматически адаптировать режим работы. Кроме того, представляет интерес применение предложенной архитектуры в других предметных областях: медицине, управлении энергосетями, финансовом мониторинге [4].
Литература:
- Бостром, Н. Искусственный интеллект. Этапы. Угрозы. Стратегии / Н. Бостром. — М.: Манн, Иванов и Фербер, 2016. — 496 с. — Текст: непосредственный.
- Венда, В. Ф. Системы гибридного интеллекта: Эволюция, психология, информатика. / В. Ф. Венда. — М.: Машиностроение, 1990. — 448 с. — Текст: непосредственный.
- Гибридные адаптивные интеллектуальные системы. Ч. 1: Теория и технология разработки: монография. / П. М. Клачек, С. И. Корягин, А. В. Колесников, Е. С. Минкова. — Калининград: БФУ им. И. Канта, 2011. — 374 с. — Текст: непосредственный.
- Венда, В. Ф. Инженерная психология и синтез систем отображения информации / В. Ф. Венда. — М.: Машиностроение, 1975. — 396 с. — Текст: непосредственный.
