Промышленные предприятия эксплуатируют тысячи единиц мехатронного оборудования, оснащённого системами непрерывного мониторинга. Генерируемые потоки сенсорных измерений содержат информацию о постепенной деградации узлов, однако извлечение из них прогностических моделей сопряжено с трудностями, обусловленными многомерностью, нестационарностью и высоким уровнем шума [1, 2]. Традиционные подходы к оценке технического состояния опираются на эвристическое конструирование признаков (среднеквадратичные значения, пик-фактор, спектральные характеристики) и последующее применение методов машинного обучения, что ограничивает их обобщающую способность при смене режимов работы или типа оборудования.

Применение двунаправленных LSTM-сетей к задаче прогноза остаточного ресурса рассмотрено в [3]; авторы показали преимущество перед классическими рекуррентными моделями, однако не учли пространственную структуру многомерных сигналов. Свёрточные нейронные сети, адаптированные для анализа одномерных вибрационных рядов, описаны в [4] и демонстрируют высокую чувствительность к локальным аномалиям, но ограничены в захвате долговременных зависимостей. Гибридные CNN-LSTM архитектуры, частично устраняющие этот недостаток, предложены в [5], тем не менее их способность фокусироваться на наиболее информативных фазах деградации остаётся недостаточной. Внедрение механизмов внимания, первоначально разработанных для задач обработки естественного языка [6], в диагностические модели только начинает систематически изучаться.

Пусть имеется множество экземпляров оборудования, каждый из которых описывается последовательностью многомерных измерений, где число сенсорных каналов (вибрация, температура, давление, частота вращения и т. д.) обозначается как d, а длина жизненного цикла конкретного экземпляра до отказа — как T. Для каждого момента времени задана целевая функция остаточного ресурса, линейно убывающая от начального значения до нуля в момент отказа. В задаче классификации дефектов определён набор меток, соответствующих типу неисправности (например, норма, повреждение внутреннего кольца, наружного кольца, тел качения). Требуется построить модель, которая минимизирует среднеквадратичную ошибку прогноза остаточного ресурса и максимизирует F1-меру в задаче классификации, не прибегая к ручному отбору диагностических признаков.

Предлагаемая архитектура состоит из трёх последовательных блоков.

Первый блок — одномерные свёрточные слои с ядрами разного размера, применяемые параллельно к каждому из входных каналов. Операция свёртки выделяет локальные паттерны (всплески, тренды, переходные процессы), формируя карты признаков с сокращённой временной размерностью после объединения и числом фильтров, задающим глубину представления.

Второй блок — двунаправленная LSTM (BiLSTM), обрабатывающая последовательность карт признаков в прямом и обратном направлениях. Скрытое состояние для каждого временного шага агрегирует информацию о предшествующих и последующих состояниях, что принципиально важно для оценки степени износа, проявляющейся в долгосрочных трендах.

Третий блок — многоголовое внимание над выходами BiLSTM. Для каждого шага вычисляется контекстный вектор как взвешенная сумма скрытых состояний всех временных позиций; веса получаются посредством скалярного произведения запросов и ключей, масштабирования и нормализации функцией softmax.

Эксперименты выполнены на двух общедоступных наборах данных. Для прогнозирования остаточного ресурса использован набор C-MAPSS [7], содержащий данные о работе турбореактивных двигателей до отказа (поднаборы FD001–FD004, различающиеся числом режимов и типов неисправностей). Каждый экземпляр представлен 21 сенсорным каналом; длительности жизненных циклов варьируются от 128 до 362 отсчётов. Обучающая и тестовая выборки содержат по 100 экземпляров. Для классификации дефектов взяты сигналы виброускорения подшипников из репозитория CWRU [8] с четырьмя классами состояния: норма, повреждение внутреннего кольца, наружного кольца и тел качения. Данные разбиты в пропорции 70/15/15 для обучения, валидации и теста.

На поднаборе FD001, характеризующемся одним режимом работы, корень из среднеквадратичной ошибки прогноза остаточного ресурса для предложенной архитектуры CNN-BiLSTM-Attn составил 12,3. Для сравнения, базовая LSTM дала ошибку 15,1, одномерная CNN — 14,7, CNN-LSTM без внимания — 13,5, а модель Transformer — 13,0. Таким образом, разработанная модель сократила ошибку на 13–18 % относительно самых простых рекуррентных и свёрточных сетей. На более сложном поднаборе FD002 с шестью рабочими режимами абсолютные значения ошибок возросли, но относительное преимущество сохранилось: ошибка предложенной архитектуры составила 22,4 против 26,8 у Transformer, что свидетельствует о робастности к нестационарным условиям.

В задаче классификации дефектов подшипников модель достигла F1-меры 0,93, превзойдя CNN-LSTM (0,90) и чистый Transformer (0,91). Анализ матрицы весов внимания показал, что механизм внимания акцентируется на моментах входа тел качения в зону дефекта — наиболее информативных для диагностики участках сигнала.

Выполненное исследование подтверждает, что гибридная нейросетевая архитектура, сочетающая свёрточные, двунаправленные LSTM-слои и многоголовое внимание, обеспечивает более точный прогноз остаточного ресурса и классификацию дефектов по сравнению с типовыми глубокими моделями. Отказ от экспертного конструирования признаков упрощает перенос решения на оборудование различного типа. Дальнейшие работы целесообразно направить на включение в модель физических ограничений, интерпретацию весов внимания для формирования диагностических правил и адаптацию к потоковой обработке данных в реальном времени.

Литература:

1. Zhao R., Yan R., Chen Z., Mao K., Wang P., Gao R. X. Deep learning and its applications to machine health monitoring // Mechanical Systems and Signal Processing. — 2019. — Vol. 115. — P. 213–237.
2. Lei Y., Li N., Guo L., Li N., Yan T., Lin J. Machinery health prognostics: A systematic review from data acquisition to RUL prediction // Mechanical Systems and Signal Processing. — 2018. — Vol. 104. — P. 799–834.
3. Guo L., Li N., Jia F., Lei Y., Lin J. A recurrent neural network based health indicator for remaining useful life prediction of bearings // Neurocomputing. — 2017. — Vol. 240. — P. 98–109.
4. Ince T., Kiranyaz S., Eren L., Askar M., Gabbouj M. Real-time motor fault detection by 1-D convolutional neural networks // IEEE Transactions on Industrial Electronics. — 2016. — Vol. 63, № 11. — P. 7067–7075.
5. Chen Y., Peng G., Zhu Z., Li S. A novel deep learning method based on attention mechanism for bearing remaining useful life prediction // Applied Soft Computing. — 2020. — Vol. 86. — Art. 105919.
6. Vaswani A., Shazeer N., Parmar N., Uszkoreit J., Jones L., Gomez A. N., Kaiser L., Polosukhin I. Attention is all you need // Advances in Neural Information Processing Systems. — 2017. — Vol. 30. — P. 5998–6008.
7. Saxena A., Goebel K. Turbofan Engine Degradation Simulation Data Set // NASA Ames Prognostics Data Repository. — 2008.
8. Case Western Reserve University Bearing Data Center. Seeded fault test data. — URL: https://engineering.case.edu/bearingdatacenter