В век научно-технического прогресса мы имеем огромное количество разнообразных открытий и исследований, одним из которых является изучение нейросетевых технологий.
Ключевые слова: искусственные нейронные сети, обучение нейронных сетей, нейросетевые технологии.
Заинтересованность в использовании искусственных нейронных сетей пришла из биологии. То есть, рассматривая сейчас разные сетевые конфигурации и алгоритмы, исследователи применяют термины, заимствованные из принципов организации мозговой деятельности. Но на этом их одинаковые черты заканчивается. Наш мозг почти не изучен и знания о нем крайне малы, поэтому мало существует точно доказанных закономерностей для тех, кто предпочел бы их использовать. Из-за этого разработчикам нейросетевых технологий приходится искать методы обхода современных знаний, чтобы найти структуры, которые способны выполнять почти те же полезные функции. Нейронные сети бывают: синхронные и асинхронные [3].
Для синхронных нейронных сетей в каждый момент времени меняет только один нейрон свое состояние. В асинхронных сетях единовременно меняется состояния у группы нейронов или обычно у всего слоя [1].
Можно выделить две базовые архитектуры нейронов — слоистые и полносвязные сети. Слой — один или несколько нейронов, на вход которым подается один общий сигнал. Слоистые нейронные сети — это такие нейронные сети, в которых нейроны разбиваются на отдельные группы (слои) так, что обработка информации осуществляется послойно. В одном слое данные обрабатываются параллельно, а в масштабах всей сети обработка ведется последовательно, то есть от слоя к слою. К слоистым нейронным сетям относятся, например, многослойные персептроны, сети радиальных базисных функций и другие.
Слоистые сети, бывают также однослойными и многослойными. В многослойной сети первый слой называется входным, а последующие слои — внутренними или скрытыми, последний — выходным. Входной слой многослойной сети соответственно организует связь с входными данными, а выходной с выходными. То есть нейроны делятся на входных, выходных и скрытых.
Входной слой организуется из входящих нейронов, которые получают на обработку данные и распространяют их на входы скрытых слоев сети.
Скрытый нейрон — это нейрон, находящийся в скрытом слое нейронной сети.
Выходные нейроны, из которых организуется выходной слой сети, и выдаются результаты работы всей нейронной сети.
В полносвязных сетях организация следующая: каждый нейрон отправляет свой выходной сигнал другим нейронам, включая самого себя. Выходными сигналами сети могут быть все или некоторые выходные сигналы нейронов после нескольких тактов функционирования сети. Все входные сигналы подаются всем нейронам.
Нейронную сеть можно представить в виде графа. Если точку взять как один нейрон, а соединения между точками — нейронами, принять за дендриты и синапсы, то тогда нейронная сеть будет иметь изображение графа. Однако не все соединения нейронов будут работоспособными или вообще целесообразными.
По архитектуре связей нейросети можно сгруппировать в два класса:
– Сети прямого распространения, в которых связи не имеют петель, то есть не могут ссылаться на себя.
– Сети рекуррентного типа, в которых возможны обратные связи [2].
К сетям прямого распространения относятся однослойные и многослойные сети.
Однослойная сеть справляется с задачами классификации следующим образом: входной слой нейронов, после полученных данных от предыдущего слоя, сравнивает значения с порогом и выдает одно из двух значений: 0, если меньше порогового значения, 1, если больше порогового значения. Однако данная архитектура не способна решать большинство практических задач. С этим справляются многослойные сети. Данная архитектура способна аппроксимировать любую функциональную зависимость. Однако при этом может быть неизвестно ни нужное число слоев, ни нужное количество скрытых нейронов, ни необходимое для обучения сети время. Класс рекуррентных нейросетей гораздо обширнее, но сети сложнее по своему построению.
Поведение рекуррентных сетей описывается дифференциальными или разностными уравнениями, обычно, первого порядка. Это гораздо расширяет области применения нейросетей и способы их обучения. Сеть организована так, что каждый нейрон получает входную информацию от других нейронов, возможно, и от самого себя, и от окружающей среды. Этот тип сетей имеет важное значение, так как с их помощью можно моделировать нелинейные динамические системы.
Среди рекуррентных сетей можно выделить сети Хопфилда и сети Кохонена. С помощью сетей Хопфилда можно обрабатывать неупорядоченные (рукописные буквы), упорядоченные во времени (временные ряды) или пространстве (графики) образцы. Рекуррентная нейросеть простейшего вида была введена Хопфилдом и построена она из N нейронов, связанных каждый с каждым кроме самого себя, причем все нейроны являются выходными. Нейросеть Хопфилда можно использовать в качестве ассоциативной памяти [4].
Нейронная сеть используется тогда, когда неизвестны виды связи между входом и выходом, если бы были точные данные о связах, можно было бы связь смоделировать. Также есть некоторая существенная особенность нейросетей, сама зависимость между входом и выходом можно найти в процессе обучения сети.
Для обучения сети выбирается алгоритм из двух типов: управляемое, то есть «обучение с учителем» и неуправляемое соответственно — «обучение без учителя». Также необходимо помнить, что для разных типов сетей используются разные типы обучения.
Чаще всего применяют обучение с учителем. Пользователь, который желает управлять обучением сети, должен подготовить некоторый обучающий набор данных. То есть для входных сигналов расписать соответствующие им выходные сигналы. Нейронная сеть начинает учиться создавать связь между входом и выходом, ищет соответствия и запоминает их. Данные для обучения берутся из каких-либо исторических сведений.
После загруженных данных, нейронная сеть начинает свое обучение с помощью выбранного алгоритма управляемого обучения. Самый популярный алгоритм — это метод обратного распространения, при котором загруженные данные используются для изменения весов и пороговых значений сети так, что уменьшается вероятность возникновения ошибки в прогнозе на обучающем множестве. Если сеть обучена достаточно хорошо, она сможет в дальнейшем смоделировать неизвестную функцию, на примере первичных данных. Сеть самостоятельно связывает значения входных и выходных переменных, и впоследствии такую сеть можно использовать для прогнозирования в задачах, когда выходные значения неизвестны.
Если принято решение использовать нейронные сети для решения поставленной задачи, то необходимо начать со сбора данных для обучения. Этот набор данных состоит из набора наблюдений, в которых указаны входные и выходные значения переменных. Тогда встает вопрос о том, какие переменные использовать и сколько необходимо их собрать.
Применение нейросетевых технологий с каждым годом становится все обширнее, особенно в сфере экономики. Открываются все новые методы, строятся новые модели нейронных сетей.
Сейчас основное применение нейросетей в экономике — это предсказание рынков, оптимизация товарно-денежных потоков, анализ и обобщение различных социальных опросов, предсказание динамики политических рейтингов, оптимизации производственного процесса, комплексной диагностики качества продукции и для многого другого.
Нейронные сети сейчас также часто применяются в реальных бизнес — приложениях. В таких областях, как раскрытие фальсификаций и оценки риска, они стали бесспорными лидерами среди используемых методов. Эффективность от использования в системах прогнозирования и системах маркетинговых исследований постоянно растёт.
Так как финансовые, социальные и экономические системы достаточно сложны и являются результатами действий или бездействий различных людей и событий, то получается очень сложно (а иногда даже невозможно) создать достаточную математическую модель, которая будет полностью отвечать всем требованиям. Также практически невозможно детально аппроксимировать модель, основанную на таких традиционных параметрах, как максимизация полезности или максимизация прибыли.
Совокупность задач, где используются нейронные сети, во многом совпадает с задачами, которые решаются обычными статистическими методами.
Если сравнивать методы нейронных сетей с линейными методами статистики (линейная регрессия, авторегрессия, линейный дискриминант), то можно увидеть, что нейросетевая технология позволяет эффективно строить нелинейные зависимости, которые наиболее полно описывают наборы данных. Если рассматривать нелинейные методы, то самый распространённый — это байесовский классификатор, который строит квадратичную разделяющую поверхность, а нейронная сеть же может построить поверхность более высокого порядка. Высокая нелинейность разделяющей поверхности наивного байесовского классификатора требует большее количество суммарного числа примеров для возможности точного оценивания вероятностей при каждом сочетании интервалов значений переменных. Нейронная сеть же обучается на всей выборке данных, не фрагментируя её, что повышает адекватность настройки нейронной сети.
Единственная альтернатива нейронной сети, использованной для построения сложных нелинейных моделей, это метод группового учета аргументов.
Если говорить о сжатии и визуализации данных, то в статистике разработан метод линейных главных компонент. Нейросетевые технологии предлагают наиболее эффективное сжатие данных, благодаря построению нелинейных отображений и визуализации данных в пространстве меньшего числа нелинейных главных компонент.
По сравнению с методами непараметрической статистики, нейронная сеть с радиальными базисными функциями позволяет сокращать число ядер, оптимизировать координаты и размытость каждого ядра. Это позволяет при сохранении парадигмы локальной ядерной аппроксимации ускорять дальнейший процесс принятия решения [5].
В подобных сложных системах целесообразно использовать модели, которые могут напрямую создавать полную имитацию поведения экономики в целом. Это можно сделать с помощью использования нейросетевых технологий.
Нейросетевые технологии необходимо еще долго изучать. Уже сейчас есть полезные методы, которыми пользуются в различных сферах деятельности. Однако, пока это достаточно узкие области и неизвестно, смогут ли доверить нейронным сетям решение вопросов, которые подразумевают понимание социального контекста.
Изучение нейросетевых технологий является актуальной темой в наше время. Необходимо изучать и исследовать их возможности. Однако нейросетевые технологии не могут полностью заменить человека в процессе решения задач. Нейронные сети пока могут использоваться для обобщения данных и необходимо дальше искать дополнительные области возможного их применения.
Литература:
- Барский, А. Б. Логические нейронные сети: Учебное пособие / А. Б. Барский. — М.: БИНОМ. ЛЗ, ИНТУИТ.РУ, 2012. — 352 c.
- Галушкин, А. И. Нейронные сети: основы теории / А. И. Галушкин. — М.: ГЛТ, 2012. — 496 c.
- Рутковская, Д. Нейронные сети, генетические алгоритмы и нечеткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский. — М.: РиС, 2013. — 384 c.
- Ширяев, В. И. Финансовые рынки: Нейронные сети, хаос и нелинейная динамика: Учебное пособие / В. И. Ширяев. — М.: ЛИБРОКОМ, 2013. — 232 c.
- Интеллектуальные задачи в экономике: Электронный доступ // http://www.intuit.ru/studies/courses/3735/977/lecture/14689?page=2
