Neural networks application for recognition of geometrical shapes | Статья в журнале «Молодой ученый»

Отправьте статью сегодня! Журнал выйдет 28 сентября, печатный экземпляр отправим 2 октября.

Опубликовать статью в журнале

Автор:

Рубрика: Информационные технологии

Опубликовано в Молодой учёный №51 (237) декабрь 2018 г.

Дата публикации: 20.12.2018

Статья просмотрена: 21 раз

Библиографическое описание:

Мирзохидов М. Х. Neural networks application for recognition of geometrical shapes // Молодой ученый. — 2018. — №51. — С. 14-17. — URL https://moluch.ru/archive/237/55036/ (дата обращения: 17.09.2019).



In the work, problem of object recognition by application of neural networks based on algorithm of backpropagation on the example of recognition of geometrical objects — triangles, rectangles and circles, was considered.

For the solution of the problem of recognition of geometrical shapes on multilayered perceptron network architecture it was used a backpropagation algorithm. Neural network is divided into input, hidden and output layers, which consist of 784, 300, 3 neurons respectively. Image 28x28 sized (matrix ) is used for the input. Neurons on the output layer provide the probability of the recognition. Learning the network is divided into several stages, which includes:

‒ Data submission to the input layer and getting an output;

‒ Calculating and propagating an appropriate error;

‒ Correction of the weights;

Implementation of the neural network using backpropagation algorithm was realized on Python. For learning of the neural network Keras library was used. As a result, learning coefficient on the output — 0.90. Subsequently, recognition probability equals to 90 %.

Let us take — an input vector of the learning data, — weights vector, each element of which corresponds to the each neuron, — vector of hidden neurons, — vector of output neurons, error information, — weight correction component of, bias, vector of target values.

Activation function

Activation function should be continuous, differential and monotonously decreasing. Let us consider binary sigmoid activation function with (0, 1) range, which can be defined by following formula:

Картинки по запросу бинарный сигмоид

Learning algorithm

  1. weights initialization between neurons

Weights initialization is set up stochastic and accepts discrete random variants from Normal distribution 1;

  1. Data distribution from the input towards to the output.

Each input neuron gets input signal. Firstly, signal quantity should be determined, which is the product of rows and cols of matrix I:

  1. Each input neuron transmits obtained input data to the all neurons on the hidden layer. Input data is the sum of all signals multiplied to appropriate weights:

  1. Each hidden neuron summarizes input signals and applies activation function:

(1)

= (2)

  1. Output neuron summarizes input signals, afterwards applies activation function. Once activation function is applied, output signal is calculated, which is get as following vector:

(1)

= (2)

During the learning of the neural network, each output neuron compares value of the output signal with the target value. Subsequently, error value is determined for each input neuron, which will be used for the weights correction.

Error backpropagation

  1. Each output neuron gets target value — correct value, which corresponds to the current input signal and calculates the coefficient of the error:

  1. Hidden neuron summarizes and calculates values of the error by calculating obtained value to derivative of activation function. Then calculates the value, which describes change of the weight:

Weights correction

  1. Each output neuron changes the values of its weights with hidden neurons;
  2. Each hidden neuron changes the values of its weights with output neurons.

Condition of work termination of an algorithm can be defined as achievement of total square error of result on the output of network of the minimum preset in advance during training process, and performance of a certain number of iterations of an algorithm.

The choice of initial weights will have an impact on whether the network will manage to reach a local minimum of an error, and how fast this process will happen. Change of weights between two neurons is connected from derivative of activation function of a neuron from the subsequent layer and activation function of a neuron of previous layer. In this regard, it is important to avoid the choice of such initial weights, which will nullify activation function or its derivative. On the other hand, if initial weight are too small, then the entrance signal on the hidden or output neurons will be close to zero that will also lead to very low speed of training.

References:

  1. Simon O. Haykin, Neural Networks and Learning Machines. — Third Edition, Pearson, 2008. — p. 129–140
  2. Luis Pedro Coelho, Willi Richert, Building Machine Learning Systems with Python. — Second Edition. — PACKT Publishing, 2015. — p. 65–66
Основные термины (генерируются автоматически): PACKT.


Похожие статьи

Особенности применения фильтров обработки изображений перед...

В статье рассматриваются особенности применения фильтров обработки изоб-ражений в целях улучшения качества перед поиском объектов на изображениях.

Метод распознавания шрифта текста с изображения

В настоящее время в интернете и социальных сетях прослеживается тенденция к передаче и обмену информацией с помощью цифровых изображений. В связи с этим большим спросом...

Моделирование технических систем в среде Unity 3D

В статье предложена концепция трёхмерного моделирования технических систем и процессов с помощью программных средств разработки компьютерных игр, одним из которых является...

Адаптивный дизайн веб-сайта с использованием...

В данной статье раскрывается понятие адаптивного дизайна как одного из процессов веб разработки. Даются определения разновидностей фронтэнд фреймворков, используемых в веб...

Маркетинг и публикация мобильных приложений на примере...

В статье рассматриваются предварительные действия разработчиков и способы публикации мобильных приложений. Можно пользоваться многими другими сторонними ресурсами по...

Автоматизированное добавление печатных штампов при помощи...

В статье рассматривается наиболее простой способ добавления печатных штампов в документ MS Word, а именно при помощи макроса, описанного на языке программирования Visual Basic...

Создание хранилища данных для распределённой системы

В данной работе рассматривается реализация модуля хранения данных в распределённой системе, решающей задачи хранения и анализа файлов, содержащих данные в виде текста.

Электронная обучающая среда как средство повышения...

10. Rice W., Nash S. S. Moodle 1.9 teaching techniques. Packt Publishing, 2010.

Модификация подсистемы контроля знаний LMS Moodle для...

7. Moore J., Churchward M. Moodle 1.9 Extension Development. Packt Publishing, 2010.

Обоснование необходимости восстановления посадочных...

Корпусные детали автомобилей являются базовыми деталями, от технического состояния которых зависит долговечность и надежность автомобиля в целом. Корпусная деталь, как...

Похожие статьи

Особенности применения фильтров обработки изображений перед...

В статье рассматриваются особенности применения фильтров обработки изоб-ражений в целях улучшения качества перед поиском объектов на изображениях.

Метод распознавания шрифта текста с изображения

В настоящее время в интернете и социальных сетях прослеживается тенденция к передаче и обмену информацией с помощью цифровых изображений. В связи с этим большим спросом...

Моделирование технических систем в среде Unity 3D

В статье предложена концепция трёхмерного моделирования технических систем и процессов с помощью программных средств разработки компьютерных игр, одним из которых является...

Адаптивный дизайн веб-сайта с использованием...

В данной статье раскрывается понятие адаптивного дизайна как одного из процессов веб разработки. Даются определения разновидностей фронтэнд фреймворков, используемых в веб...

Маркетинг и публикация мобильных приложений на примере...

В статье рассматриваются предварительные действия разработчиков и способы публикации мобильных приложений. Можно пользоваться многими другими сторонними ресурсами по...

Автоматизированное добавление печатных штампов при помощи...

В статье рассматривается наиболее простой способ добавления печатных штампов в документ MS Word, а именно при помощи макроса, описанного на языке программирования Visual Basic...

Создание хранилища данных для распределённой системы

В данной работе рассматривается реализация модуля хранения данных в распределённой системе, решающей задачи хранения и анализа файлов, содержащих данные в виде текста.

Электронная обучающая среда как средство повышения...

10. Rice W., Nash S. S. Moodle 1.9 teaching techniques. Packt Publishing, 2010.

Модификация подсистемы контроля знаний LMS Moodle для...

7. Moore J., Churchward M. Moodle 1.9 Extension Development. Packt Publishing, 2010.

Обоснование необходимости восстановления посадочных...

Корпусные детали автомобилей являются базовыми деталями, от технического состояния которых зависит долговечность и надежность автомобиля в целом. Корпусная деталь, как...

Задать вопрос