BigData: анализ больших данных сегодня | Статья в журнале «Молодой ученый»

Автор:

Рубрика: Информатика

Опубликовано в Молодой учёный №32 (166) август 2017 г.

Дата публикации: 10.08.2017

Статья просмотрена: 1716 раз

Библиографическое описание:

Веретенников А. В. BigData: анализ больших данных сегодня // Молодой ученый. — 2017. — №32. — С. 9-12. — URL https://moluch.ru/archive/166/45354/ (дата обращения: 15.12.2018).



В данной статье рассматривается, что такое BigData, текущее положения дел, перспективы развития.

Ключевые слова: big data, BigData, ИТ, информация, обработка, анализ, данные, систематизация, развитие

В текущее время объемы информации растут по экспоненте. Для того чтобы быстрее реагировать на изменения рынка, получить конкурентные преимущества, повысить эффективность производства нужно получить, обработать и проанализировать огромное количество данных.

Для работы с такими объемами информации инженеры были вынуждены модернизировать инструменты для работы над анализом всех данных. Так в 2000-х годах сформировалось понятие BigData, которое было интересно лишь узкому кругу специалистов. Сейчас это слово на слуху у любого, кто интересуется сферой информационных технологий. И это определение, а точнее направление развития ИТ, становится крайне популярным и стратегически важным в последнее время.

Технологии BigData позволяют обработать большой объем неструктурированных данных, систематизировать их, проанализировать и выявить закономерности там, где человеческий мозг никогда бы их не заметил. Это открывает совершенно новые возможности по использованию данных.

Само понятие BigData означает не просто большие пласты данных. Это огромные хранимые и обрабатываемые массивы из сотен гигабайт, и даже петабайт данных. Данных, которые можно обработать и извлечь из них некоторое количество полезной информации. Говоря коротко, можно определить BigData как совокупность технологий обработки информации для получения информации.

Важно заметить, объемы обрабатываемых через BigData данных постоянно растут, также, как и растет скорость ее обработки. Развитие этого направления вполне соответствует современному миру, стремительному и инновационному.

С развитием BigData развивались и технологии, и наоборот. На текущий момент, BigData удел не только гигантов IT мира. Это направление, благодаря таким решениям как Hadoop от Apache Software Foundation, набору облачных сервисов от IBM, Amazon, Google становится доступным практически любым компаниям, работающим в сфере ИТ. А такие решения как Clickhouse, Cassandra, InfluxDB позволяют войти в сферу работы с BigData даже отдельным персонам.

Использование BigData на сегодняшний день становится обязательным условием для развития крупных ИТ компаний. Без анализа поведения своих пользователей, без возможности прогнозирования, руководствуясь только опытом и интуицией, уже крайне сложно оставаться конкурентоспособным. Настроенная и работающая система BigData способна в секунды предоставить ценнейшую информацию, полученную из анализа миллиардов действий клиентов компании.

В текущем бизнесе уже зародилось понятие Data Driven Managment, которое подразумевает управление компанией исходя строго из анализа данных. И такие способы управления показывают блестящие результаты. Facebook, Google, Мейл.ру, Яндекс уже давно используют аналитику для принятия решений. На сегодняшний момент в BigData заинтересован и традиционный бизнес, представители которого нуждаются в новых инструментах повышения эффективности.

Основные принципы работы с BigData.

  1. Горизонтальная масштабируемость: так как данных может быть много, то и система, в которой они хранятся должна быть расширяемой. Если объем данных вырос в 2 раза, то и количество кластеров увеличивается в 2 раза.
  2. Отказоустойчивость: горизонтальная масштабируемость подразумевает тот факт, что машин в кластере большое количество. И естественно эти машины будут по тем или иным причинам выходить из строя. К примеру, Hadoop-кластер Yahoo насчитывает более 42000 машин. Методы работы с BigData должны учитывать этот фактор и продолжать работать без видимых потерь.
  3. Локальность данных: в больших системах данные распределены на большом количестве машин. Если данные находятся на одной машине, а обрабатываются на другой, то расходы на передачу этих данных могут и вовсе превысить расходы на обработку. Поэтому важным вопросом в проектировании BigData стоит принцип локальности данных, обработке информации там же, где она хранится.

Сферы применения BigData

Сфера использования технологий BigData обширна. Так, с помощью BigData можно узнать о предпочтениях клиентов, об эффективности маркетинговых кампаний или провести анализ рисков. Ниже представлены результаты опроса IBM Institute, о направлениях использования BigData в компаниях.

Как видно из диаграммы, большинство компаний используют BigData в сфере клиентского сервиса, второе по популярности направление — операционная эффективность, в сфере управления рисками BigData менее распространены на текущий момент.

Следует также отметить, что BigData являются одной из самых быстрорастущих сфер информационных технологий, согласно статистике, общий объем получаемых и хранимых данных удваивается каждые 1-2 года.

За период с 2012 по 2014 год количество данных, ежемесячно передаваемых мобильными сетями, выросло на 81 %. По оценкам Cisco, в 2014 году объем мобильного трафика составил 2,5 эксабайта (единица измерения количества информации, равная 10^18 стандартным байтам) в месяц, а уже в 2019 году он будет равен 24,3 эксабайтам.

Таким образом, BigData — это уже устоявшаяся сфера технологий, даже несмотря на относительно молодой ее возраст, получившая распространение во многих сферах бизнеса и играющая немаловажную роль в развитии компаний.

Технологии BigData

Технологии, используемые для сбора и обработки BigData, можно разделить на 3 группы:

– Программное обеспечение;

– Оборудование;

– Сервисные услуги.

К наиболее распространенным подходам обработки данных (ПО) относятся:

SQL — язык структурированных запросов, позволяющий работать с базами данных. С помощью SQL можно создавать и модифицировать данные, а управлением массива данных занимается соответствующая система управления базами данных.

NoSQL термин расшифровывается как Not Only SQL (не только SQL). Включает в себя ряд подходов, направленных на реализацию базы данных, имеющих отличия от моделей, используемых в традиционных, реляционных СУБД. Их удобно использовать при постоянно меняющейся структуре данных. Например, для сбора и хранения информации в социальных сетях.

MapReduce — модель распределения вычислений. Используется для параллельных вычислений над очень большими наборами данных (петабайты* и более). В программном интерфейсе не данные передаются на обработку программе, а программа — данным. Таким образом запрос представляет собой отдельную программу. Принцип работы заключается в последовательной обработке данных двумя методами Map и Reduce. Map выбирает предварительные данные, Reduce агрегирует их.

Hadoop — используется для реализации поисковых и контекстных механизмов высоконагруженных сайтов — Facebook, eBay, Amazon и др. Отличительной особенностью является то, что система защищена от выхода из строя любого из узлов кластера, так как каждый блок имеет, как минимум, одну копию данных на другом узле.

SAP HANA — высокопроизводительная NewSQL платформа для хранения и обработки данных. Обеспечивает высокую скорость обработки запросов. Еще одним отличительным признаком является то, что SAP HANA упрощает системный ландшафт, уменьшая затраты на поддержку аналитических систем.

Проблемы BigData

Проблемы системы BigData можно свести к трем основным группам: объем, скорость обработки, неструктурированность. Это три V — Volume, Velocity и Variety.

Хранение больших объемов информации требует специальных условий, и это вопрос пространства и возможностей. Скорость связана не только с возможным замедлением и «торможением», вызываемом старыми методами обработок, это еще и вопрос интерактивности: чем быстрее процесс, тем больше отдача, тем продуктивнее результат.

Проблема неоднородности и неструктурированности возникает по причине разрозненности источников, форматов и качества. Чтобы объединить данные и эффективно их обрабатывать, требуется не только работа по приведению их в пригодный для работы вид, но и определенные аналитические инструменты (системы).

Но это еще не все. Существует проблема предела «величины» данных. Ее трудно установить, а значит трудно предугадать, какие технологии и сколько финансовых вливаний потребуется для дальнейших разработок. Ресурсы не бесконечны, хранение всех возможных данных в какой-то момент становится нецелесообразным. И встает необходимость отказа от части данных.

Собственно, это и является главной причиной отсрочки внедрения в компании проектов BigData (если не брать во внимание еще один фактор — довольно высокую стоимость).

Подбор данных для обработки и алгоритм анализа может стать не меньшей проблемой, так как отсутствует понимание, какие данные следует собирать и хранить, а какие можно игнорировать. Становится очевидной еще одна «болевая точка» отрасли — нехватка профессиональных специалистов, которым можно было бы доверить глубинный анализ, создание отчетов для решения бизнес-задач и как следствие извлечение прибыли (возврат инвестиций) из BigData.

Еще одна проблема BigData носит этический характер. А именно: чем сбор данных (особенно без ведома пользователя) отличается от нарушения границ частной жизни? Так, информация, сохраняемая в поисковых системах Google и Яндекс, позволяет им постоянно дорабатывать свои сервисы, делать их удобными для пользователей и создавать новые интерактивные программы.

Поисковики записывают каждый клик пользователя в Интернете, им известен его IP-адрес, геолокация, интересы, онлайн-покупки, личные данные, почтовые сообщения и прочее, что, к примеру, позволяет демонстрировать контекстную рекламу в соответствии с поведением пользователя в Интернете. При этом согласия на это не спрашивается, а возможности выбора, какие сведения о себе предоставлять, не дается. То есть по умолчанию в BigData собирается все, что затем будет храниться на серверах данных сайтов.

Здесь можно затронуть другую проблему — обеспечение безопасности хранения и использования данных. Например, сведения о возможных покупателях и их история переходов на сайтах интернет-магазинов однозначно применимы для решения многих бизнес-задач. Но безопасна ли аналитическая платформа, которой потребители в автоматическом режиме (просто потому, что зашли на сайт) передают свои данные, — это вызывает множество споров. Современную вирусную активность и хакерские атаки не сдерживают даже супер-защищенные серверы правительственных спецслужб.

Заключение.

BigData открывает перед нами новые горизонты в планировании производства, образовании, здравоохранении и других отраслях. Если их развитие будет продолжаться, то технологии BigData могут поднять информацию, как фактор производства, на совершенно новый качественный уровень. Информация станет не только равноценна труду и капиталу, но и возможно станет наиважнейшим ресурсом современной экономики.

Литература:

1. Что такое Big Data (BigData) в маркетинге: проблемы, алгоритмы, методы анализа // Landing Page Generator — платформа создания и оптимизации посадочных страниц. URL: http://lpgenerator.ru/blog/2015/11/17/chto-takoe-big-data-bolshie-dannye-v-marketinge-problemy-algoritmy-metody-analiza/ (дата обращения: 8.08.2017).

2. Big Data от А до Я. Часть 1: Принципы работы с большими данными, парадигма MapReduce // Хабрахабр. URL: https://habrahabr.ru/company/dca/blog/267361/ (дата обращения: 8.08.2017).

3. Аналитический обзор рынка Big Data // Хабрахабр. URL: https://habrahabr.ru/company/moex/blog/256747/ (дата обращения: 8.08.2017).

Основные термины (генерируются автоматически): данные, SQL, HANA, SAP, IBM, объем информации, баз данных, информация, использование данных, текущий момент.


Похожие статьи

Термин Big Data и способы его применения | Статья в журнале...

Ключевые слова: Большие Данные, информация, анализ.

Так как объем информации столь велик, что обработка больших объемов данных стандартными программными и аппаратными средствами представляется крайне сложной.

Введение в Big Data | Статья в журнале «Молодой ученый»

Разумеется, когда база данных имеет сравнительно небольшой объём, а вычислительных средства справляются с их обработкой, то никаких новых проблем не возникает, но со стремительным ростом объёмов информации появляется необходимость в новых...

Сравнительная характеристика ERP-систем SAP и Oracle

SAP HANA (High Performance Analytic Appliance). СУБД. 2012.03. Novum (банк).

Компания специализируется на выпуске систем управления базами данных, связующего программного обеспечения и бизнес-приложений.

Начало работы с IBM Data Studio | Статья в журнале...

IBM, JDBC, SQL, баз данных, база данных, полный клиент, профиль подключения, соединение, создание нового.

Сравнение производительности ORM-библиотек как критерия...

Использование реляционной базы данных для хранения

Системы управления реляционными базами данных (СУБД) показывают хорошую производительность на глобальных запросах, которые захватывают одновременно большой объем данных.

Выбор SQL Server для медицинского учреждения

безопасность хранения информации. На сегодня известно большое число различных серверов баз данных SQL. Остановимся более подробно на следующих трех ведущих серверных СУБД — Oracle Database, Microsoft SQL Server и PostgreSQL Pro...

Технологии обработки больших данных | Статья в журнале...

данные, SQL, обычный компьютер, личная информация, язык запросов, ETL, ELT, баз данных, HDFS, реляционная база данных. Похожие статьи. Статистические методы обработки экспериментальных данных в...

Использование современных СУБД в информационных системах...

В различных сферах человеческой деятельности широкое распространение получили технологии, использующие базы данных для систематизации и хранения производственной информации.

Использование Big Data в управлении взаимоотношениями...

Что же такое «большие данные»? Казалось бы, ответ на этот вопрос лежит в названии

Важную роль играет культура использования данных, так как часто анализ информации

В ФНС России в настоящий момент идет создание аналитического слоя федерального...

Термин Big Data и способы его применения | Статья в журнале...

Ключевые слова: Большие Данные, информация, анализ.

Так как объем информации столь велик, что обработка больших объемов данных стандартными программными и аппаратными средствами представляется крайне сложной.

Введение в Big Data | Статья в журнале «Молодой ученый»

Разумеется, когда база данных имеет сравнительно небольшой объём, а вычислительных средства справляются с их обработкой, то никаких новых проблем не возникает, но со стремительным ростом объёмов информации появляется необходимость в новых...

Сравнительная характеристика ERP-систем SAP и Oracle

SAP HANA (High Performance Analytic Appliance). СУБД. 2012.03. Novum (банк).

Компания специализируется на выпуске систем управления базами данных, связующего программного обеспечения и бизнес-приложений.

Начало работы с IBM Data Studio | Статья в журнале...

IBM, JDBC, SQL, баз данных, база данных, полный клиент, профиль подключения, соединение, создание нового.

Сравнение производительности ORM-библиотек как критерия...

Использование реляционной базы данных для хранения

Системы управления реляционными базами данных (СУБД) показывают хорошую производительность на глобальных запросах, которые захватывают одновременно большой объем данных.

Выбор SQL Server для медицинского учреждения

безопасность хранения информации. На сегодня известно большое число различных серверов баз данных SQL. Остановимся более подробно на следующих трех ведущих серверных СУБД — Oracle Database, Microsoft SQL Server и PostgreSQL Pro...

Технологии обработки больших данных | Статья в журнале...

данные, SQL, обычный компьютер, личная информация, язык запросов, ETL, ELT, баз данных, HDFS, реляционная база данных. Похожие статьи. Статистические методы обработки экспериментальных данных в...

Использование современных СУБД в информационных системах...

В различных сферах человеческой деятельности широкое распространение получили технологии, использующие базы данных для систематизации и хранения производственной информации.

Использование Big Data в управлении взаимоотношениями...

Что же такое «большие данные»? Казалось бы, ответ на этот вопрос лежит в названии

Важную роль играет культура использования данных, так как часто анализ информации

В ФНС России в настоящий момент идет создание аналитического слоя федерального...

Обсуждение

Социальные комментарии Cackle

Похожие статьи

Термин Big Data и способы его применения | Статья в журнале...

Ключевые слова: Большие Данные, информация, анализ.

Так как объем информации столь велик, что обработка больших объемов данных стандартными программными и аппаратными средствами представляется крайне сложной.

Введение в Big Data | Статья в журнале «Молодой ученый»

Разумеется, когда база данных имеет сравнительно небольшой объём, а вычислительных средства справляются с их обработкой, то никаких новых проблем не возникает, но со стремительным ростом объёмов информации появляется необходимость в новых...

Сравнительная характеристика ERP-систем SAP и Oracle

SAP HANA (High Performance Analytic Appliance). СУБД. 2012.03. Novum (банк).

Компания специализируется на выпуске систем управления базами данных, связующего программного обеспечения и бизнес-приложений.

Начало работы с IBM Data Studio | Статья в журнале...

IBM, JDBC, SQL, баз данных, база данных, полный клиент, профиль подключения, соединение, создание нового.

Сравнение производительности ORM-библиотек как критерия...

Использование реляционной базы данных для хранения

Системы управления реляционными базами данных (СУБД) показывают хорошую производительность на глобальных запросах, которые захватывают одновременно большой объем данных.

Выбор SQL Server для медицинского учреждения

безопасность хранения информации. На сегодня известно большое число различных серверов баз данных SQL. Остановимся более подробно на следующих трех ведущих серверных СУБД — Oracle Database, Microsoft SQL Server и PostgreSQL Pro...

Технологии обработки больших данных | Статья в журнале...

данные, SQL, обычный компьютер, личная информация, язык запросов, ETL, ELT, баз данных, HDFS, реляционная база данных. Похожие статьи. Статистические методы обработки экспериментальных данных в...

Использование современных СУБД в информационных системах...

В различных сферах человеческой деятельности широкое распространение получили технологии, использующие базы данных для систематизации и хранения производственной информации.

Использование Big Data в управлении взаимоотношениями...

Что же такое «большие данные»? Казалось бы, ответ на этот вопрос лежит в названии

Важную роль играет культура использования данных, так как часто анализ информации

В ФНС России в настоящий момент идет создание аналитического слоя федерального...

Термин Big Data и способы его применения | Статья в журнале...

Ключевые слова: Большие Данные, информация, анализ.

Так как объем информации столь велик, что обработка больших объемов данных стандартными программными и аппаратными средствами представляется крайне сложной.

Введение в Big Data | Статья в журнале «Молодой ученый»

Разумеется, когда база данных имеет сравнительно небольшой объём, а вычислительных средства справляются с их обработкой, то никаких новых проблем не возникает, но со стремительным ростом объёмов информации появляется необходимость в новых...

Сравнительная характеристика ERP-систем SAP и Oracle

SAP HANA (High Performance Analytic Appliance). СУБД. 2012.03. Novum (банк).

Компания специализируется на выпуске систем управления базами данных, связующего программного обеспечения и бизнес-приложений.

Начало работы с IBM Data Studio | Статья в журнале...

IBM, JDBC, SQL, баз данных, база данных, полный клиент, профиль подключения, соединение, создание нового.

Сравнение производительности ORM-библиотек как критерия...

Использование реляционной базы данных для хранения

Системы управления реляционными базами данных (СУБД) показывают хорошую производительность на глобальных запросах, которые захватывают одновременно большой объем данных.

Выбор SQL Server для медицинского учреждения

безопасность хранения информации. На сегодня известно большое число различных серверов баз данных SQL. Остановимся более подробно на следующих трех ведущих серверных СУБД — Oracle Database, Microsoft SQL Server и PostgreSQL Pro...

Технологии обработки больших данных | Статья в журнале...

данные, SQL, обычный компьютер, личная информация, язык запросов, ETL, ELT, баз данных, HDFS, реляционная база данных. Похожие статьи. Статистические методы обработки экспериментальных данных в...

Использование современных СУБД в информационных системах...

В различных сферах человеческой деятельности широкое распространение получили технологии, использующие базы данных для систематизации и хранения производственной информации.

Использование Big Data в управлении взаимоотношениями...

Что же такое «большие данные»? Казалось бы, ответ на этот вопрос лежит в названии

Важную роль играет культура использования данных, так как часто анализ информации

В ФНС России в настоящий момент идет создание аналитического слоя федерального...

Задать вопрос