Применение технологий Big Data | Статья в журнале «Молодой ученый»

Отправьте статью сегодня! Журнал выйдет 4 мая, печатный экземпляр отправим 8 мая.

Опубликовать статью в журнале

Автор:

Рубрика: Информационные технологии

Опубликовано в Молодой учёный №46 (441) ноябрь 2022 г.

Дата публикации: 15.11.2022

Статья просмотрена: 269 раз

Библиографическое описание:

Черных, К. А. Применение технологий Big Data / К. А. Черных. — Текст : непосредственный // Молодой ученый. — 2022. — № 46 (441). — С. 8-11. — URL: https://moluch.ru/archive/441/96356/ (дата обращения: 26.04.2024).



На сегодняшний день объемы данных увеличиваются большими темпами. Чтобы как-то получить конкурентные преимущества, быстрее реагировать на изменения рынка и значительно улучшить эффективность, требуется проанализировать и обработать очень большое количество разной информации. Для взаимодействия с огромными объемами данных программисты нужно было улучшить инструменты для работы над анализом всех этих данных. Таким образом в начале 2000 годов появилось понятие Больших Данных (Big Data), которое вначале интересовало лишь очень узкий круг специалистов. Сейчас это слово знает каждый, кто интересуется сферой ИТ. Big Data становится всё более популярным и стратегически важным направлением развития IT. Глобальная информация всегда обладала исключительной важностью. Результаты обработки огромного количества информации используются для выявления тенденций и закономерностей. Для больших компаний статистика и анализ данных всегда лежали в основе для ведения бизнеса на крупных рынках, но с появлением огромного количества информации, аналитический подход стал намного более востребованным [1].

Цель исследования выявить преимущества и ограничения при использовании технологий Big Data, сделав особый акцент на оценку степени их влияния на управление инновациями и экономическую эффективность на сегодняшний день.

Объектом исследования является Big Data.

Предмет исследования — технологии применений Big Data.

Гипотеза исследования состоит в том, что применения технологий Big Data, будут успешным если проанализированы проблемы решения обработки больших объемов неструктурированных данных, обеспечена их систематизация в работе с огромными массивами информации.

Задачами исследования являются:

  1. Выявить возникновение и развитие применения технологий Big Data;
  2. Провести анализ применения технологий Big Data;
  3. Провести сравнительный анализ традиционной БД и Big Data;
  4. Рассмотреть сферы применения и использования Big Data;
  5. Изучить методы сбора данных Big Data.

В современном мире, одним из ключевых аспектов развития ИТ, являются «Большие данные». Это понятие имеет ввиду обработку информации разного состава и огромного объема, очень быстро обновляемой, находящейся в различных источниках для повышения эффективной работы, создания новых продуктов и увеличения конкурентной способности.

Следуя из этого, Большие Данные (Big Data) — во-первых набор технологий, инструментов, методов и подходов, предназначенных для решения проблемы обработки больших объемов данных, а во-вторых, под Big Data понимают объем данных, который невозможно обработать общепринятыми, то есть традиционными способами [4].

Технологии Big Data дают возможность обработать огромный объем неструктурированных данных, проанализировать их, систематизировать и выявить закономерности там, где человек бы их, не обнаружил. Главное заметить, что объемы обрабатываемых через Big Data данных непрерывно увеличиваются, как и увеличивается скорость обработки. Процесс развития этого направления соответствует современному миру, стремительному и инновационному.

Примеры использования Big Data :

– Для любой крупной компании Big Data позволяет анализировать доходы и расходы, а также детализировать сведения цепочки производства и логистику. Данные факторы помогают улучшить прогноз спроса на товар, сокращают расходы и простои.

– В медицине Big Data может помочь с анализом статистики использования лекарств, повышение эффективности предоставления услуг.

– Банки работая с транзакционной информацией, используют распределенные вычисления, что полезно для выявления мошенничества и улучшения работы сервисов.

– Госструктуры анализируют большие данные для повышения безопасности граждан и совершенствования городской инфраструктуры, улучшения работы сфер ЖКХ и общественного транспорта.

Это лишь часть сфер, где растет востребованность аналитики больших данных. В интересантах не только технические направления, но и медиа, маркетинг, социология, сфера найма, недвижимость.

Следуя из этого, Big Data — это уже устоявшаяся сфера технологий, даже несмотря на относительно молодой возраст, которая получает своё распространение почти во всех сферах бизнеса и имеет большую роль в развитии компании.

Технологии Big Data :

Используемые технологии для обработки и сбора Больших Данных, разделяются на три группы:

– Сервисные услуги;

– Оборудование;

– ПО.

Какого-то универсального инструментария работы с большими данными еще нет, но, невзирая на все трудности, для различных отраслей Big Data дают бесценные знания. К часто-используемым методам сбора данных относят следующие [4]:

Таблица 1. Методы сбора данных Big Data

Проблемы Big Data

Обычно выделяют 3 основных группы проблем системы Big Data — объем, скорость обработки и неструктурированность: V–Volume, Velocity и Variety.

Определенные условия нужны для хранения огромных объемах данных, и это вопрос пространства и возможностей. Скорость относится не только с медленной обработкой информации, которая вызвана старыми методами обработок, но также это еще вопрос взаимодействия — чем быстрее процесс, тем больше отдача, тем продуктивнее результат. Проблема неоднородности и неструктурированности появляется из-за разрозненности источников. Нужны определенные аналитические системы и инструменты, для эффективной обработки и объединения данных [1].

Другой проблемой может стать алгоритм анализа и выбор данных для обработки информации, так как нет конкретного понимания, какую информацию следует собирать и хранить, а какую можно исключать. Так же очевидно присутствует нехватка квалифицированных специалистов в данной области [1].

Заключение:

Исходя из всего вышесказанного, можно сделать следующие выводы: Технологии Big Data подразумевают работу с огромными массивами информации. Какого-то универсального метода обработки Big Data не существует, но есть возможность использования различных методов для частичного решения данной задачи. Успешное применение концепции Big Data на каком-либо предприятии может серьезно увеличить эффективность работы, стимулировать к созданию нового продукта. Разработка технологий обработки Big Data является очень перспективным направлением деятельности.

Литература:

  1. Веретенников А. В. BigData: анализ больших данных сегодня / Веретенников А. В. // Молодой ученый. 2017. № 32 С. 9–12.
  2. Федорова Л. А. Применение технологий big data в деятельности современных предприятий / Л. А. Федорова, Ху Гуйюй, Хуан Сяоянь // Вестник Алтайской академии экономики и права. 2020. № 9 С. 322–329.
  3. Петросян М. К. Большие данные (big data) и новые технологии будущего для обработки глобальной информации / М. К. Петросян, И. П. Михнев, А. А. Новикова // II Международная научно-практическая конференция «Научные исследования и современное образование». 2018. С. 1–8.
  4. Романенко Е. В. Место big data в современной социально-экономической жизни общества / Е. В. Романенко // Инновационная наука. 2016. № 4 С. 143–145.
  5. Абдыкаримова А. Т. BIG DATA: проблемы и технологии / А. Т. Абдыкаримова // Международный журнал гуманитарных и естественных наук. 2019. С. 55–57.
Основные термины (генерируются автоматически): данные, метод сбора данных, обработка информации, объем, объем данных, огромный массив информации, огромный объем данных, скорость обработки, современный мир.


Похожие статьи

Технологии обработки больших данных | Статья в журнале...

 Одно из стремительно развивающихся направлений IT-технологий — это большие данные — Big Data. И если само понятие возникло сравнительно давно, то понимание что это такое оформилось недавно. Оказалось, это не объёмы хранимых данных, точнее не только объемы.

Big Data. Особенности и роль в современном бизнесе

Целью обработки больших данных является получение новой информации.

Но не все абсолютно данные подлежат обработке с применением технологий big data.

Объем (от англ. volume). Данные измеряются величиной физического объема “документа”, который подлежит

Скорость (от англ. velocity). Данные не статичны в своем развитии, а постоянно прирастают.

BigData: анализ больших данных сегодня | Статья в журнале...

Если объем данных вырос в 2 раза, то и количество кластеров увеличивается в 2 раза.

Локальность данных: в больших системах данные распределены на большом количестве машин.

Технологии, используемые для сбора и обработки BigData, можно разделить на 3 группы

К наиболее распространенным подходам обработки данных (ПО) относятся

Обработка больших данных | Статья в журнале «Молодой ученый»

Скорость — в данном контексте относится к скорости генерации данных и обработки данных для удовлетворения потребностей и задач, стоящих на пути роста и развития. – Изменчивость — это фактор, который может стать проблемой для тех, кто анализирует данные.

Большие данные (Big Data) и наука о данных (Data Science)...

Ключевые слова: большие данные, наука о данных, машинное обучение, искусственные нейронные сети.

Для сбора и обработки больших данных разработаны специальные программные

Именно этот факт делает науку о данных важной для современного мира.

Интеллектуальный анализ данных использует методы ML для извлечения нетривиальной и...

Ключевые слова: Большие Данные, информация, анализ.

Под терминами «BigData», «Большие данные» или просто «биг дата» скрывается огромный набор информации, чьи масштабы, разнообразие и сложность которого требует новых архитектуры, методов, алгоритмов и средств анализов для управления ею.

Анализ больших данных как эффективное средство управления...

Западные компании, начиная с начала 21 века, осознали необходимость анализа имеющихся данных для повышения прибыли и приступили к внедрению и использованию средств анализа больших данных, в том числе, в целях анализа потребительского поведения.

Перспективы внедрения больших данных в бизнесе

Большие данные таят в себе огромный потенциал. 99,5 % собранных данных никогда не используются и не анализируются .

Идеально подходит для инженеров по обработке данных, разработчиков и аналитиков, он

Большие данные содержат длинный список статистических данных.

В огромном массиве данных, хранящихся в базах данных, скрыта информация...

Основные термины (генерируются автоматически): данные...

Большие Данные) — совокупность подходов, инструментов и методов обработки данных огромных объёмов, которые

‒ уметь работать с быстро поступающими данными в очень больших объемах.

MapReduce предполагает, что данные организованы в виде некоторых записей.

Так как объем информации столь велик, что обработка больших объемов данных.

Похожие статьи

Технологии обработки больших данных | Статья в журнале...

 Одно из стремительно развивающихся направлений IT-технологий — это большие данные — Big Data. И если само понятие возникло сравнительно давно, то понимание что это такое оформилось недавно. Оказалось, это не объёмы хранимых данных, точнее не только объемы.

Big Data. Особенности и роль в современном бизнесе

Целью обработки больших данных является получение новой информации.

Но не все абсолютно данные подлежат обработке с применением технологий big data.

Объем (от англ. volume). Данные измеряются величиной физического объема “документа”, который подлежит

Скорость (от англ. velocity). Данные не статичны в своем развитии, а постоянно прирастают.

BigData: анализ больших данных сегодня | Статья в журнале...

Если объем данных вырос в 2 раза, то и количество кластеров увеличивается в 2 раза.

Локальность данных: в больших системах данные распределены на большом количестве машин.

Технологии, используемые для сбора и обработки BigData, можно разделить на 3 группы

К наиболее распространенным подходам обработки данных (ПО) относятся

Обработка больших данных | Статья в журнале «Молодой ученый»

Скорость — в данном контексте относится к скорости генерации данных и обработки данных для удовлетворения потребностей и задач, стоящих на пути роста и развития. – Изменчивость — это фактор, который может стать проблемой для тех, кто анализирует данные.

Большие данные (Big Data) и наука о данных (Data Science)...

Ключевые слова: большие данные, наука о данных, машинное обучение, искусственные нейронные сети.

Для сбора и обработки больших данных разработаны специальные программные

Именно этот факт делает науку о данных важной для современного мира.

Интеллектуальный анализ данных использует методы ML для извлечения нетривиальной и...

Ключевые слова: Большие Данные, информация, анализ.

Под терминами «BigData», «Большие данные» или просто «биг дата» скрывается огромный набор информации, чьи масштабы, разнообразие и сложность которого требует новых архитектуры, методов, алгоритмов и средств анализов для управления ею.

Анализ больших данных как эффективное средство управления...

Западные компании, начиная с начала 21 века, осознали необходимость анализа имеющихся данных для повышения прибыли и приступили к внедрению и использованию средств анализа больших данных, в том числе, в целях анализа потребительского поведения.

Перспективы внедрения больших данных в бизнесе

Большие данные таят в себе огромный потенциал. 99,5 % собранных данных никогда не используются и не анализируются .

Идеально подходит для инженеров по обработке данных, разработчиков и аналитиков, он

Большие данные содержат длинный список статистических данных.

В огромном массиве данных, хранящихся в базах данных, скрыта информация...

Основные термины (генерируются автоматически): данные...

Большие Данные) — совокупность подходов, инструментов и методов обработки данных огромных объёмов, которые

‒ уметь работать с быстро поступающими данными в очень больших объемах.

MapReduce предполагает, что данные организованы в виде некоторых записей.

Так как объем информации столь велик, что обработка больших объемов данных.

Задать вопрос