Способы отслеживания нежелательного контента и их автоматизация | Статья в журнале «Молодой ученый»

Отправьте статью сегодня! Журнал выйдет 4 мая, печатный экземпляр отправим 8 мая.

Опубликовать статью в журнале

Автор:

Рубрика: Информационные технологии

Опубликовано в Молодой учёный №4 (399) январь 2022 г.

Дата публикации: 26.01.2022

Статья просмотрена: 142 раза

Библиографическое описание:

Клоков, С. А. Способы отслеживания нежелательного контента и их автоматизация / С. А. Клоков. — Текст : непосредственный // Молодой ученый. — 2022. — № 4 (399). — С. 18-22. — URL: https://moluch.ru/archive/399/88228/ (дата обращения: 25.04.2024).



В данной статье рассматриваются способы модерации контента, создаваемого пользователями, предлагается способ автоматизации данного процесса с целью выявления нежелательного контента в социальных сетях и форумах.

Ключевые слова: модерация, моделирование, BPMN, контент, информационная система

В современном мире постоянно публикуется огромное количество контента, создаваемого пользователями. Все больше модераторов необходимо, чтобы регулировать то, что создают пользователи, на данный процесс уходит огромное количество времени ежедневно. Существует два основных варианта модерации контента: после публикации и до публикации. Любой контент, проверяемый после публикации и нарушающий принципы сообщества или законодательства, имеет риск быть увиденным другими пользователями до удаления. Публикация контента после модерации позволяет избежать данных проблем, но она значительно замедляет создание контента. В данной работе проектируется программная система, которая нацелена на увеличение скорости публикации контента за счет ускорения прохождения процесса модерации контента перед публикацией. Также это может понизить затраты на заработную плату для модераторов в будущем.

Качественный, отобранный контент позволит повысить престиж в сети Интернет, привлечь новых пользователей, и что немаловажно, инвесторов.

Для проектирования системы модерации необходимо разработать схему в нотации BPMN. Business Process Management Notation — нотация для моделирования бизнес-процессов, которая используется для описания процессов нижнего уровня. В нотации выделяют пять основных категорий элементов, которые включают в себя элементы потока (события, процессы, шлюзы), данные (объекты данных и базы данных), соединяющие потоки (потоки управления, сообщений и ассоциации), зоны ответственности (пулы и дорожки) и артефакты (сноски).

На рисунках 1–2 представлен процесс прохождения модерации после внедрения системы. После того, как добавляется запись в базу данных записей на проверку, срабатывает триггер, система форума получает описание топика, в котором публикуется запись, получает запись на проверку, форматирует текст для проверки и отправляет в систему фильтрации. Система фильтрации проверяет содержание текста, если нарушения есть, то сохраняет их в базу данных нарушений. Если нарушения добавлены в базу данных, то система фильтрации формирует отчет, понятный для пользователя, отправляет его в хранилище отчетов и отменяет процесс публикации. Если нарушения не найдены, система форума проверяет, есть ли ссылки на прикрепленные файлы. Если ссылки отсутствуют, то публикуется записи, иначе система скачивает и подготавливает файлы для проверки. Далее система фильтрации проверяет файлы и сохраняет нарушения, если они присутствуют. Если нарушения есть, то система генерирует отчет, отправляя его в хранилище отчетов и отменяет публикацию. Иначе происходит публикация записи и процесс завершается успешно. После сохранения отчета в хранилище отчетов у системы отправки оповещений срабатывает триггер, она запрашивает отчет, готовит письмо о нарушениях и отправляет его. Данный процесс изображен на рисунке 3.

Процесс проверки содержания текста включает в себя Ad-Hoc процесс, в котором происходит проверка на соответствие закону об авторских правах, удаление нецензурной лексике, проверка соответствия теме. Далее происходит фиксация нарушений, если таковые были и процесс завершается. Данный процесс изображен на рисунке 4.

Процесс проверки файлов сначала проверяет файлы на вирусы. Если вирусы найдены, то процесс отменяется, а результаты проверки фиксируются в базе данных. Если вирусов нет, происходит проверка текстовых файлов на отсутствие авторских прав. Если авторские права нарушены, это фиксируется, а процесс завершается. Данный процесс изображен на рисунке 5.

Процесс проверки публикуемой записи в нотации BPMN. Часть 1

Рис. 1. Процесс проверки публикуемой записи в нотации BPMN. Часть 1

Процесс проверки публикуемой записи в нотации BPMN. Часть 2

Рис. 2. Процесс проверки публикуемой записи в нотации BPMN. Часть 2

Процесс оправки оповещений в нотации BPMN

Рис. 3. Процесс оправки оповещений в нотации BPMN

Декомпозиция процесса проверки содержания текста нотации BPMN

Рис. 4. Декомпозиция процесса проверки содержания текста нотации BPMN

Декомпозиция процесса проверки файлов в нотации BPMN

Рис. 5. Декомпозиция процесса проверки файлов в нотации BPMN

Данная работа внесет в имеющийся общий опыт то, что можно производить предварительную модерацию контента в больших социальных сетях и форумах. Это позволит уменьшить количество нежелательного текстового контента в сети, так как текущие системы в основном основываются на активных пользователях и работе модераторов, которые не так быстры, как автоматическая система.

Полученные результаты можно применить в большинстве существующих форумах, социальных сетях для разработки собственной системы предварительной модерации контента. Польза от разработки и внедрения данной системы в форум заключается в повышении качества контента для пользователей.

Литература:

  1. Миндалев, И. В. Моделирование бизнес-процессов с помощью IDEF0, DFD, BPMN за 7 дней: учеб. пособие / И. В. Миндалев. — Красноярск: Краснояр. гос. аграр. ун-т, 2018. — 123 c. — Текст: непосредственный.
  2. Долганова, О. И. Моделирование бизнес-процессов: учебник и практикум для академического бакалавриата / О. И. Долганова, E. В. Виноградова, А. М. Лобанова. — Москва: Юрайт, 2017. — 289 c. — Текст: непосредственный.
  3. Рочев, К. В. Информационные технологии. Анализ и проектирование информационных систем: учебное пособие / К. В. Рочев. — СПб: Лань, 2019. — 128 c. — Текст: непосредственный.
  4. Гвоздева, Т. В. Проектирование информационных систем: технология автоматизированного проектирования. Лабораторный практикум / Т. В. Гвоздева, Б. A. Баллод. — СПб: Лань, 2018. — 156 c. — Текст: непосредственный.
Основные термины (генерируются автоматически): BPMN, процесс, система фильтрации, баз данных, пользователь, хранилище отчетов, предварительная модерация контента, процесс проверки, публикуемая запись, система форума.


Похожие статьи

Создание BPM-системы на основе базы данных SQL при...

 Создание BPM системы на основе SQL базы данных при поддержке технологии REST API. Саркисова Ирина Олеговна, кандидат технических наук, доцент; Галиулин Фуркат Ринатович, студент магистратуры. ФГБОУ ВО «МГТУ «СТАНКИН» (г. Москва).

Объединяет идеи менеджмента бизнес-процессов и IT-среду для их изменения (специализированное программное обеспечение, BPM-система) с использованием BPMN-нотации [2].

На данном рисунке можно увидеть процесс автоматизации по шагам небольшого бизнес-процесса, который выполняет выгрузку данных по компании, выполняет роль DSS системы, которая хранит в себе логику решений и проверки данных решений, так же при этом в данной системе возможна реализация функций, необходимый для аналитиков, верификаторов, опер блока и т. д. Все это зависит от построенной схемы карты, ее шагов.

Обзор существующих инструментов для моделирования...

Ключевые слова: моделирование бизнес-процессов, BPMN, DFD, EPC. Одним из самых важных условий успешного управления предприятия является своевременная реорганизация процессов функционирования. Она позволяет создать упорядоченную и формализованную систему управления предприятия.

Программа «Business Studio» — это разработка, предназначенная для комплексной работы с бизнес-процессами, а также для формирования различных документов, отчетов, бизнес-моделей и многого другого. Продукт полностью локализован на русском языке, что делает очень удобной работу для русскоговорящих специалистов.

Целью приводимой методологии DFD - моделирования является преобразование общих знаний и требований к потокам данных регионального промышленного кластера в по-возможности точные определения за счет интеграции потоков данных, хранилищ и процессов в единую...

Функциональная модель процесса «Хирургическое лечение»

Компьютерные системы, основанные на процессном подходе к управлению бизнес-системами, получили название BPM- системы. В статье, на примере одного из ключевых бизнес-процессов «Хирургическое лечение» показаны возможности реализации концепции BPM в части моделирования с целью повышения эффективности процесса. Моделирование выполнено в нотации BPMN, в новом стандарте для моделирования бизнес-процессов и сетевых услуг в

Каждая из функциональных областей не заинтересована в общих результатах, поскольку системы их оценки оторваны от результатов компании в целом. Чем автономнее области, тем выше расходы на согласование управляющих и координирующих воздействий между ними, соответственно увеличивается время принятия решения и усложняется процесс обмена информацией. Здравоохранение это такая сфера, в которой пересекаются, фокусируются и...

Обзор основных технологий контент-менеджмент системы Adobe...

Ключевые слова: контент-менеджмент система, apache foundation, репозиторий контента, модульное приложение, иерархическое хранилище данных. Введение. Adobe Experience Manager — это веб-ориентированная клиент-серверная система для построения, администрирования и развёртывания коммерческих веб-сайтов и связанных с ними сервисов.

Публикация/Снятие с публикации — это главные термины действий, которые делают контент публично доступным для посетителей на publish окружении (либо, наоборот, прекращают доступ к нему)

Рассмотренные технологии представляют собой базу контент-менеджмент системы Adobe Experience Manager. За годы использования сообществом разработчиков, технологии зарекомендовали себя как максимально более подходящие для конкретной контент-менеджмент системы.

Использование Big Data в управлении взаимоотношениями...

В этом случае сбор данных превращается в процесс получения исключительно нужной для решения конкретных задач информации. Например, у телекоммуникационных провайдеров агрегируется огромное количество данных, в том числе о геолокации, которые постоянно пополняются.

Во-первых, необходимо определить одну конкретную задачу бизнеса, для решения которой будут использоваться технологии Big Data, эта задача станет стержнем определения верности выбранной концепции. Необходимо сосредоточиться на сборе данных, связанных именно с этой задачей, а в ходе проверки концепции вы сможете использовать различные инструменты, процессы и методы управления, которые позволят принимать более обоснованные решения в будущем.

Разработка сервис-ориентированной архитектуры в ИСЭРТ РАН

БДбаза данных, необходимая для функционирования системы ИСУ РНИД. Программная часть (PHP-код, выполняющийся на сервере) обрабатывает входящие запросы пользователей, адресует запросы к БД, веб-сервису, обрабатывает результаты этих запросов и предоставляет результаты работы системы в удобном для пользователя виде.

Та часть данных, которая является общей для всех (или большинства) программных систем ИСЭРТ РАН предоставляется веб-сервисами, а специализированные данные, необходимые для работы конкретной программной системы (в данном случае ИСУ РНИД) оформлены в виде отдельной базы данных. Часть запросов к этой базе данных необходимо формировать на основе данных, получаемых от веб-сервиса, т. е. они будут зависимыми от веб-сервиса.

Типы требований к Web-приложению для обработки...

§ требования к системе хранения данных – выбор СУБД будет влиять на уровень производительности приложения, затраты на обслуживание, объемы данных с которыми сможет оперировать система

- участие в жизненном цикле различного как программно-аппаратного обеспечения, так и проектного и эксплуатирующего персонала. Формирование навыков аналитики IT-специальностей... ...на основе Unified Modeling Language (UML) и Business Process Model and Notation (BMPN), документирования процессов разработки и их. - выявлять требования пользователей; - осуществлять разработку качественных требований к программному продукту, задавать...

Проблемы внедрения автоматизированной информационной...

Слабая проработка данных вопросов влечет за собой не результативность работы системы. Организация автоматизированного рабочего места, по мнению некоторых руководителей учреждения, не главная задача при внедрении автоматизированной информационной системы, однако именно эти «мелочи» становятся решающими в деле повышения эффективности процессов организации.

Кроме того, следует четко распределить прямые обязанности и сферы ответственности среди работников всех отделов, привлеченных к внедрению. Еще несколько трудностей могут возникнуть в процессе внедрения АИС. Среди них недостаточная проработанность внутрикорпоративных документов, регламентирующих процессы работы с АИС в организации и слабое внимание со стороны руководства к вопросам обучения конечных пользователей.

Анализ комплексных программных решений, реализующих...

- Система управления бизнес-процессами (Business Process Management, BPM). Наличие модульной структуры в решение «Галактика Business Suite» позволяет предприятию приобретать исключительно необходимые в данный момент элементы системы и по мере развития организации, с появлением новых задач управления, докупать нужные компоненты системы. Рассматриваемая ERP-система «Галактика Business Suite» построена на базе инструментария, ориентированного на разработку реляционных баз данных, а так же пользовательских интерфейсов и отчетов, называемого «Средство разработки Атлантис». «Атлантис» дает возможность создавать многоуровневые и распределенные приложения с открытыми стандартами взаимодействия, а так же осуществлять доработку системы согласно предъявляемым требованиям при внедрении на предприятие.

Похожие статьи

Создание BPM-системы на основе базы данных SQL при...

 Создание BPM системы на основе SQL базы данных при поддержке технологии REST API. Саркисова Ирина Олеговна, кандидат технических наук, доцент; Галиулин Фуркат Ринатович, студент магистратуры. ФГБОУ ВО «МГТУ «СТАНКИН» (г. Москва).

Объединяет идеи менеджмента бизнес-процессов и IT-среду для их изменения (специализированное программное обеспечение, BPM-система) с использованием BPMN-нотации [2].

На данном рисунке можно увидеть процесс автоматизации по шагам небольшого бизнес-процесса, который выполняет выгрузку данных по компании, выполняет роль DSS системы, которая хранит в себе логику решений и проверки данных решений, так же при этом в данной системе возможна реализация функций, необходимый для аналитиков, верификаторов, опер блока и т. д. Все это зависит от построенной схемы карты, ее шагов.

Обзор существующих инструментов для моделирования...

Ключевые слова: моделирование бизнес-процессов, BPMN, DFD, EPC. Одним из самых важных условий успешного управления предприятия является своевременная реорганизация процессов функционирования. Она позволяет создать упорядоченную и формализованную систему управления предприятия.

Программа «Business Studio» — это разработка, предназначенная для комплексной работы с бизнес-процессами, а также для формирования различных документов, отчетов, бизнес-моделей и многого другого. Продукт полностью локализован на русском языке, что делает очень удобной работу для русскоговорящих специалистов.

Целью приводимой методологии DFD - моделирования является преобразование общих знаний и требований к потокам данных регионального промышленного кластера в по-возможности точные определения за счет интеграции потоков данных, хранилищ и процессов в единую...

Функциональная модель процесса «Хирургическое лечение»

Компьютерные системы, основанные на процессном подходе к управлению бизнес-системами, получили название BPM- системы. В статье, на примере одного из ключевых бизнес-процессов «Хирургическое лечение» показаны возможности реализации концепции BPM в части моделирования с целью повышения эффективности процесса. Моделирование выполнено в нотации BPMN, в новом стандарте для моделирования бизнес-процессов и сетевых услуг в

Каждая из функциональных областей не заинтересована в общих результатах, поскольку системы их оценки оторваны от результатов компании в целом. Чем автономнее области, тем выше расходы на согласование управляющих и координирующих воздействий между ними, соответственно увеличивается время принятия решения и усложняется процесс обмена информацией. Здравоохранение это такая сфера, в которой пересекаются, фокусируются и...

Обзор основных технологий контент-менеджмент системы Adobe...

Ключевые слова: контент-менеджмент система, apache foundation, репозиторий контента, модульное приложение, иерархическое хранилище данных. Введение. Adobe Experience Manager — это веб-ориентированная клиент-серверная система для построения, администрирования и развёртывания коммерческих веб-сайтов и связанных с ними сервисов.

Публикация/Снятие с публикации — это главные термины действий, которые делают контент публично доступным для посетителей на publish окружении (либо, наоборот, прекращают доступ к нему)

Рассмотренные технологии представляют собой базу контент-менеджмент системы Adobe Experience Manager. За годы использования сообществом разработчиков, технологии зарекомендовали себя как максимально более подходящие для конкретной контент-менеджмент системы.

Использование Big Data в управлении взаимоотношениями...

В этом случае сбор данных превращается в процесс получения исключительно нужной для решения конкретных задач информации. Например, у телекоммуникационных провайдеров агрегируется огромное количество данных, в том числе о геолокации, которые постоянно пополняются.

Во-первых, необходимо определить одну конкретную задачу бизнеса, для решения которой будут использоваться технологии Big Data, эта задача станет стержнем определения верности выбранной концепции. Необходимо сосредоточиться на сборе данных, связанных именно с этой задачей, а в ходе проверки концепции вы сможете использовать различные инструменты, процессы и методы управления, которые позволят принимать более обоснованные решения в будущем.

Разработка сервис-ориентированной архитектуры в ИСЭРТ РАН

БДбаза данных, необходимая для функционирования системы ИСУ РНИД. Программная часть (PHP-код, выполняющийся на сервере) обрабатывает входящие запросы пользователей, адресует запросы к БД, веб-сервису, обрабатывает результаты этих запросов и предоставляет результаты работы системы в удобном для пользователя виде.

Та часть данных, которая является общей для всех (или большинства) программных систем ИСЭРТ РАН предоставляется веб-сервисами, а специализированные данные, необходимые для работы конкретной программной системы (в данном случае ИСУ РНИД) оформлены в виде отдельной базы данных. Часть запросов к этой базе данных необходимо формировать на основе данных, получаемых от веб-сервиса, т. е. они будут зависимыми от веб-сервиса.

Типы требований к Web-приложению для обработки...

§ требования к системе хранения данных – выбор СУБД будет влиять на уровень производительности приложения, затраты на обслуживание, объемы данных с которыми сможет оперировать система

- участие в жизненном цикле различного как программно-аппаратного обеспечения, так и проектного и эксплуатирующего персонала. Формирование навыков аналитики IT-специальностей... ...на основе Unified Modeling Language (UML) и Business Process Model and Notation (BMPN), документирования процессов разработки и их. - выявлять требования пользователей; - осуществлять разработку качественных требований к программному продукту, задавать...

Проблемы внедрения автоматизированной информационной...

Слабая проработка данных вопросов влечет за собой не результативность работы системы. Организация автоматизированного рабочего места, по мнению некоторых руководителей учреждения, не главная задача при внедрении автоматизированной информационной системы, однако именно эти «мелочи» становятся решающими в деле повышения эффективности процессов организации.

Кроме того, следует четко распределить прямые обязанности и сферы ответственности среди работников всех отделов, привлеченных к внедрению. Еще несколько трудностей могут возникнуть в процессе внедрения АИС. Среди них недостаточная проработанность внутрикорпоративных документов, регламентирующих процессы работы с АИС в организации и слабое внимание со стороны руководства к вопросам обучения конечных пользователей.

Анализ комплексных программных решений, реализующих...

- Система управления бизнес-процессами (Business Process Management, BPM). Наличие модульной структуры в решение «Галактика Business Suite» позволяет предприятию приобретать исключительно необходимые в данный момент элементы системы и по мере развития организации, с появлением новых задач управления, докупать нужные компоненты системы. Рассматриваемая ERP-система «Галактика Business Suite» построена на базе инструментария, ориентированного на разработку реляционных баз данных, а так же пользовательских интерфейсов и отчетов, называемого «Средство разработки Атлантис». «Атлантис» дает возможность создавать многоуровневые и распределенные приложения с открытыми стандартами взаимодействия, а так же осуществлять доработку системы согласно предъявляемым требованиям при внедрении на предприятие.

Задать вопрос