Права человека в контексте разработки и применения систем искусственного интеллекта | Статья в журнале «Молодой ученый»

Отправьте статью сегодня! Журнал выйдет 6 марта, печатный экземпляр отправим 10 марта.

Опубликовать статью в журнале

Автор:

Рубрика: Юриспруденция

Опубликовано в Молодой учёный №28 (266) июль 2019 г.

Дата публикации: 16.07.2019

Статья просмотрена: 183 раза

Библиографическое описание:

Хашин, Д. О. Права человека в контексте разработки и применения систем искусственного интеллекта / Д. О. Хашин. — Текст : непосредственный // Молодой ученый. — 2019. — № 28 (266). — С. 156-158. — URL: https://moluch.ru/archive/266/61639/ (дата обращения: 26.02.2021).



На протяжении долгого времени права человека находятся в центре внимания философских, политических, юридических и многих других наук. На сегодняшний день те права, которые мы видим в международно-правовых документах, — результат многолетнего и даже многовекового исторического формирования эталонов и стандартов. Важной ступенью в развитии прав человека были революции 17–18 веков, благодаря которым появились не только большое количество прав человека, но и фундаментальные принципы на которых существуют эти права. Они необходимы для строительства справедливого и демократического общества. Каковы бы ни были их теоретические обоснования, права человека относятся к широкому спектру ценностей, которые, как считается, расширяют возможности человека или, защищают интересы человека и объявляются универсальными по своему характеру, в некотором смысле одинаково востребованными для всех людей, настоящих и будущих. Однако в эпоху 21 века, когда общественный и научно-технический прогресс двигается невообразимо быстрыми темпами и затрагивает различные сферы общественной жизнедеятельности человечества, это так или иначе касается и прав человека, их изменение и дальнейшая судьба. Одним из таких достижений является искусственный интеллект (ИИ), которой ставит под вопрос неизменность понятия прав человека.

Быстрое внедрение технологий искусственного интеллекта и растущая зависимость от ИИ как правительствами, так и частным сектором привели к росту озабоченности потенциальными негативными последствиями. Системы на основе ИИ влияют на право частной жизни, поскольку они зависят от сбора и использования огромного количества данных для составления прогнозов, которые во многих случаях служат сохранению существующих социальных моделей предвзятости и дискриминации.

Для решения широкого круга социальных проблем, связанных с ИИ, включая угрозы конфиденциальности, доступ к информации и право на равную защиту и минимизации дискриминации, нам нужна глобальная структура управления. Вместо того, чтобы работать над созданием новых структур с нуля, можно утверждать, что с проблемами, связанными с ИИ, лучше всего справиться, опираясь на существующую международную систему защиты прав человека.

В данной работе мне бы хотелось рассмотреть плюсы и минусы влияния искусственного интеллекта на общество и возможные пути его развития.

Область искусственного интеллекта (ИИ) быстро развивается и в предстоящее десятилетие влияние которого значительно возрастает. (ИИ) все больше присутствует в нашей повседневной жизни, отражая растущую тенденцию обращаться к нему за помощью в решении задач и вопросов, или передавать решения в целом. Он способен делать прогнозы на будущее и решать сложные проблемы и существующие процессы, распознавать человеческие голоса, мимику и даже лицо. Такие возможности демонстрируется машинами, например, автомобиль «Tesla S», на автопилоте проехал все США [1] или смартфонами, планшетами, ноутбуками, которые в своей системе имеют таких голосовых помощников как: Siri, Google Assistant, Алиса. Уже роботы с автоматическим управлением, могут выполнять разные задачи, начиная от домашнего хозяйства и заканчивая охраной различных объектов и проведением сложнейших операций, такие операции уже выполняет хирургический робот «Da Vinci» [2].

Сторонники ИИ считают, что дальнейшее развитие ИИ создает новые возможности в здравоохранении, образовании и транспорте, способствует накоплению богатства и укреплению экономики, и его возможности могут быть использованы для решения насущных социальных проблем. В качестве нескольких примеров текущие инициативы исследуют использование машинного обучения в расследованиях по правам человека, чтобы повысить энергоэффективность и уменьшить загрязнение окружающей среды, а также решить проблему отсутствия продовольственной безопасности.

С другой стороны, замена человеческого интеллекта машинами может коренным образом изменить характер течения жизни людей, что приведет к массовой потере работы и увеличению неравенства в доходах. В 2015 году роботизированная рука убивает рабочего на заводе «Volkswagen» [3], а автомобиль «Tesla» на автопилоте попадает в аварию, унося жизнь своего водителя [4]. Значительное расширение сбора и анализа данных может также привести к увеличению влияния компаний на владение этими данными и поставить под угрозу наше право на конфиденциальность.

Другая проблема — это характерное для машин допущение большого количества ошибок. Несмотря на то, что во многих случаях системы ИИ гораздо более точны, чем люди, существует опасность в предположениях, поскольку очень сложно наладить до автоматизма человеческий навык и многолетний опыт. Даже если вероятность ошибки близка к нулю, при выборке в сотни тысяч человек процентное соотношение может быть все равно велико. Рассмотрим пример с Google Фото. В 2015 году распознавание изображений в Google Фото было обнаружено, что в программном обеспечении произошла ужасная предвзятая и оскорбительная ошибка: иногда на нем отмечались фотографии черные люди как гориллы. Поскольку система использовала сложную модель ML, инженеры не смогли выяснить, почему это происходило. Единственное «решение», которое они могли выработать для этого «расистского» предположения, было просто пластырем: они удалили все связанные с обезьяной слова из списка тегов изображения. Теперь представьте себе аналогичную систему программного обеспечения, используемую Таможенным и пограничным патрулем США, которая фотографирует каждый раз человека, который въезжает и выезжает из США и сопоставляет его с базой данных известных или подозреваемых преступников и террористов. По оценкам, численность иммигрантов в США достигла рекордного показателя в 43,7 миллиона человек [5]. Даже если система распознавания лиц была точной на 99,9 %, частота ошибок 0,1 % привела бы к тому, что примерно 437 000 человек были бы ложно идентифицированы. Сколько бы из них могли быть распознаны как разыскиваемые преступники и задержаны? А также как это повлияет на их жизнь? И наоборот, сколько известных преступников уйдет? Даже относительно низкий уровень ошибок в таких случаях может иметь серьезные последствия нарушений прав человека. В нашей стране эта проблема становится все более актуальной в связи с внедрением системы распознавания лиц в Москве.

Быстрый рост ИИ также поднимает важные вопросы о том, соответствуют ли текущая политика нашей страны, правовые системы, современным тенденциям и течению общественной жизни.

Права человека являются универсальными и обязательными и кодифицированы в своде международного права. Гарантия и уважение прав человека требуются как от правительств, так и от компаний, хотя правительства имеют дополнительные обязательства защищать и реализовать права человека в крупных компаниях.

На основании всего вышесказанного, важно отметить в поднятой теме слова Олли Бустона, генерального директора, Future Advocacy: «Существует возможное будущее, в котором искусственный интеллект ведет к неравенству, непреднамеренно разделяет сообщества и даже активно используется для отказа в правах человека. Но есть альтернативное будущее, в котором способность ИИ предлагать решения все более сложных проблем является источником большого экономического роста, общего процветания и реализации всех прав человека. В конечном счете, именно выбор предприятий, правительств и отдельных лиц определяет, по какому пути пойдет человечество” [6]. Именно поэтому на основании всего вышесказанного, можно сделать вывод, что проблема прав человека в условиях искусственного интеллекта будет актуальна с каждым годом все сильнее.

Литература:

  1. Владелец Tesla проехал все США абсолютно бесплатно // delfi.lv URL: https://www.delfi.lv/avto/na-kolesah/vladelec-tesla-proehal-vse-ssha-absolyutno-besplatno.d?id=44084741 (дата обращения: 12.07.2019).
  2. How it happens with da Vinci // intuitive. URL: https://www.davincisurgery.com/ (дата обращения: 12.07.2019).
  3. Робот на заводе Volkswagen убил человека // hi-news.ru. URL: https://hi-news.ru/robots/robot-na-zavode-volkswagen-ubil-cheloveka.html (дата обращения: 12.07.2019).
  4. Tesla driver in fatal 'Autopilot' crash got numerous warnings: U.S. government // reuters. URL: https://www.reuters.com/article/us-tesla-crash-idUSKBN19A2XC (дата обращения: 12.07.2019).
  5. В США число иммигрантов достигло рекордных 43,7 миллиона // rg.ru. URL: https://rg.ru/2017/10/17/v-ssha-chislo-immigrantov-dostiglo-rekordnyh-437-milliona.html (дата обращения: 12.07.2019).
  6. Technology and Human Rights: Artificial Intelligence // business-humanrights. URL: https://www.business-humanrights.org/en/technology-and-human-rights-artificial-intelligence (дата обращения: 12.07.2019).
Основные термины (генерируются автоматически): искусственный интеллект, проблема, США, программное обеспечение, система.


Похожие статьи

Искусственный интеллект в современных... | «Молодой

Самой большой проблемой создания искусственного интеллекта является

Совершенствование систем искусственного интеллекта также является необходимым

Siri это умный помощник, входящий в программную составляющую продукций компании Apple и...

Искусственный интеллект. Основные направления исследований

Программное обеспечение систем ИИ. Разработано немалое число языков программирования, в которых на

Искусственный интеллект (сокр. ИИ) — теория и реализация компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие...

Особенности финансирования проектов с использованием...

Искусственный интеллект — это область информатики, которая

Понятие искусственного интеллекта появилось более 60 лет назад и описывается, как разработка

В наибольшем выигрыше от внедрения искусственного интеллекта к 2020 году окажутся США (596 млрд...

Искусственный интеллект для бизнеса: трансформация...

Искусственный интеллект. Основные направления исследований. Программное обеспечение систем ИИ. Искусственный интеллект в современных компьютеризированных системах. Выбор метода антропометрических исследований стоп детей с патологическими отклонениями.

О разработке систем искусственного интеллекта...

О разработке систем искусственного интеллекта в исследованиях процессов химической

Искусственный интеллект (ИИ) — это совокупность знаний, данных и система их обработки

Это связано с одной философской проблемой, которую пытались разрешить выдающиеся...

Применение интеллектуальных технологий в процессе...

Ключевые слова: Информационная безопасность, программное обеспечение, сертификация, уязвимости, статический анализ, искусственный интеллект, нейронная сеть. Введение. В сложившихся условиях, когда главными критериями разработки программного обеспечения...

Основные этапы развития искусственного интеллекта

В статье рассматривается история развития искусственного интеллекта начиная со времён

В 1928 году немецкий математик Давид Гильберт формулирует так называемую «Проблему

Искусственный интеллект (сокр. ИИ) — теория и реализация компьютерных систем...

Перспективы внедрения инновационных систем хранения данных...

Перспективы внедрения инновационных систем хранения данных искусственным интеллектом. Мухамадиева Кибриё Бахадировна, ассистент, Бухарский инженерно-технологический институт, Республика Узбекистан.

Современное определение искусственного интеллекта

Система искусственного интеллекта, которая может выполнять сложные задачи, такие как чтение, понимание и обучение, десятилетиями была одной из самых больших проблем искусственного интеллекта. Чтение, понимание и обучение уже давно являются самыми...

Похожие статьи

Искусственный интеллект в современных... | «Молодой

Самой большой проблемой создания искусственного интеллекта является

Совершенствование систем искусственного интеллекта также является необходимым

Siri это умный помощник, входящий в программную составляющую продукций компании Apple и...

Искусственный интеллект. Основные направления исследований

Программное обеспечение систем ИИ. Разработано немалое число языков программирования, в которых на

Искусственный интеллект (сокр. ИИ) — теория и реализация компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие...

Особенности финансирования проектов с использованием...

Искусственный интеллект — это область информатики, которая

Понятие искусственного интеллекта появилось более 60 лет назад и описывается, как разработка

В наибольшем выигрыше от внедрения искусственного интеллекта к 2020 году окажутся США (596 млрд...

Искусственный интеллект для бизнеса: трансформация...

Искусственный интеллект. Основные направления исследований. Программное обеспечение систем ИИ. Искусственный интеллект в современных компьютеризированных системах. Выбор метода антропометрических исследований стоп детей с патологическими отклонениями.

О разработке систем искусственного интеллекта...

О разработке систем искусственного интеллекта в исследованиях процессов химической

Искусственный интеллект (ИИ) — это совокупность знаний, данных и система их обработки

Это связано с одной философской проблемой, которую пытались разрешить выдающиеся...

Применение интеллектуальных технологий в процессе...

Ключевые слова: Информационная безопасность, программное обеспечение, сертификация, уязвимости, статический анализ, искусственный интеллект, нейронная сеть. Введение. В сложившихся условиях, когда главными критериями разработки программного обеспечения...

Основные этапы развития искусственного интеллекта

В статье рассматривается история развития искусственного интеллекта начиная со времён

В 1928 году немецкий математик Давид Гильберт формулирует так называемую «Проблему

Искусственный интеллект (сокр. ИИ) — теория и реализация компьютерных систем...

Перспективы внедрения инновационных систем хранения данных...

Перспективы внедрения инновационных систем хранения данных искусственным интеллектом. Мухамадиева Кибриё Бахадировна, ассистент, Бухарский инженерно-технологический институт, Республика Узбекистан.

Современное определение искусственного интеллекта

Система искусственного интеллекта, которая может выполнять сложные задачи, такие как чтение, понимание и обучение, десятилетиями была одной из самых больших проблем искусственного интеллекта. Чтение, понимание и обучение уже давно являются самыми...

Задать вопрос