ГлавнаябезопасностьСистема AI правительства Нидерландов нацелена на нарушения прав человека

Система AI правительства Нидерландов нацелена на нарушения прав человека

система

Система, основанная на алгоритм выявить возможные случаи мошенничество социальное обеспечение, которое используется голландским правительством, было целью голландского суда.

Согласно DutchNewsГаагский окружной суд постановил, что эта система противоречит правилам ЕС в области прав человека и конфиденциальности.

Так называемая дублированная индикация системного риска (SyRI), автоматическая инструмент местные власти использовали машинное обучение для отслеживания людей, подозреваемых в совершении мошенничества в сфере социального обеспечения.

SyRI создает «профили риска» для людей, которые ранее совершали мошенничество в сфере социального обеспечения, а затем сканирует «похожие» профили граждан, тем самым создавая список всех возможных профилей людей, которые потенциально могут быть вовлечены в такое мошенничество. ,

По словам Верховного комиссара ООН по правам человека Филипа Алстона, сбор данных «нацелен только на районы с низким доходом и меньшинства». По сути, этот инструмент был нацелен на людей из экономически более слабых районов, не имея при этом никаких других компрометирующих улик.

Многие были теми, кто подал иски за дискриминационную практику, которые были приняты судом при выражении их взглядов. заботы и для ее безопасности конфиденциальность и отсутствие прозрачность.

Государство Нидерландов может обжаловать это решение.

Хьюман Райтс Вотч считает это решение победой и заявляет, что этот мандат «создал важный прецедент для защиты прав финансово слабых в эпоху автоматизации».

"Правительства, которые полагаются на аналитику данных для контроля доступа к социальному обеспечению - например, США, ХО Великобритания и Австралия - следует прислушаться к предупреждению суда о рисках для прав человека, связанных с обращением с бенефициарами социального обеспечения как с постоянными подозреваемыми », - добавила группа по гражданским правам.

Отсутствующая Миаhttps://www.secnews.gr
Быть самим собой в мире, который постоянно пытается изменить вас, является вашим величайшим достижением
spot_img

ЖИВЫЕ НОВОСТИ