قالت منظمة العفو الدولية، في تقرير يكشف التهديد الذي تشكله عمليات “الأمن التنبؤي” على حقوق الإنسان، إن الشرطة يجب أن تتوقف فوراً عن استخدام الأنظمة الخوارزمية التي تفضي إلى مراقبة جماعية عشوائية، وتصنيف عرقي.
ويوثق التقرير المعنون: “نحن نستشعر حدوث المشاكل” (باللغة الإنكليزية)، مخاطر مشاريع “الأمن التنبؤي” الناشئة التي يتم تنفيذها من قبل أجهزة إنفاذ القانون في جميع أنحاء هولندا. وتستخدم المشاريع، التي تحمل وسم “المختبرات الحية” من قبل الشرطة الهولندية، نماذج رياضية لتقييم خطر ارتكاب جريمة من قبل شخص معين أو في مكان بعينه، وتوجيه جهود إنفاذ القانون بعد ذلك نحو الأفراد أو المواقع التي تعتبر “عالية الخطورة”.
وحققت منظمة العفو الدولية في مشروع للأمن التنبؤي في مدينة رورموند، أطلق عليه اسم مشروع الاستشعار. وتعامل هذه التجربة الشرطية الناس في رورموند بوصفهم “حيوانات تجارب”، وتخضعهم لرقابة جماعية وتميز ضد الأشخاص الذين تعود أصولهم إلى أوروبا الشرقية.
إن ما كان حتى وقت قريب مقصوراً على الخيال العلمي أصبح الآن حقيقة واقعة للناس في جميع أنحاء هولندا. فعملية الأمن التنبؤي تخضع الناس لمراقبة جماعية عشوائية، وهو أمر لا يمكن تبريره على الإطلاق
ميريل كونينغ، كبيرة مسؤولي برنامج السياسات والتكنولوجيا وحقوق الإنسان في منظمة العفو الدولية
وقالت ميريل كونينغ، كبيرة مسؤولي برنامج السياسات والتكنولوجيا وحقوق الإنسان في منظمة العفو الدولية: “إن ما كان حتى وقت قريب مقصوراً على الخيال العلمي أصبح الآن حقيقة واقعة للناس في جميع أنحاء هولندا. فعملية الأمن التنبؤي تخضع الناس لمراقبة جماعية عشوائية، وهو أمر لا يمكن تبريره على الإطلاق”.
وأضافت “إن تجربة رورموند الإشكالية، التي تحدد الأشخاص من أوروبا الشرقية وتميز ضدهم، تكشف كيف أن أنظمة الشرطة الخوارزمية تتضمن أحكاماً مسبقة وأنها ليست تنبؤية. وفي حين أن مثل هذه المشاريع تنتشر بسرعة في جميع أنحاء البلاد، فإن الضمانات المطلوبة للتصدي للتهديدات العديدة التي تشكلها على حقوق الإنسان غير متوفرة بشكل كبير. ويجب أن يعمل البرلمان الهولندي على إنهاء استخدام هذه الأنظمة المعيبة في جوهرها على الفور”.
Amnesty International: 'Police in the Netherlands must stop using "predictive" algorithmic systems' https://t.co/VuqgsrZBV6
— Hans de Vreij (@hdevreij) September 29, 2020
وغالباً ما يقدم تصميم وتطوير أنظمة الأمن التنبؤية على أنه “موضوعي” و”محايد”، ولكن التحيزات والصور النمطية مدمجة في النماذج والخوارزميات. ويؤدي هذا إلى نتائج تمييزية مجحفة، مصحوبة بدرجات مخاطر أعلى بالنسبة لمجموعات معينة.
إن منظمة العفو الدولية تدعو إلى إجراء تقييم إلزامي لتأثير تقنيات الأمن التنبؤي على حقوق الإنسان قبل اعتمادها. وحتى الآن، لم يتم إخضاع أي من الأنظمة التنبؤية المستخدمة من قبل الشرطة الهولندية لتقييم شامل لجهة حماية حقوق الإنسان.
مشروع الاستشعار
تدعي الشرطة أن مشروع الاستشعار مصمم لمنع وكشف الجرائم المتعلقة بالممتلكات التي يرتكبها ما يسمى “قطاع الطرق المتنقلين” في رورموند.
وتزعم السلطات الهولندية حيادية النظام المستند إلى بيانات موضوعية عن الجريمة، لكن منظمة العفو الدولية توثق كيف أن مشروع الاستشعار تمييزيٌ في جوهر تصميمه، الأمر الذي يعكس التحيز البشري المتضمن في العمل الشرطي. فحقيقة أن المشروع يركز في الغالب على “قطاع الطرق المتنقلين”، التي تُعرّف على أنها عمليات النشل والسرقة من المتاجر التي يرتكبها على وجه التحديد أشخاص من أوروبا الشرقية، يؤدي إلى التصنيف العرقي الآلي.
باستخدام الكاميرات وأجهزة الاستشعار الأخرى، تراقب الشرطة بشكل ممنهج جميع الأشخاص الذين يقودون سياراتهم في رورموند وحولها، وتجمع معلومات حول المركبات وأنماط حركتها. ثم تعالج البيانات التي يتم جمعها باستخدام نموذج خوارزمي يقوم بحساب “درجة الخطورة” لكل مركبة، والتي تعتقد الشرطة انها تخبرهم باحتمالية ارتكاب السائق والركاب في المدينة لجريمة متعلقة بالممتلكات. وأحد المؤشرات المستخدمة لإجراء هذا التقييم هو ما إذا كان الأشخاص في السيارة هم من أوروبا الشرقية.
وعندما يتم تصنيف مركبة على أنها عالية الخطورة، ستحاول الشرطة اعتراضها والتحقق من أوراق هوية السائق وأي من الركاب. ويفتقر القانون الهولندي إلى الضمانات القانونية الكافية لمنع عمليات التوقيف والتفتيش التعسفية والتمييزية المجحفة.
ونوهت ميريل كونينغ “يجري استخدام سكان رورموند، وكذلك أي شخص يسافر إلى المدينة، كحيوانات تجارب، لم يوافقوا عليها. وهذا نظام تمييزي بطبيعته، مصمم للتوصيف العنصري، واستهداف الأشخاص من جنسيات أوروبا الشرقية”.
وأكدت “يجب على السلطات الهولندية الدعوة لوقف مشروع الاستشعار والتجارب المماثلة، والتي تنتهك بشكل واضح الحق في الخصوصية والحق في حماية البيانات ومبادئ الشرعية وعدم التمييز المجحف”.
وتدعو منظمة العفو الدولية السلطات الهولندية كذلك إلى تقييم عدد الأشخاص وطرق ومدى تأثرهم بمشروع الاستشعار وغيره من مشاريع الأمن التنبؤي التجريبية المماثلة. ويتعين نشر المعلومات بهذا الخصوص على الملأ، مع اتخاذ خطوات لإتاحة سبل الإنصاف وتقديم التعويض الفعال للأفراد المتضررين.
