Hollandalı bağımsız gazetecilik platformu Follow The Money (Parayı Takip Et) tarafından bu hafta içerisinde haberleştirilen poliste fişleme algoritması, tartışma yarattı. Polisin gelecekte şiddet kullanabilecek kişileri tahmin eden algoritması ile ilgili emniyet güçlerinden açıklama geldi. Polis sözcüsü algoritmanın durdurulduğunu açıkladı. Polis algoritması, birkaç yıl önce Vergi Dairesinin, bu yıl da UWV'nin kullandığı yasadışı fişleme algoritmalarını hatırlattı.
Polisin, Şiddet Risk Değerlendirme Aracı (het Risicotaxatie Instrument Geweld RTI-G) olarak bilinen algoritmayı 2014 yılından bu yana kullanıldığı belirtiliyor. Polis sözcüsüne göre RTI-G’nin faydalı olup olmadığı konusunda şüpheler bulunduğu için durduruldu. Follow The Money’e göre polisin algoritmayı hala kullanıp kullanmadığı ise belirsizliğini koruyor.
Şiddet Risk Değerlendirme Aracı nasıl işliyor?
Tom Cruise’un başrolünü oynadığı “Minority Report” filmini andıran sistemde algoritma, bir kişinin cinsiyetine, yaşına ve sabıka kaydına bakarak bir risk analizi yapıyor. Emniyet güçleri de sonuçlardan kimin şiddet eğilimi olabileceğini belirliyor. Sistem tarafından belirlenen kişiler “Güvenlik riski” etiketiyle işaretleniyor. Uygulamada ise bu kişiler daha sıkı denetleniyor ve polisle işbirliği yapmak zorunda bırakılıyor.
Uygulamadaki etnik köken detayı
Bu haftanın başlarında Follow the Money, algoritmanın işleyişinde kişilerin etnik kökenlerinin de rol oynadığını bildirdi. Uygulamanın önyargı ve ayrımcılık konusunda kontrolden geçirilip geçirilmediğine dair herhangi bir işaret bulunmadığı belirtilen haberde, özellikle belirli mahallelerin veya etnik kökenlerin en yüksek puanlarda orantısız bir şekilde ön planda tutulduğuna dikkat çekildi.
Habere göre algoritmanın daha önceki bir sürümünde Antil, Fas ve Somali kökenli insanlar otomatik olarak diğerlerinden daha yüksek puanlar alıyordu ancak polis, 2017'de bu sürümün kullanımını durdurdu.
Follow the Money‘e göre algoritmanın sonuçlarının insanların dosyasına işlenip işlenmediği de belirsizliğini koruyor.
Polisin savunması
Polise göre, algoritma hiçbir zaman tek başına kullanılmadı. Emniyet güçlerinin bu algoritmayı tamamlayıcı veri olarak kullandığını belirten polis, sadece diğer sistemlerle birlikte karşılaştırarak değerlendirmeye aldığını belirtiyor.
Hollanda’da yaşanan fişleme skandalları
Hollanda’da insanları fişleme ile ilgili daha önce de devlet kurumlarının kullandığı bazı algoritmalar ortaya çıktı. Bunların başında 2020'de hükümet tarafından durdurulan Risk Gösterge Sistemi (SyRI) sistemi geliyor. SyRI sosyal ödenek alan kişiler arasında dolandırıcılık yapanları tespit etmek için kullanıldı ancak insanların özel hayatını koruyan Avrupa kurallarına aykırı olduğu için mahkeme tarafından durdurma kararı verilmişti.
Bir diğer skandal fişleme uygulaması ise bu yıl temmuz ayında patlak verdi. UWV'nin İşsizlik Ödeneği (WW) alan kişilerin izinsiz yurt dışında kalıp kalmadığını kontrol etmek için kullandığı ve 'risk taraması' olarak adlandırılan yasa dışı sistem Hollanda Veri Koruma Kurumu tarafından tepkiyle karşılandı. Araştırmaya göre bu sistem sayesinde UWV 3 bin 600 soruşturma başlattı, 460 dosyada ödenek miktarında düzeltme yaptı ve bazı kişilere ceza verdi.
©Sonhaber.eu
Fotoğraf: Politie.nl
Haberlerimizi İnstagram hesabımızdan da takip edebilirsiniz.
WhatsAppta ücretsiz bültenimize abone olun, Hollanda ve diğer Avrupa ülkeleri gündeminden seçtiğimiz haberler her gün telefonunuza gelsin! Abone olmak için tıklayın
Sitemizde yayımlanan haberlerin her türlü hakkı SONHABER.eu’ya aittir. Haberin linki kaynak olarak gösterilmeden alınan haberler için hukuki işlem başlatılacaktır.
