Mahkemeler geçmiş verilerden üretilen risk puanlarını bağımsız denetime bağlamalı mı?

L1

Bağımsız denetim, risk puanlarının belirli grupları sistematik olarak dezavantajlı kılıp kılmadığını ortaya çıkarabilir.

Geçmiş veriler, kolluk faaliyetleri ve yargı kararlarındaki mevcut eşitsizlikleri yansıtabilir. Düzenli ve dışarıdan yapılan inceleme, farklı gruplar için hatalı tahmin oranlarını karşılaştırarak sorunlu modellerin kullanımını sınırlamaya yardımcı olur.²

L2

Denetim, mahkemelerin puanlara eleştirel yaklaşmasını ve kararlarını gerekçelendirmesini teşvik eder.

Bir risk puanının hangi veriler ve varsayımlarla üretildiğinin incelenmesi, karar vericilerin aracı tek başına belirleyici kabul etmesini zorlaştırabilir. Böylece insan muhakemesinin bilişsel önyargılara açık olduğu durumlarda ek bir kontrol katmanı oluşur.²

A1

Bağımsız denetim, geçmiş verilerdeki adaletsizliği tek başına ortadan kaldıramaz.

Bir model teknik ölçütleri karşılasa bile, beslendiği veriler belirli toplulukların daha sık izlenmesi veya kayda geçirilmesi gibi yapısal farkları içerebilir. Denetim bu sorunları saptayabilir; ancak verilerin ve kurum uygulamalarının değişmesini garanti etmez.¹

A2

Denetim şartı, mahkemelerin kullanabileceği araçları azaltarak karar süreçlerini yavaşlatabilir.

Bağımsız inceleme için uzmanlık, zaman ve kaynak gerekir; her güncellemede veya yeni kullanım alanında yeniden denetim istenmesi maliyeti artırabilir. Bu yük, özellikle sınırlı kaynaklı kurumlarda risk araçlarının kullanımını geciktirebilir ya da kurumlar arasında farklı uygulamalara yol açabilir.

Kaynak gösterilmedi

A3

Farklı adalet ölçütleri aynı risk aracının adilliği konusunda zıt sonuçlar verebilir.

Yanlış pozitifleri azaltmak, yanlış negatifleri azaltmak ve gruplar arasında tahmin başarısını eşitlemek her zaman aynı anda mümkün değildir. Bu nedenle denetim yapılması tek başına yanıt vermez; kurumların hangi adalet ölçütünü önceliklendirdiğini de belirlemesi gerekir.¹