Společný počítačový program předpovídá recidivu jako špatně jako lidi

Stejně jako profesionální kuchař nebo kardiochirurg, algoritmus strojového učení je jen tak dobrý, jako trénink, který přijímá. A protože algoritmy stále více berou vládnutí a rozhodují se pro lidi, zjistíme, že mnoho z nich neobdrželo nejlepší vzdělání, protože napodobují lidské předsudky založené na rase a pohlaví a dokonce vytvářejí nové problémy.

Z těchto důvodů se jedná zejména o to, že více států, včetně Kalifornie, New Yorku a Wisconsinu, používá algoritmy k předpovědi, kteří lidé budou po uvěznění znovu spáchat zločiny. Ještě horší je, že to nefunguje.

V příspěvku publikovaném ve středu v časopise Vědecké pokroky, dvojice počítačových vědců na Dartmouth College zjistila, že široce používaný počítačový program pro předpovídání recidivy není o nic přesnější než zcela netrénovaný civilista. Tento program, nazvaný Correctional Offender Management Profilování pro alternativní sankce, analyzuje 137 různých faktorů, aby určil, jak je pravděpodobné, že osoba bude po propuštění spáchat další zločin. COMPAS zvažuje faktory, jako je užívání látek, sociální izolace a další prvky, které kriminologové teoretizují, může vést k recidivě, hodnotit lidi jako vysoké, střední nebo nízké riziko.

A určitě, hodnocení rizika zní skvěle. Proč ne mít více údajů, které by pomohly soudům určit, kdo je větší riziko? Ale co zjistili Dartmouthovi počítačoví vědci Julia Dressel a Hany Faridová, zjistili, že netrénovaní jedinci správně odhadli riziko recidivy s přibližně stejnou přesností jako COMPAS, což naznačuje, že předpokládaná síla algoritmu ve skutečnosti není.

V jedné studii, která zahrnovala jen zlomek informací, které společnost COMPAS použila (sedm faktorů namísto 137, s výjimkou rasy), skupina dobrovolníků na internetu na internetu, přičemž pravděpodobně nedošlo k žádnému školení v oblasti hodnocení trestního rizika, hodnotily kazuistiky. Správně odhadli recidivu osoby s 67% přesností ve srovnání s 65% přesností společnosti COMPAS.

Udělejte si chvilku, abyste to potopili dovnitř. Netrénovaní lidé na webu byli o něco lepší, když předpověděli, zda se někdo vrátí do vězení než nástroj, který je doslova navržen tak, aby předpověděl, zda by se někdo vrátil do vězení. A to je ještě horší. Jakmile přidáte rasu obžalovaného, ​​falešně pozitivní a falešně negativní hodnoty dobrovolníka se nacházely pouze v několika procentních bodech společnosti COMPAS. Nejen, že je společnost COMPAS při předvídání recidivy nejen tak skvělá, že je stejně náchylná k rasové zaujatosti jako lidé. Tolik k chladné logice počítačů.

Výzkumníci poté vytvořili lineární model, který odpovídal míře predikce společnosti COMPAS pouze se dvěma faktory: věkem a počtem předchozích odsouzení. Jen aby bylo jasné, tato předpověď by byla také nespravedlivá, ale ukazuje, jak je chybná COMPAS.

A i když je tento výzkum nový, velké stánky s ním nestojí. Při vyšetřování v roce 2016 ProPublica reportéři zjistili, že společnost COMPAS je nejen nespolehlivá, ale je systematicky systematicky zaujatá vůči Američanům Afričana, kteří stále hodnotí černochy jako vyšší riziko než bílé, které spáchaly závažnější trestné činy. Doufejme, že tento nový výzkum pomůže připravit půdu pro procesy hodnocení rizik v systému trestního soudnictví.

Skutečnost, že společnost COMPAS je přinejlepším v nejlepším případě zbytečná a nejhorší, naznačuje, že hodnocení rizika na základě počítače by mohla prohloubit nespravedlnost, kterou by měl systém spravedlnosti řešit.Vzhledem k tomu, že výsledky hodnocení rizik mohou být aplikovány v jakémkoli kroku procesu trestního soudnictví, včetně stanovení vazby osoby, určení, zda je uděleno podmínečné propuštění, a v některých státech, dokonce i pro určení trestu osoby, tento výzkum naznačuje, že je to potřeba. znovu prozkoumat používání programů COMPAS a jiných programů.