Narzędzia oceny ryzyka powrotu do przestępstwa oparte na sztucznej inteligencji: uwagi na przykładzie aplikacji COMPAS
Abstrakt
W ostatnich latach narzędzia oceny ryzyka powrotu do przestępstwa ewoluowały i zostały zmodyfikowane z użyciem technologii sztucznej inteligencji. Aby przyspieszyć postępowanie oraz wprowadzić neutralne mechanizmy będące gwarancją równego traktowania, instrumenty te coraz częściej implementuje się w systemach wymiaru sprawiedliwości w sprawach karnych, chociaż mają liczne grono zarówno zwolenników, jak i przeciwników. Jednym z najbardziej znanych narzędzi tego rodzaju jest COMPAS, stosowany na dużą skalę w Stanach Zjednoczonych Ameryki od ponad dwóch dekad. W tym czasie powstało wiele opracowań naukowych na jego temat, a także wydano szereg orzeczeń sądowych, które pozwalają rzetelnie i obiektywnie ocenić przydatność algorytmów tego typu oraz określić problemy, jakie mogą wynikać z ich stosowania.
Słowa kluczowe
sztuczna inteligencja; narzędzia oceny ryzyka; recydywa; prognoza kryminologiczna; COMPAS
Bibliografia
Literatura
Burdziak K., Rüütel E.: Prognoza kryminologiczna. Porównanie rozwiązań estońskich i polskich. Lublin 2022.
Criminal law – Sentencing guidelines – Wisconsin Supreme Court requires warning before use of algorithmic risk assessments in sentencing – State v. Loomis, 881 N.W.2d 749 (Wis. 2016). „Harvard Law Review” 2017, vol. 130, issue 5, s. 1530–1537.
Dressel J., Farid H.: The accuracy, fairness, and limits of predicting recidivism, „Science Advances” 2018, vol. 4, issue 1, s. 1–5. https://doi.org/10.1126/sciadv.aao5580.
Eckhouse L. et al.: Layers of bias: A unified approach for understanding problems with risk assessment. „Criminal Justice and Behavior” 2019, vol. 46, issue 2, s. 185–209. https://doi.org/10.1177/0093854818811379.
Flores A.W., Bechtel K., Lowenkamp C.: False positives, false negatives, and false analyses: A rejoinder to „Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks”. „Federal Probation” 2016, vol. 80, no. 2, s. 38–46.
Kowalewska-Łukuć M., Burdziak K.: The use of AI in formulating a criminological prognosis of an offender. „Technium Social Sciences Journal” 2021, vol. 25, s. 115–125.
Mamak K.: Prognoza kryminologiczna. W: Idem: Rewolucja cyfrowa a prawo karne. Kraków 2019.
Nishi A.: Privatizing sentencing: A delegation framework for recidivism risk assessment. „Columbia Law Review” 2019, vol. 119, no. 6. https://columbialawreview.org/content/privatizing-sentencing-a-delegation-framework-for-recidivismrisk-assessment/ [dostęp: 2.09.2023].
Płocha E.A.: O pojęciu sztucznej inteligencji i możliwościach jej zastosowania w postępowaniu cywilnym, „Prawo w Działaniu” 2020, nr 44, s. 273–291.
Schwerzmann K.: Abolish! Against the use of risk assessment algorithms at sentencing in the US criminal justice system. „Philosophy & Technology” 2021, no. 34. https://doi.org/10.1007/s13347-021-00491-2.
Stańdo-Kawecka B.: Korzystanie z informacji o wynikach szacowania ryzyka i potrzeb przez sąd wyrokujący. W: Eadem: Polityka karna i penitencjarna między punitywizmem i menedżeryzmem. Warszawa 2020, s. 244–245.
Stańdo-Kawecka B.: Ruch „What Works” i „technologie szacowania ryzyka”. W: Eadem: Polityka karna i penitencjarna między punitywizmem i menedżeryzmem. Warszawa 2020, s. 227–235.
Stańdo-Kawecka B.: Wybrane problemy profesjonalizacji organów probacyjnych i klasyfikacji sprawców oddanych pod dozór do grup ryzyka. „Nowa Kodyfikacja Prawa Karnego” 2014, t. 33.
Wójcik D.: Stosowanie w postępowaniu karnym narzędzi diagnostyczno-prognostycznych służących oszacowaniu ryzyka powrotności do przestępstwa. „Prawo w Działaniu. Sprawy karne” 2013, nr 16, s. 59–102.
Akty prawne
Konstytucja Rzeczypospolitej Polskiej z dnia 2 kwietnia 1997 r. Dz.U. 1997, nr 78, poz. 483 ze sprost. i zm.
Ustawa z dnia 6 czerwca 1997 r. – Kodeks karny. T.j. Dz.U. 2022, poz. 1138 ze zm.
Ustawa z dnia 6 czerwca 1997 r. – Kodeks karny wykonawczy. T.j. Dz.U. 2023, poz. 127 ze zm.
Ustawa z dnia 6 czerwca 1997 r. – Kodeks postępowania karnego. T.j. Dz.U. 2022, poz. 1375 ze zm.
Ustawa z dnia 20 lutego 2015 r. o zmianie ustawy – Kodeks karny oraz niektórych innych ustaw. Dz.U. 2015, poz. 396.
Rozporządzenie Ministra Sprawiedliwości z dnia 26 lutego 2013 r. w sprawie sposobu wykonywania obowiązków i uprawnień przez kuratorów sądowych w sprawach karnych wykonawczych. Dz.U. 2013, poz. 335.
Rozporządzenie Ministra Sprawiedliwości z dnia 3 czerwca 2016 r. w sprawie sposobu i trybu wykonywania czynności przez kuratorów sądowych w sprawach karnych wykonawczych. Dz.U. 2016, poz. 969 ze zm.
Orzecznictwo
Wyrok Trybunału Konstytucyjnego z dnia 16 grudnia 2014 r. U 2/14. OTK-A 2014, nr 11, poz. 119.
Diaz v. New York State Board of Parole. Źródło: https://law.justia.com/cases/newyork/other-courts/2013/2013-ny-slip-op-23422.html [dostęp: 2.09.2023].
Malenchik v. State, 928 N.E.2d 564, 574 (Ind. 2010).
Morris v. New York State Department of Corrections and Community Supervision et al. Źródło: https://law.justia.com/cases/new-york/other-courts/2013/2013-ny-slip-op-50604-u.html [dostęp: 2.09.2023].
Partee v. Evans, 40 Misc.3d 896.
Rayner v. New York State Department of Corrections and Community Supervision.
Źródło: https://law.justia.com/cases/new-york/other-courts/2023/2023-ny-slip-op-23293.html [dostęp: 23.01.2024].
State v. Loomis, 881 N.W.2d 749 (Wis. 2016).
State v. Samsa, 2015 WI App 6, 359 Wis.2d580, 859 N.W.2d149.
Williams v. New York, 49 Misc.3d 732.
Źródła internetowe
Angwin J. et al.: Machine bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, 23.05.2016.
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing [dostęp: 2.09.2023].
Brennan T., Dieterich W., Mendoza Ch.: COMPAS risk scales: Demonstrating accuracy equity and predictive parity. Performance of the COMPAS risk scales in Broward County, 8.07.2016. Źródło: https://go.volarisgroup.com/rs/430-MBX-989/images/ProPublica_Commentary_Final_070616.pdf [dostęp: 25.08.2023].
Caher J.: Effect of risk assessment rule on parole decisions is unclear. 30.04.2012. Źródło: https://www.cherylkatesesq.com/news/2018/9/6/effect-of-risk-assessment-rule-on-parole-decisions-is-unclear-april-30-2012-by-john-caher [dostęp: 30.08.2023].
Equivant: Practitioner’s guide to COMPAS Core. 4.04.2019. https://www.equivant.com/wp-content/uploads/Practitioners-Guide-to-COMPAS-Core-040419.pdf [dostęp: 2.09.2023].
Equivant: What is COMPAS?. https://www.equivant.com/faq/ [dostęp: 25.08.2023].
Lansing S.: New York State COMPAS – probation risk and need assessment study: Examining the recidivism scale’s effectiveness and predictive accuracy. Division of Criminal Justice Services, 2012. https://www.criminaljustice.ny.gov/crimnet/ojsa/opca/compas_probation_report_2012.pdf [dostęp: 2.09.2023].
Larson J. et al.: How we analyzed the COMPAS recidivism algorithm. ProPublica, 23.05.2016. https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm [dostęp: 2.09.2023].
Northpointe COMPAS risk assessment. https://assets.documentcloud.org/documents/2839240/Sample-Risk-Assessment-COMPAS-Results.pdf [dostęp: 1.09.2023].
Petition to the Supreme Court of the State of New York. https://law.yale.edu/sites/default/files/documents/pdf/mfia_rayner_nys.pdf [dostęp: 2.09.2023].
Public Safety Risk Assessment Clearinghouse: History of risk assessment. Źródło: strona WWW Bureau of Justice Assistance, U.S. Department of Justice: https://bja.ojp.gov/program/psrac/basics/history-risk-assessment#gcov4e [dostęp: 25.08.2023].
Rayner M.: Commentary: This algorithm is used to deny inmates parole. We’re not allowed to know anything about it. „Times Union” [online], 5.05.2023. https://www.timesunion.com/opinion/article/commentary-proprietary-algorithm-deny-inmate-18001304.php [dostęp: 2.09.2023].
Taylor A. „Mac”: AI prediction tools claim to alleviate an overcrowded American justice system… but should they be used?. „Stanford Politics” [online], 13.09.2020. https://stanfordpolitics.org/2020/09/13/ai-prediction-tools-claim-to-alleviate-an-overcrowded-american-justice-system-but-should-they-be-used/ [dostęp: 25.08.2023].
U.S. Department of Justice. Office of the Attorney General: The First Step Act of 2018: Risk and needs assessment -system. https://www.ojp.gov/First-Step-Actof-2018-Risk-and-Needs-Assessment-System [dostęp: 2.09.2023].
Yong E.: A popular algorithm is no better at predicting crimes than random people. „The Atlantic” [online], 17.01.2018. https://www.theatlantic.com/technology/archive/2018/01/equivant-compas-algorithm/550646/ [dostęp: 2.09.2023].
Uniwersytet Kardynała Stefana Wyszyńskiego w Warszawie Polska
https://orcid.org/0000-0002-2245-4295
Utwór dostępny jest na licencji Creative Commons Uznanie autorstwa – Na tych samych warunkach 4.0 Miedzynarodowe.
Właściciele praw autorskich do nadesłanych tekstów udzielają Czytelnikowi prawa do korzystania z dokumentów pdf zgodnie z postanowieniami licencji Creative Commons 4.0 International License: Attribution-Share-Alike (CC BY-SA 4.0). Użytkownik może kopiować i redystrybuować materiał w dowolnym medium lub formacie oraz remiksować, przekształcać i wykorzystywać materiał w dowolnym celu.
1. Licencja
Wydawnictwo Uniwersytetu Śląskiego zapewnia natychmiastowy otwarty dostęp do treści swoich czasopism na licencji Creative Commons BY-SA 4.0 (http://creativecommons.org/licenses/by-sa/4.0/). Autorzy publikujący w tym czasopiśmie zachowują wszelkie prawa autorskie i zgadzają się na warunki wyżej wymienionej licencji CC BY-SA 4.0.
2. Oświadczenie Autora
Autor deklaruje, że artykuł jest oryginalny, napisany przez niego (i współautorów), nie był wcześniej publikowany, nie zawiera stwierdzeń niezgodnych z prawem, nie narusza praw innych osób, jest przedmiotem praw autorskich, które przysługują wyłącznie autorowi i jest wolny od wszelkich praw osób trzecich, a także, że autor uzyskał wszelkie niezbędne pisemne zgody na cytowanie z innych źródeł.
Jeśli artykuł zawiera materiał ilustracyjny (rysunki, zdjęcia, wykresy, mapy itp.), Autor oświadcza, że wskazane dzieła są jego dziełami autorskimi, nie naruszają niczyich praw (w tym osobistych, m.in. prawa do dysponowania wizerunkiem) i posiada do nich pełnię praw majątkowych. Powyższe dzieła udostępnia jako część artykułu na licencji „Creative Commons Uznanie autorstwa-Na tych samych warunkach 4.0 Międzynarodowe”.
UWAGA! Bez określenia sytuacji prawnej materiału ilustracyjnego oraz załączenia stosownych zgód właścicieli majątkowych praw autorskich publikacja nie zostanie przyjęta do opracowania redakcyjnego. Autor/autorka oświadcza równocześnie, że bierze na siebie wszelką odpowiedzialność w przypadku podania nieprawidłowych danych (także w zakresie pokrycia kosztów poniesionych przez Wydawnictwo UŚ oraz roszczeń finansowych stron trzecich).
3. Prawa użytkownika
Zgodnie z licencją CC BY-SA 4.0 użytkownicy mogą udostępniać (kopiować, rozpowszechniać i przekazywać) oraz adaptować (remiksować, przekształcać i tworzyć na podstawie materiału) artykuł w dowolnym celu, pod warunkiem, że oznaczą go w sposób określony przez autora lub licencjodawcę.
4. Współautorstwo
Jeśli artykuł został przygotowany wspólnie z innymi autorami, osoba zgłaszająca niniejszy formularz zapewnia, że została upoważniona przez wszystkich współautorów do podpisania niniejszej umowy w ich imieniu i zobowiązuje się poinformować swoich współautorów o warunkach tej umowy.
Oświadczam, że w przypadku nieuzgodnionego z redakcją i/lub wydawcą czasopisma wycofania przeze mnie tekstu z procesu wydawniczego lub skierowania go równolegle do innego wydawcy zgadzam się pokryć wszelkie koszty poniesione przez Uniwersytet Śląski w związku z procedowaniem mojego zgłoszenia (w tym m.in. koszty recenzji wydawniczych).
