Czy algorytm potrafi przewidzieć przemoc? Na razie gorzej, niż sugeruje obietnica AI

•

Systematyczny przegląd 38 badań pokazuje, że modele uczenia maszynowego do przewidywania przemocy mają duży problem z walidacją, błędem systematycznym i użytecznością praktyczną.

Obietnica jest bardzo atrakcyjna: zebrać dane, uruchomić model i dostać precyzyjną ocenę, kto może dopuścić się przemocy. Mniej intuicji, więcej matematyki. Mniej błędów człowieka, więcej chłodnej analizy. Brzmi jak plan, dopóki ktoś nie zacznie sprawdzać, jak te modele rzeczywiście powstają.

Systematyczny przegląd opublikowany w Journal of Criminal Justice objął 38 badań i 40 modeli uczenia maszynowego służących do przewidywania zachowań przemocowych.

Wyniki potrafią wyglądać dobrze

Deklarowana zdolność rozróżniania przypadków była bardzo zróżnicowana. Wskaźniki AUC mieściły się od 0,50 do 0,98. Sam szeroki zakres powinien już zachęcać do ostrożności, ale ważniejsze jest to, co działo się poza jedną liczbą.

Tylko osiem badań raportowało wyniki dotyczące kalibracji, czyli tego, czy przewidywane prawdopodobieństwa rzeczywiście odpowiadają częstości zdarzeń. Zaledwie trzy przeprowadziły zewnętrzną walidację. To oznacza, że zdecydowana większość modeli nie została solidnie sprawdzona na niezależnej populacji.

W 31 z 38 badań autorzy przeglądu stwierdzili wysokie ryzyko błędu systematycznego, przede wszystkim w obszarze analizy. Wskazali również ryzyko przeuczenia modeli, małe próby, niewystarczającą przejrzystość i ograniczoną możliwość generalizacji.

Przewidywanie przemocy ma koszt błędu

W tym obszarze nie wystarczy powiedzieć, że model jest „całkiem dokładny”. Trzeba zapytać, komu i w jaki sposób się myli.

Fałszywie dodatnia ocena nie kończy się czerwonym polem w arkuszu. Może wpływać na decyzje dotyczące nadzoru, leczenia, przepustki, zwolnienia czy sposobu traktowania człowieka przez instytucję. Fałszywie ujemna ma z kolei własny koszt bezpieczeństwa.

Do tego dochodzi klasyczny problem danych historycznych. Algorytm nie wstaje rano wolny od uprzedzeń. Uczy się na tym, co mu dostarczymy — wraz z brakami, nierównościami i sposobami, w jakie system wcześniej rejestrował zachowania.

Autorzy mówią: jeszcze nie

Wniosek przeglądu jest zaskakująco prosty: obecne modele mają słabą użyteczność kliniczną i nie ma podstaw, by traktować je jako gotowe narzędzia praktyczne. Potrzeba lepszej walidacji, bardziej przejrzystych modeli i badań nad dynamicznym przewidywaniem ryzyka.

To nie jest argument przeciwko AI. To argument przeciwko pomijaniu etapu, w którym innowację trzeba jeszcze sprawdzić. W nauce przycisk „wdrożenie” powinien jednak znajdować się trochę dalej od przycisku „wytrenowano model”.

Źródło: S. Kozhevnikova, D. Yukhnenko, G. Scola, S. Fazel, “Machine learning for violence prediction: A systematic review and critical appraisal”, Journal of Criminal Justice, 105 (2026), 102697. DOI: 10.1016/j.jcrimjus.2026.102697

https://doi.org/10.1016/j.jcrimjus.2026.102697