Judecător american: Tehnologia informatică exercită o presiune semnificativă asupra sistemului judiciar

Cazul lui Eric L. Loomis, un bărbat din statul american Wisconsin, care a fost condamnat la şase ani de închisoare pe baza unui raport de evaluare generat de un program informatic, a suscitat interesul magistraţilor din Statele Unite.

Raportul în cazul Loomis a fost generat de un produs informatic numit Compas, comercializat de compania Northpointe Inc. Acesta conţinea o serie de estimări privind riscul ca Loomis să comită noi infracţiuni.

Procurorul a declarat în instanţă că raportul indica "un risc crescut de violenţă şi un risc ridicat de recidivism". Judecătorul a fost de acord, spunând că inculpatul "a fost identificat, prin intermediul evaluării Compas, drept un individ ce reprezintă un risc ridicat pentru comunitate".

Curtea Supremă din Wisconsin a indicat că raportul a oferit informaţii valoroase, iar Loomis ar fi primit o sentinţă asemănătoare şi dacă ar fi fost luaţi în calcul doar factorii uzuali, inclusiv natura infracţiunii lui şi cazierul acestuia.

Pe de altă parte, instanţa şi-a exprimat aparenta nelinişte în legătură cu utilizarea unui program informatic care are la bază algoritmi secreţi. Judecătoarea Ann Walsh Bradley a adus în discuţie un studiu despre Compas al organizaţiei nonprofit ProPublica în care se concluziona că în cazul inculpaţilor de culoare din comitatul Broward, Florida, "probabilitatea era mai mare ca aceştia să fie în mod incorect evaluaţi ca având o rată mai ridicată de recidivism comparativ cu inculpaţii albi".

Totuşi, Bradley s-a pronunţat în favoarea utilizării instrumentului informatic Compas, în pofida faptului că algoritmii programului sunt secreţi.

Brad D. Schimel, procurorul general al statului Wisconsin, a declarat că Loomis "are libertatea să pună la îndoială evaluarea şi să explice posibile carenţe ale acesteia". Autorul materialului însă este de părere că este greu de crezut că inculpatul va putea face ceva semnificativ în acest sens în lipsa accesului la algoritmii care stau la baza programului.

Compas şi alte instrumente care utilizează algoritmi similari joacă un rol în sistemul juridic din mai multe state. Un raport al Centrului pentru Confidenţialitatea Informaţiilor Electronice indică faptul că "modul de funcţionare al acestor instrumente este în ceea mai mare parte ascuns publicului".