Pot ser justa una probabilitat?

Una jutgessa té al davant una persona que ha de jutjar. Escolta, observa, intenta entendre. Al seu costat, una pantalla fa una altra cosa: calcula.
82 % de probabilitat de reincidència.^[1]

I aquí em vaig quedar.

Perquè reconec que, de vegades, quan veig algunes decisions humanes, penso —mig de broma, mig seriosament— que potser els robots ens governarien millor. No es cansen, no tenen un mal dia, no es deixen portar per simpaties i poden processar quantitats d’informació impossibles per a les persones. Sona temptador. Fins que aquest 82 % té una persona al davant.

La pel·lícula imagina un futur proper en què es planteja substituir jutges i jutgesses per un sistema d’intel·ligència artificial que promet una justícia més ràpida, objectiva i menys influïda per interessos humans. I la pregunta em sembla molt bona perquè la resposta no és tan còmoda com sembla.

Les persones tenim biaixos, interpretem, ens equivoquem i ens podem deixar portar per emocions, prejudicis o interessos. Però també fem una cosa difícil de posar en una fórmula: mirem el context.

Una probabilitat de reincidència pot estar construïda amb milers de dades i ser estadísticament molt sòlida. Però continua parlant de persones que s’assemblen a aquella persona, no necessàriament d’aquella persona. I què fem, doncs, amb el 18 % restant? Aquí apareix l’empatia, i també el problema.

L’empatia ens pot ajudar a entendre alguna cosa que un patró no veu. Però també ens pot fer equivocar. Sentir més no sempre vol dir decidir millor.

Per això la pel·lícula em va fer pensar en quina part d’una decisió acceptaríem delegar, més que en una oposició entre persones i màquines.

La IA pot ajudar a detectar patrons, recuperar jurisprudència, comparar casos o estimar riscos. A Califòrnia, les avaluacions de risc poden aportar informació al tribunal, però no estan pensades per substituir el criteri judicial ni ser l’única base de la decisió.^[2] Però ajudar a decidir i decidir per les persones són coses diferents. No sé on és exactament la frontera.

El que sí que intueixo és que, com més impacte té una decisió en la vida d’algú, més important és saber qui n’assumeix la responsabilitat. Un algoritme pot calcular una probabilitat, i el més difícil comença just després.