En Catalogne, RisCanvi, une IA, évalue le risque de récidive et conditionne les sorties des détenus

Contexte et fonctionnement de RisCanvi

Depuis quinze ans, les prisons de Catalogne utilisent RisCanvi, un logiciel qui attribue à chaque détenu un score basé sur son risque de récidive. Présenté comme un outil objectif et performant, l’usage soulève néanmoins des questions sur sa capacité à prédire le comportement futur et sur l’équilibre entre sécurité et droits humains.

Modalités d’application et mécanisme de décision

Dans chaque établissement, des professionnels évaluent les détenus selon divers critères, comme l’origine sociale, la personnalité et les dépendances. Dans les prisons qui emploient RisCanvi, l’obtention d’une permission de sortie ou d’une liberté conditionnelle dépend du score attribué par le logiciel. Selon Carles Soler, psychologue et contributeur au développement, RisCanvi uniformise les grilles d’évaluation utilisées par les quelque 700 agents pénitentiaires impliqués.

Portée géographique et usages similaires

La Catalogne n’est pas une exception: des systèmes algorithmiques analogues sont également utilisés aux États-Unis, au Canada et au Royaume-Uni dans le secteur pénitentiaire.

Enjeux éthiques et limites opérationnelles

Bien que présenté comme objectif et neutre, RisCanvi présente des limites. Selon une étude, 82 % des détenus jugés à risque ne récidivent pas. Juger une personne sur la base d’une statistique relative au passé d’autrui soulève des questions morales et juridiques, notamment quant à l’évaluation de l’individu au regard du comportement d’autres détenus.

Par ailleurs, l’usage de l’outil peut peser sur les perspectives de réinsertion sociale. Eva Vivo souligne que les peines doivent viser la réinsertion autant que la punition; priver un prisonnier de tout aménagement si son comportement en détention est satisfaisant peut entraver ses efforts et, paradoxalement, nuire à la sécurité à long terme.

Réponses et impacts sur la vie des détenus

Des témoignages évoquent des situations où le score RisCanvi a influé sur des permissions. Un ancien détenu de Brians II, près de Barcelone, affirme avoir rempli les critères mais avoir vu sa demande de sortie refusée, sans que le refus soit expliqué autrement que par le score RisCanvi. Un autre détenu déclare n’avoir jamais entendu parler de RisCanvi et explique qu’il a fallu plusieurs années pour démontrer une erreur éventuelle du système.

Perspectives et cadre international

Le recours croissant à des algorithmes dans les systèmes pénitentiaires est également observé ailleurs, ce qui nourrit le débat sur l’équilibre entre sécurité et droits fondamentaux et sur les garanties procédurales associées à ces outils.