L’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales
Amendement n°1
📝 Amendement
24. note que la police prédictive fait partie des applications d’IA utilisées dans le domaine répressif, mais attire l’attention sur le fait que, si elle permet d’analyser des séries de données en vue de l’identification de modèles et corrélations, elle ne peut répondre à la question de la causalité et prédire de manière fiable le comportement des personnes, et ne peut donc pas constituer à elle seule une base d’intervention; souligne que plusieurs villes des États-Unis ont cessé d’utiliser leurs systèmes de police prédictive à la suite d’audits; rappelle que, lors de la mission de la commission LIBE aux États- Unis en février 2020, les services de police de New York et de Cambridge (Massachusetts) ont indiqué qu’ils avaient progressivement abandonné leurs programmes de police prédictive, en raison de leur manque d’efficacité, de leur effet discriminatoire et de leur échec dans la pratique, au profit de la police de proximité; observe que ce changement a entraîné une baisse du taux de criminalité;
s’oppose
invite
dès lors
à ce que les autorités répressives
les autorités répressives à faire preuve de la plus grande prudence lorsqu’elles
utilisent l’IA pour prédire le comportement de personnes ou de groupes en se fondant sur des données historiques et les comportements passés, l’appartenance à un groupe, la localisation ou toute autre caractéristique de ce type, en tentant ainsi d’identifier les personnes susceptibles de commettre une infraction;
souligne que ces outils ne devraient être utilisés que lorsque toutes les garanties nécessaires auront été mises en place pour éliminer les préjugés existants; invite les États membres et les autorités répressives à surveiller en permanence les effets, la nécessité et les éventuelles conséquences négatives de ces outils; souligne que ces outils ne peuvent être utilisés que comme des aides et ne peuvent être le seul élément sur lequel s’appuient les services répressifs; invite toutefois la Commission et les États membres à soutenir les environnements d’essai et les projets pilotes pour permettre la poursuite du développement et l’amélioration de ces outils en vue de les rendre plus solides et précis;