Intelligence artificielle: questions relatives à l’interprétation et l’application du droit international dans la mesure où l’Union est concernée dans les domaines des utilisations civiles et militaires et à l’autorité de l’État en dehors du champ d’application de la justice pénale

Procédure terminée

🎯 Résumé

📌 Votes principaux

👍 Proposition de résolution
✅️ Adopté

🇪🇺 Députés européens

364
274
52

🇫🇷 Députés français🗳 Voir le vote

29
49
Parmi 79 députés, 78 ont votés.
20 janvier 2021

📚 Sources

🗃️ Données

📝 Amendement n°1 ❌️ Rejeté

72. observe que certaines technologies d’IA permettent l’automatisation, à une échelle sans précédent, du traitement de l’information et des actions d’information, comme dans le cas de la surveillance de masse dans les domaines civil et militaire, ce qui représente une menace pour les droits fondamentaux et ouvre la voie aux ingérences illégales dans la souveraineté des États ; demande que les activités de surveillance de masse fassent l’objet d’un contrôle conformément au droit international, notamment en ce qui concerne les questions de juridiction et d’application du droit; se déclare vivement préoccupé par le fait que certaines applications de notation sociale hautement intrusives qui ont été mises au point portent gravement atteinte au respect des droits fondamentaux; demande que le recours à la notation sociale à grande échelle par les autorités publiques pour limiter les droits des citoyens soit explicitement interdit; demande que la responsabilité des acteurs privés soit renforcée en vertu du droit international compte tenu de l’hégémonie décisionnelle et du contrôle que certains acteurs privés exercent sur le développement de ces technologies; invite la Commission, le Conseil et les États membres, dans ce contexte, à se montrer particulièrement attentifs dans le cadre des négociations, de la conclusion et de la ratification d’accords internationaux relatifs aux affaires familiales transfrontalières, telles que les enlèvements internationaux d’enfants, et à veiller à ce que, dans ce contexte, les systèmes d’IA soient toujours utilisés sous surveillance humaine effective et dans le respect de la légalité, au sein de l’Union et dans les pays signataires de ces accords;

Déposé par des députés dont aucun français

🔗 Voir la source

🚫 Aucun amendement
Nicolas BAY | Rassemblement national
. – J’ai soutenu ce rapport de mon collègue Gilles Lebreton, qui appelle à un cadre juridique européen avec des définitions et des principes éthiques. Ces règles doivent garantir que la dignité humaine et les droits de l’homme soient respectés et que les systèmes d’IA soient soumis à un contrôle humain significatif, permettant aux humains de les corriger ou de les désactiver en cas de comportement imprévu. Par conséquent, les êtres humains devraient être identifiables et tenus pour responsables en dernier ressort. Ce cadre s’applique à l’utilisation de l’IA dans tous les domaines : santé, justice, militaire, surveillance… Il permettra une utilisation raisonnée de l’IA, ne refusant pas le progrès technologique, sans qu’il échappe à l’homme.
Dominique BILDE | Rassemblement national
J'ai voté pour ce rapport assez consensuel, et qui est un travail de mon collègue Gilles Lebreton.
Geoffroy DIDIER | Les Républicains
Ce rapport d'initiative souligne les potentiels et les risques que l’intelligence artificielle (IA) peut présenter en ce qui concerne l’interprétation et l’application du droit international. Il vise notamment à encadrer les dispositions juridiques dans les domaines de l’utilisation civile et militaire. Avec une approche européenne de la réglementation sur l’IA, les citoyens européens pourront bénéficier d’un cadre approprié, efficace, transparent et cohérent tout en garantissant à l’UE et à ses États membres le contrôle des réglementations. Je me positionne donc en faveur de ce rapport.
Brice HORTEFEUX | Les Républicains
. – Le rapport Lebreton s’intéresse au rôle de l’intelligence artificielle dans les relations internationales, à son usage militaire, dans le domaine de la sécurité mais aussi à son incidence sur le droit international privé. L’intelligence artificielle est devenue un outil incontournable dans nos usages du quotidien et stratégique pour les États. Je me suis cependant abstenu sur le paragraphe concernant le moratoire sur la reconnaissance faciale. Si je partage l’analyse qu’une évaluation préalable de son incidence sur les droits fondamentaux est essentielle dans les écoles et les établissements de santé, je pense au contraire que la reconnaissance faciale est un outil indispensable pour lutter contre les menaces terroristes dans les aéroports.
France JAMET | Rassemblement national
Sur la base des propositions du rapport et des compromis préparés par mon collègue Gilles Lebreton, la commission a ici adopté des lignes directrices sur l'usage de l'intelligence artificielle à des fins militaires ainsi que, notamment, dans les secteurs de la santé et de la justice. J’ai naturellement soutenu ce texte.
Gilles LEBRETON | Rassemblement national
J'ai voté pour ce texte sur l'intelligence artificielle car je l'ai personnellement rédigé après plusieurs mois de travail et de négociation. Les députés LREM, PS, Verts et LFI auront tout tenté pour que le rapport n’aboutisse pas, mais j’ai tenu bon. Mon objectif est de définir un cadre éthique basé sur la primauté et le respect de la personne humaine. En aucun cas l'intelligence artificielle ne doit échapper au contrôle d'une personne humaine. C'est ainsi qu'en matière militaire, par exemple, les robots tueurs ne doivent jamais pouvoir décider seuls de donner la mort.
Emmanuel MAUREL | Gauche républicaine et socialiste
Ce rapport vise à formaliser plusieurs principes de droit international public qui pourront encadrer le développement de l’intelligence artificielle dans des domaines tels que le militaire, la santé, le transport et la justice. Si le rapport est meilleur que ce à quoi on pouvait s’attendre, il reste globalement favorable au développement des systèmes d’armes létaux autonomes (SALA). En s’en tenant à une « non-prolifération » des SALA, le texte les autorise de facto.De plus, il demeure timoré sur le contrôle (qui ne doit pas « fausser sensiblement le marché ») des technologies d’IA développées par des entreprises privées ; et met à mal le rôle de la puissance publique dans ces domaines.Enfin, concernant l’adoption d’un moratoire sur l’utilisation des systèmes de reconnaissance faciale par les autorités répressives dans les espaces semi-publics, il souhaite d’abord « évaluer les conséquences [de ce] moratoire sur l’utilisation des systèmes de reconnaissance faciale » au lieu de le mettre en place directement.Pour toutes ces raisons, j’ai voté contre ce texte.
Joëlle MÉLIN | Rassemblement national
Le rapport appelle à un cadre juridique européen avec des définitions et des principes éthiques. Ces règles doivent garantir que la dignité humaine est respectée et que les systèmes d'IA sont soumis à un contrôle humain significatif, permettant de les corriger, voire les désactiver, en cas de comportement imprévu.Dans le domaine militaire, le texte souligne que les systèmes d’armes létales autonomes ne devraient être utilisés qu'en dernier recours et n'être légaux que s'ils sont soumis à un contrôle humain.S’agissant des services publics, en particulier les soins de santé et la justice, l’IA ne doit pas remplacer la dimension humaine ni négliger la protection des données personnelles (par exemple pour la chirurgie assistée par robot, les prothèses intelligentes). Face aux juges, qui utilisent les technologies de l'IA dans la prise de décisions et pour accélérer les procédures, des garanties doivent être introduites afin de protéger les intérêts des citoyens. Surtout, l'IA ne peut en aucun cas remplacer les humains pour prononcer des peines.Par ailleurs, le rapport met en garde contre les menaces aux droits fondamentaux dues à l'utilisation des technologies d'IA dans la surveillance de masse dans le domaine civil et militaire.J’ai voté POUR ce texte équilibré.
Nadine MORANO | Les Républicains
. – Je me suis abstenue sur ce rapport d’initiative relatif à l’intelligence artificielle, et plus précisément aux questions liées à l’interprétation et à l’application du droit international dans la mesure où l’Union est concernée dans les domaines des utilisations civiles et militaires et à l’autorité de l’État en dehors du champ d’application de la justice pénale. Le texte contenait des dispositions intéressantes, telle l’invitation faite aux États membres d’évaluer les risques liés à l’IA avant d’automatiser les activités placées sous l’autorité de l’État. Mais il contenait également des dispositions inacceptables visant à limiter, voire empêcher l’usage de la technologie de la reconnaissance faciale. Or je considère que cette technologie, accompagnée de garanties juridiques solides, présente une forte valeur ajoutée dans le domaine de la lutte contre la criminalité organisée et le terrorisme. Je ne pouvais donc soutenir ce texte.
Anne SANDER | Les Républicains
J’ai voté en faveur de ce rapport qui souligne les potentiels et les risques offerts par le développement, le déploiement et l'utilisation de l'intelligence artificielle (IA) pour la sécurité tant au sein de l'UE que dans ses relations extérieures. Le développement de l’IA est essentiel pour l’avenir de la croissance économique, c’est pourquoi je soutiens une législation de l’IA dans un cadre européen. La difficulté de ce rapport a été de toujours garder à l’esprit la primauté de l’éthique et le respect de la dignité humaine dans ce domaine si vaste que représente l’IA. Grâce à ce texte, les citoyens européens pourront saisir les opportunités offertes par l’IA tout en bénéficiant d'une approche réglementaire efficace pour garantir que l'UE et ses États membres conservent le contrôle des réglementations à établir dans ce domaine, de sorte qu'ils ne soient pas contraints d'adopter ou d'accepter des normes fixées par d'autres. Il parait essentiel d’instaurer un cadre harmonisé puisque l’IA touche à beaucoup de domaines, aussi bien les sujets tels que la robotique et ses technologies connexes, le transport, le processus de décision judiciaire que la technologie militaire, notamment l’armement.
Manon AUBRY | La France Insoumise
Ce rapport vise à présenter les propositions du parlement européen en matière d’encadrement de l’intelligence artificielle dans les domaines militaire, sanitaire, judiciaire, etc. Il n’appelle pas clairement à refuser le développement des systèmes d’armes létales autonomes et s’en tient à des appels à leur encadrement et à leur non-prolifération. J’ai donc voté contre ce texte qui sous-estime les risques du recours à l’intelligence artificielle dans le domaine militaire et aurait dû proposer des garde-fous bien plus contraignants.
Manuel BOMPARD | La France Insoumise
Ce rapport vise à intégrer plusieurs principes de droit international public susceptibles d’encadrer le développement de l’intelligence artificielle dans des domaines tels que le militaire, la santé, le transport et la justice. Si ce rapport présente certes des points intéressants, je suis extrêmement préoccupé par la promotion invétérée qu’il fait des systèmes d’armes létaux autonomes (en d’autres termes des armes capables de tuer de leur propre chef, sans réel contrôle humain) et du recours à des entreprises militaires privées... La privatisation et la déshumanisation de l’action militaire sont deux facettes d’un même phénomène dont les deux victimes seront la démocratie et les droits humains. Je redoute le monde terrible que les apprentis sorciers inventent à coup de rapports irréfléchis. Je vote sans hésitation contre ce texte.
Laurence FARRENG | Mouvement Démocrate
J'ai voté, le 20 janvier, contre ce rapport d'initiative portant sur l'application et l'interprétation du droit international en matière d'intelligence artificielle, ma ligne politique étant de voter contre tout rapport non-législatif porté par le groupe ID, ne souhaitant pas être liée avec ce groupe politique et les positions qu'il défend. Ce rapport aborde notamment l'IA par ses aspects militaires, et vis-à-vis du droit de la guerre.
Jérôme RIVIÈRE | Rassemblement national
Avec ou sans les modifications, le rapport final est assez consensuel sur les sujets traités.Pour
Jean-Paul GARRAUD | Rassemblement national
. – J’ai voté en faveur du rapport dit «d’initiative», c’est-à-dire un rapport qui a vocation à orienter l’action future de l’Union européenne, de mon collègue du RN Gilles Lebreton et qui a été adopté par le Parlement européen.Il a pour objet d’établir des recommandations pour l’utilisation de l’IA dans trois domaines qui relèvent de la souveraineté des États: le domaine militaire, la justice, et la santé.Dans le domaine militaire, il affirme que toute arme utilisant l’IA doit rester à tout moment sous un contrôle humain et respecter le droit de la guerre, notamment les Conventions de Genève de 1949.En matière de justice, le rapport recommande aux États de ne recourir à l’IA que pour aider les juges humains à rendre leurs jugements, mais en aucun cas pour la substituer à eux. Il affirme aussi que tout justiciable doit toujours avoir le droit d’accéder à un juge humain.En matière de santé, enfin, il estime que le recours à l’IA ne doit jamais entraver la relation entre le patient et son médecin, ni déshumaniser l’accès aux soins.L’adoption de ce rapport prouve en définitive la crédibilité du modèle d’Europe des nations et des libertés porté par le RN.
Virginie JORON | Rassemblement national
J’ai voté pour ce rapport préparé par un député RN définissant les lignes directrices sur l'usage de l'intelligence artificielle à des fins militaires ainsi que, notamment, dans les secteurs de la santé et de la justice. Dans le domaine militaire, les systèmes d’armes létales autonomes devraient être soumis à un contrôle humain, étant donné que c'est aux humains qu'il incombe ici de décider entre la vie et la mort. Lorsqu’elle est utilisée dans le domaine de la santé publique (par exemple pour la chirurgie assistée par robot, les prothèses intelligentes, la médecine prédictive), les données personnelles des patients doivent être protégées et le principe de l'égalité de traitement doit être respecté.
Jordan BARDELLA | Rassemblement national
J’ai voté en faveur de ce texte, porté par Gilles Lebreton, eurodéputé du Rassemblement National, qui appelle à un cadre juridique européen avec des définitions et des principes éthiques pour encadrer l’intelligence artificielle, notamment dans le domaine militaire et dans le domaine de la santé.
Catherine GRISET | Rassemblement national
. – Mon collègue Gilles Lebreton s’est battu pour défendre une position proche des idées du RN sur ce dossier, face aux autres membres français qui lui ont compliqué la tâche. Suite à son travail, la Commission a adopté des lignes directrices sur l'usage de l'intelligence artificielle à des fins militaires ainsi que, notamment, dans les secteurs de la santé et de la justice.Le texte demande la mise en place d’un cadre juridique européen et la définition de principes d’éthiques sur l’IA et les applications. Il souhaite que l’homme ait toujours un contrôle absolu des mécanismes d’intelligence artificielle, notamment dans le domaine militaire. Le rapport demande aussi l’interdiction des «applications de notation sociale hautement intrusives» (comme celles présentes en Chine) par les autorités publiques.J’ai donc voté pour ce texte.
Hélène LAPORTE | Rassemblement national
Le rapport final appelle à un cadre juridique européen avec des définitions et des principes éthiques dans l’intelligence artificielle. Ces règles doivent garantir que la dignité humaine et les droits de l'homme sont respectés et que les systèmes d'IA sont soumis à un contrôle humain significatif, permettant aux humains de les corriger ou de les désactiver en cas de comportement imprévu. Par conséquent, les êtres humains devraient être identifiables et tenus pour responsables en dernier ressort. Dans le domaine militaire, le texte souligne que les systèmes d’armes létales autonomes ne devraient être utilisés qu'en dernier recours et n'être légaux que s'ils sont soumis à un contrôle humain, étant donné que c'est aux humains qu'il incombe ici de décider entre la vie et la mort. Par ailleurs, le rapport met en garde contre les menaces aux droits fondamentaux dues à l'utilisation des technologies d'IA dans la surveillance de masse dans le domaine civil et militaire, et appelle à une interdiction des «applications de notation sociale hautement intrusives» par les autorités publiques. J’ai voté pour ce texte qui apporte des avancées importantes dans le domaine de l’intelligence artificielle.
Aurélia BEIGNEUX | Rassemblement national
Mon collègue Gilles Lebreton s’est battu pour défendre une position proche des idées du RN sur ce dossier, face aux autres membres français qui lui ont compliqué la tâche.Suite à son travail, la Commission a adopté des lignes directrices sur l’usage de l’intelligence artificielle à des fins militaires ainsi que, notamment, dans les secteurs de la santé et de la justice.Le texte demande la mise en place d’un cadre juridique européen et la définition de principes d’éthique sur l’IA et les applications. Il souhaite que l’homme ait toujours un contrôle absolu des mécanismes d’intelligence artificielle, notamment dans le domaine militaire.Le rapport demande aussi l’interdiction des «applications de notation sociale hautement intrusives» (comme celles présentes en Chine) par les autorités publiques.C’est pourquoi j’ai voté pour ce texte.
Mathilde ANDROUËT | Rassemblement national
Sur la base des propositions de ce rapport préparées par notre ami Gilles Lebreton, la commission a ici adopté des lignes directrices sur l’usage de l’IA. Ce texte met en garde contre les menaces aux droits fondamentaux dues à l’utilisation des technologies d’IA dans la surveillance de masse. Il appelle à une interdiction des «applications de notation sociale hautement intrusives» par les autorités publiques. Le rapport souhaite l’émergence d’un cadre juridique européen avec des définitions et des principes éthiques (garantir le respect des droits de l’homme) et que les systèmes d’IA soient soumis à un contrôle humain significatif. C’est-à-dire que les êtres humains doivent être identifiables et tenus pour responsables en dernier ressort. Et ce, que ce soit dans le domaine militaire (robot tueur), de la santé (notamment pour la chirurgie assistée par robot) ou dans le domaine de la justice puisque les juges, utilisent de plus en plus les technologies de l’IA dans la prise de décisions et pour accélérer les procédures, étant rappelé que l’IA ne peut en aucun cas remplacer les humains pour prononcer des peines. J’ai voté pour.
Annika BRUNA | Rassemblement national
J’ai voté en faveur de ce rapport sur l’intelligence artificielle qui concerne notamment le champ de l'éthique, de la responsabilité civile et de la propriété intellectuelle. Il s’agit de garantir que la dignité humaine et les droits de l'homme soient respectés et que les systèmes d'IA soient soumis à un contrôle humain significatif, permettant aux humains de les corriger ou de les désactiver en cas de comportement imprévu.Je félicite le rapporteur de ce texte, mon collègue Gilles Lebreton, député RN, qui a proposé un texte équilibré sur ce sujet très important pour le développement futur de notre économie.
🚫 Aucune explication de vote
🚫 Aucune intervention en plénière