Cadre des aspects éthiques de l’intelligence artificielle, de la robotique et des technologies y afférentes

Procédure terminée

📌 Votes principaux

👍 Proposition de résolution
✅️ Adopté

🇪🇺 Députés européens

559
44
88

🇫🇷 Députés français🗳 Voir le vote

51
27
Parmi 79 députés, 78 ont votés.
20 octobre 2020

📚 Sources

🗃️ Données

📝 Amendement n°1 ❌️ Rejeté

B. considérant que l’intelligence artificielle, la robotique et les technologies connexes, qui sont susceptibles d’ouvrir de nouvelles perspectives aux entreprises et de profiter aux citoyens, mais aussi d’ de profiter aux citoyens et peuvent avoir une incidence directe sur tous les aspects de nos sociétés, y compris les droits fondamentaux et les valeurs et principes sociaux et économiques de base, et d’exercer une influence durable de même qu’elles peuvent exercer une influence durable sur les perspectives des entreprises et sur l’ensemble des secteurs d’activité, connaissent un développement et une diffusion rapides;

Déposé par GUE/NGL (🇫🇷 : La France Insoumise, Gauche républicaine et socialiste)

🔗 Voir la source

📝 Amendement n°2 ❌️ Rejeté

AB. considérant que, pour garantir une approche harmonisée dans l’ensemble de l’Union et le fonctionnement optimal du marché unique numérique, la coordination assurée surveillance et le contrôle assurés au niveau de l’Union par la Commission et/ou par les institutions, organes et organismes compétents de l’Union susceptibles d’être désignés à cette fin doit doivent être évaluée évalués au regard des nouvelles possibilités et des nouveaux défis, en particulier de nature transfrontière, découlant des évolutions technologiques en cours; que, à cette fin, la Commission doit être chargée de trouver une solution appropriée pour structurer cette coordination au niveau de l’Union;

Déposé par GUE/NGL (🇫🇷 : La France Insoumise, Gauche républicaine et socialiste)

🔗 Voir la source

📝 Amendement n°3 ✅️ Adopté

55. considère que les objectifs de la responsabilité sociale, de l’ équilibre égalité entre les hommes et les femmes, de la protection de l’environnement et de la durabilité devraient être sans préjudice des obligations générales et sectorielles existant dans ces domaines; est convaincu qu’il convient d’établir à l’intention des développeurs, des déployeurs et des utilisateurs, en particulier des technologies à haut risque, des lignes directrices non contraignantes en matière de mise en œuvre, relatives à la méthode applicable pour évaluer le respect du présent règlement et la réalisation des objectifs précités;

Déposé par GUE/NGL (🇫🇷 : La France Insoumise, Gauche républicaine et socialiste)

🔗 Voir la source

📝 Amendement n°4 ❌️ Rejeté

71 bis. partage les doutes exprimés par de nombreuses organisations de défense des droits de l’homme ainsi que par le Comité européen de la protection des données, lesquels ont souligné que l’utilisation intensive de dispositifs vidéo basés sur des application d’IA comporterait des risques importants en matière de protection des données, qu’elle restreindrait de manière disproportionnée les possibilités de mouvement anonyme, qu’elle engendrerait un sentiment général d’intrusion permanente dans la sphère privée et intime, qu’elle affecterait le comportement des citoyens et des institutions d’une manière qui entrerait probablement en conflit avec les principes fondamentaux de l’Union dans le domaine des libertés civiles, et qu’il serait impossible, à court terme, de prévenir les erreurs liées aux défaillances de l’analyse faite par les logiciels des différences d’âge, de genre et d’origine ethnique; demande par conséquent que la Commission prévoie, dans le cadre de la proposition législative à venir, l’interdiction de déployer ou d’utiliser des technologies de reconnaissance faciale dans les espaces publics ouverts, tant qu’il n’aura pas été apporté de réponse adaptée et globale à ce problème et que l’ensemble de ces risques n’auront pas été écartés.

Déposé par GUE/NGL (🇫🇷 : La France Insoumise, Gauche républicaine et socialiste)

🔗 Voir la source

📝 Amendement n°5 ❌️ Rejeté

128. souligne l’importance de la coordination au niveau de l’Union, telle qu’elle est assurée par la Commission et/ou les institutions, organes et organismes compétents de l’Union qui pourraient être désignés dans ce contexte, afin de lutter contre les discordances éventuelles entre les évaluations nationales, d’éviter la fragmentation et de garantir une approche mise en œuvre harmonisée dans toute l’Union; considère que la coordination devrait se concentrer sur les mandats et les actions des organismes nationaux de surveillance de chaque État membre, comme indiqué dans la sous-section précédente, ainsi que sur le partage des bonnes pratiques entre ces organismes et la contribution à la coopération en matière de recherche et de développement dans ce domaine dans l’ensemble de l’Union; invite la Commission à évaluer et à trouver la solution la plus appropriée pour structurer cette coordination; note que les institutions, organes et organismes compétents de l’Union comprennent l’ENISA, le CEPD et le Médiateur européen;

Déposé par GUE/NGL (🇫🇷 : La France Insoumise, Gauche républicaine et socialiste)

🔗 Voir la source

🚫 Aucun amendement
Nicolas BAY | Rassemblement national
. – L’idée générale, consistant à établir un cadre éthique au développement de l’intelligence artificielle, de la robotique et des technologies qui y sont liées, est bien représentée dans ce texte : il faut que ces technologies restent sous le contrôle et la responsabilité des humains. Malheureusement, le texte est gâté par la volonté, typique de Bruxelles, de donner des perspectives beaucoup trop rigides et court-termistes alors qu’il s’agit d’un secteur en rapide évolution. J’ai préféré m’abstenir.
Dominique BILDE | Rassemblement national
Je me suis abstenue sur ce texteLes négociations autour de ce texte ont été mal maîtrisées et il en résulte une version finale de piètre qualité, traitant d'innombrables secteurs affectés par l'intelligence artificielle sous un angle technique davantage qu'éthique.
Geoffroy DIDIER | Les Républicains
Ce texte, dont j’ai été le rapporteur pour le Groupe PPE, encourage la Commission à proposer un nouveau cadre juridique définissant les principes éthiques et les obligations juridiques à respecter lors du développement, du déploiement et de l’utilisation de l’intelligence artificielle, de la robotique et des technologies connexes dans l’Union. Le PPE a convaincu l’ensemble des groupes politiques de la nécessité de réguler uniquement les technologies à haut risque afin de ne pas freiner l’innovation économique, notamment celle des PME. Si certaines technologies, comme la reconnaissance faciale, ne sont pas anodines et méritent naturellement d’être contrôlées, d’autres, comme par exemple une application de loisirs sur son téléphone portable, ne doivent en aucun cas subir les mêmes contraintes normatives. Le PPE a aussi réussi à convaincre les autres groupes politiques de l’inutilité de créer une autorité européenne de plus. L’Europe doit à tout prix éviter de concevoir de nouvelles structures qui ne font qu’ajouter de la complexité et des dépenses de fonctionnement.
Gilles LEBRETON | Rassemblement national
Je me suis abstenu sur ce rapport volumineux car le projet initial est devenu indigeste et aborde de nombreux domaines concernés par l’IA sous l’angle technique plutôt que sous ses aspects éthiques. Même si la ligne générale est axée sur l’idée que l’IA doit rester sous la responsabilité et le contrôle humains, le rapporteur a mal maîtrisé les négociations. En outre, l’inclusion des concepts de ‘discours de haine, fake news et désinformation’ sont beaucoup trop vagues et subjectifs et ouvre la voie à de possibles censures.
Emmanuel MAUREL | Gauche républicaine et socialiste
L’intelligence artificielle (IA) est appelée à connaître une croissance vertigineuse à court et moyen terme. Mais les citoyens s’inquiètent aussi, à juste titre, des risques que l’IA fait peser sur nos droits fondamentaux et nos libertés. Face aux Etats-Unis qui voient l’IA sous un prisme utilitariste et lucratif, face à la Chine qui l’utilise pour contrôler sa population et renforcer sa dictature, l’Europe doit poser un cadre et des limites. Pour ce faire, le rapport de mon collègue Garcia Del Blanco propose une méthode : distinguer les IA à haut risque, qui devront respecter strictement la vie privée, la dignité humaine, les grands textes protecteurs (charte des droits fondamentaux, RGPD...), des autres IA, qui bénéficieront d’un cadre plus souple. Cette méthode est controversée, car finalement peu d’IA seront classées « à haut risque », cependant que des IA non « à haut risque » pourraient se révéler plus dangereuses que prévu. Par ailleurs, le texte ne va pas assez loin sur la reconnaissance faciale et se contente de l’encadrer alors qu’il faudrait la bannir de l’espace public. Enfin, en organisant une régulation État par État, il crée un environnement propice au dumping numérique. Pour ces raisons je me suis abstenu.
Joëlle MÉLIN | Rassemblement national
Consacré aux aspects éthiques de l’IA, de la robotique et des technologies connexes, ce rapport a pour objectif d’amener la Commission à présenter un règlement. Partant d’un projet qui se concentrait initialement sur les aspects éthiques, le rapport, au fil des discussions, a intégré de nombreux aspects techniques. Notons l’inclusion de concepts de fake news trop vagues et subjectifs, la création d’un certificat européen de conformité éthique qui est source de potentielles lourdeurs et de centralisme et la définition d’une liste exhaustive de secteurs et d'utilisations à haut risque de ces technologies. Sur ce point, j’estime qu’une telle liste ne réussira pas à englober tous les aspects de technologies qui évoluent très vite. Mon Groupe ID avait proposé une liste non exhaustive qui laisserait aux États membres la capacité de la compléter avec plus de souplesse et de rapidité de réaction, une coordination entre États membres et au niveau de l’UE pouvant venir à un stade ultérieur. Il est dommage que le rapporteur ait mal maîtrisé les négociations autour de ce texte car je partage ses idées originelles de contrôle de la technologie « Science sans conscience n’est que ruine de l’âme ». Je me suis donc abstenue.
Nadine MORANO | Les Républicains
J’ai voté en faveur de ce rapport relatif à un cadre pour les aspects éthiques de l’intelligence artificielle, de la robotique et des technologies connexes. Le texte souligne le rôle majeur que l’Union européenne est appelée à jouer dans la régulation de l’intelligence artificielle. Il propose notamment la création d’organismes nationaux de surveillance. J’ai rejeté un amendement qui demandait l’interdiction générale de tout recours à la reconnaissance faciale.
Manon AUBRY | La France Insoumise
Ce rapport vise à présenter les propositions du parlement européen sur l’élaboration de règles éthiques s’appliquant au développement de l’intelligence artificielle. Il préconise de penser ces technologies de manière inclusive et humaine, dans le respect des valeurs démocratiques, du respect de l’environnement et des droits des travailleurs. Il recommande en revanche une méthodologie trop restrictive pour établir le classement “haut risque” et ne prend pas la mesure de la possibilité de dumping éthique (notamment en matière de respect des droits fondamentaux) au sein de l’UE si l’évaluation de ce risque est confié aux Etats. Je me suis donc abstenue sur ce texte qui propose des réflexions intéressantes mais ne va pas assez loin pour encadrer suffisamment l’évolution des technologies liées à l’intelligence artificielle.
Manuel BOMPARD | La France Insoumise
La Commission a fait du développement de l’intelligence artificielle (IA) et des technologies connexes en priorité de son mandat. La pandémie actuelle et les mesures prises ont accéléré le recours au numérique, suscitant ainsi de nombreuses questions de la part des citoyens sur les risques portés par ces technologies. Ce rapport fait une proposition de règlement établissant les principes éthiques que les développeurs d’IA devront respecter, particulièrement en ce qui concerne les IA dites à haut risque. Ce rapport soumet toutes les IA au respect de la dignité humaine, de l’autonomie et de la sûreté, des droits fondamentaux et du RGPD. Il insiste sur le fait que l’IA doit être développée d’une manière centrée sur l’humain. Le rapport prévoit des garanties de supervision humaine permanente, de reprise de contrôle par l’humain incluant la possibilité de désactiver l’IA, des normes minimales de cybersécurité, d’arrêt de la machine en cas de risque sur la sécurité, une obligation pour les IA d’être socialement et écologiquement responsables ainsi que dépourvues de biais à caractère discriminatoire, conduisant à détériorer l’éducation ou aggraver les inégalités de genre. Ce texte me satisfait pleinement, je vote donc en sa faveur.
Laurence FARRENG | Mouvement Démocrate
J'ai voté, mardi 20 octobre, en faveur de ce rapport sur les aspects éthiques de l’intelligence artificielle, de la robotique et des technologies connexes.Ce texte, initié par le Parlement européen, invite la Commission européenne à présenter un cadre juridique visant à appliquer des principes éthiques dans toutes les étapes de l'IA et de la robotique dans l'UE, de la conception à l'utilisation. Ces technologies ont déjà un effet important sur tous les aspects de notre société, notamment en termes de valeurs et de droits fondamentaux; il convient donc d'en encadrer les différents volets.
Jérôme RIVIÈRE | Rassemblement national
Je me suis abstenu sur ce texte : en effet, la ligne générale était bonne, arguant que les technologies d'intelligence artificielle doivent rester sous la responsabilité et le contrôle des humains, mais ce texte comprenait de nombreux défauts, notamment sur la liberté d'expression par le contrôle des soi-disants "discours de haine".
Valérie HAYER | Renaissance
J’ai voté en faveur de ce rapport, qui demande à la Commission européenne d’établir des règles éthiques sur le développement, le déploiement, et l’utilisation de l’intelligence artificielle et des autres technologies connexes dans l’UE. L’accroissement de ces technologies ne doit pas se faire au détriment de nos principes et de nos valeurs. L’intelligence artificielle se doit d’être centrée sur l’humain.
Agnès EVREN | Les Républicains
J’ai voté en faveur du rapport d’initiative législative venant poser un cadre sur les aspects éthiques de l’intelligence artificielle, de la robotique et des technologies y afférentes. Si ce secteur stratégique est porteur d’un potentiel énorme face à de nombreux défis sociétaux tels que l’amélioration des soins et de la santé, la réduction de la consommation d’énergie ou encore l’amélioration de l’efficacité de l’agriculture, il comporte en même temps un certain nombre de risques potentiels et soulève des questions juridiques et éthiques. Ce rapport, qui défend une intelligence artificielle centrée sur l'humain, soutient notamment l'idée de contrôle ex ante sur les applications les plus à risque. Je me suis toutefois opposée à un moratoire de la reconnaissance faciale dans les espaces publics ouverts.
Jean-Paul GARRAUD | Rassemblement national
Je me suis abstenu sur ce rapport car, si la ligne générale en est plutôt bonne puisqu’axée sur l’idée que ces nouvelles technologies doivent rester sous la responsabilité et le contrôle humains, il n'en reste pas moins un indigeste ‘fourre-tout’, abordant d’innombrables domaines concernés pas l’intelligence artificielle et traités beaucoup plus sous l’angle technique que sous celui de l’éthique.
Virginie JORON | Rassemblement national
J'ai voté l'abstention sur ce rapport. La ligne générale est bonne puisqu'elle postule que les nouvelles technologies doivent rester sous la responsabilité et le contrôle de l'homme. Toutefois, L’inclusion des habituels concepts de ‘discours de haine, fake news et désinformation’ qui sont beaucoup trop vagues et subjectifs, ouvre la voie à de possibles censures sur la base de vérités dogmatiques décrétées et qui seraient par nature officielles et incontestables.
Jordan BARDELLA | Rassemblement national
Je me suis abstenu sur ce texte. J'en approuve l'orientation générale, qui insiste sur l'idée que l'IA et les technologies connexes doivent rester sous la responsabilité et le contrôle humain. Cependant, il comporte de nombreux défauts, tels que la proposition de création d'un "certificat européen de conformité éthique", qui est source de potentielles lourdeurs et de centralisme. En outre, il fixe une liste "exhaustive" de secteurs et d'utilisations à haut risque de ces technologies. Une telle liste ne réussira pas à englober tous les aspects de technologies qui évoluent très vite : sur ce point, ce rapport parlementaire ignore la nature mouvante des technologies de demain.
Hélène LAPORTE | Rassemblement national
Le document recense, dans une annexe qui se veut exhaustive, les technologies pouvant être considérées comme ‘à haut risque’, en fonction du secteur et de l'utilisation, et qui intègrent notamment la finance et le monde des assurances, le recrutement, l'octroi de prêts, le courtage et la fiscalité, la gestion des déchets, le contrôle des émissions de GES, etc. Ces technologies, une fois évaluées avec succès, devraient recevoir un « certificat européen de conformité éthique ». Par ailleurs, il intègre quelques points problématiques comme l’inclusion des habituels concepts de ‘discours de haine, fake news et désinformation’ qui sont beaucoup trop vagues et subjectifs, la création d’un ‘certificat européen de conformité éthique’ qui est source de potentielles lourdeurs et de centralisme, et le recours à la procédure des actes délégués pour la mise à jour de cette liste. Je me suis abstenue sur ce texte car les défauts du texte sont plus importants que l’idée sous-jacente que ces nouvelles technologies doivent, en toute hypothèse, rester sous la responsabilité et le contrôle humains.
Aurélia BEIGNEUX | Rassemblement national
Ce rapport s’inscrit dans le cadre général d’une longue liste de rapports d’initiative, relatifs à l’intelligence artificielle. Consacré aux aspects éthiques de l’intelligence artificielle, de la robotique et des technologies connexes, il a pour objectif d’amener la Commission à présenter un règlement en ce domaine pour toutes ces technologies utilisées ou produites dans l'UE. Sa version finale, propose que les technologies « à haut risque » soient développées, déployées et utilisées d'une manière cyber sécurisée et qui permette de déconnecter ou de revenir à un état précédent en cas de perte de contrôle. Le rapport aborde la question de la reconnaissance faciale, prévoyant que l'utilisation et la collecte de données biométriques à des fins d’identification à distance dans des lieux publics, comme la reconnaissance biométrique ou faciale. L’inclusion des concepts de « discours de haine, fake news et désinformation » qui sont beaucoup trop vagues, ouvrant la voie à de possibles censures sur la base de vérités dogmatiques décrétées et incontestables. La ligne générale est plutôt bonne puisqu’axée sur l’idée que ces nouvelles technologies doivent rester sous la responsabilité et le contrôle humains. Cependant des incohérences perdurent, j’ai donc voté une abstention sur ce texte.
Mathilde ANDROUËT | Rassemblement national
Ce rapport n’est pas le premier à se pencher sur le sujet complexe de l’intelligence artificielle, de ses applications pratiques et des problématiques éthiques qu’elle soulève. Il avait pour objectif, louable, d’amener la Commission à présenter un règlement dans ce domaine pour toutes ces technologies utilisées ou produites au sein de l’UE. Hélas, il est devenu au fil de l’ajout des rapporteurs fictifs et des commissions pour avis, une compilation sans colonne vertébrale et brassant les habituelles obsessions progressistes sur les pseudos « discours de haine » et autres « fake news »...lesquelles pourraient notamment viser le groupe ID. Nous avons noté également que la volonté de créer un certificat européen de conformité éthique serait une entreprise inutile, dès lors que cette réglementation serait obligatoire dans les États membres, et une source de potentielles lourdeurs administratives. Pareillement la définition d’une liste « exhaustive » de secteurs et d’utilisations « à haut risque » de ces technologies ne réussirait pas à englober tous les aspects de technologies qui évoluent très vite. ID avait proposé une liste non exhaustive qui laisserait aux États membres la capacité de la compléter avec plus de souplesse et de rapidité. Je me suis donc abstenue.
Annika BRUNA | Rassemblement national
Bien que le rapport soutienne, à juste titre, que ces nouvelles technologies doivent rester sous la responsabilité et le contrôle humain, j’ai décidé de m’abstenir.En effet, ce texte est d’une part, plutôt abordé sous l’angle technique plutôt qu’éthique et est, d’autre part, un fourre-tout intégrant des points plus problématiques.Entre autres, ce texte volumineux comprend l’inclusion de trop vagues concepts de « discours de haine, fake news et désinformation » ouvrant la voie à de possibles censures, la création d’un ‘certificat européen de conformité éthique’ contraignant source de potentielles lourdeurs et de centralisme.
🚫 Aucune explication de vote
🚫 Aucune intervention en plénière