US : la dernière déclaration « pro-humaine sur l’IA » représente to…

D'après les informations rapportées par Next INpact : uS : la dernière déclaration « pro-humaine sur l’IA » représente tous les bords politiques.

Résister aux constructeurs d'IA
Portée par le Future of Life Institute, une nouvelle déclaration « pro-humaine sur l’IA » réunit des signatures de tous les bords politiques états-uniens, ainsi que de multiples personnalités plus ou moins proches du domaine. Le texte joue d’une rhétorique du remplacement de l’humanité par l’IA.

Une déclaration En outre, sur la manière dont l’humanité devrait s’emparer de l’intelligence artificielle, une ! En ce mois de mars, une nouvelle prise de parole a émergé sur le site humanstatement.org. Intitulée « the Pro-Human AI Declaration », le texte est signé par des représentants de tous les bords politiques aux États-Unis et de multiples organisations spécialisées dans l’intelligence artificielle, dans la défense des droits numériques ou dans différents sujets de sociétés. 



L’ex-conseiller de Donald Trump Steve Bannon se retrouve ainsi aux côtés de l’organisation de terrain Progressive Democrats of America, du Congress of Christian Leaders (une association d’églises évangéliques) ou de l’AFL-CIO Tech Institute (spécialiste des effets des nouvelles technologies sur le travail).

Lui aussi signataire de nombreux appels à freiner la course actuelle, le prix Turing Yoshua Bengio côtoie par ailleurs la fondatrice de l’ONG Campagne internationale pour l’abolition des armes nucléaires et prix Nobel Beatrice Fihn, le fondateur de Virgin Group Richard Branson, la directrice exécutive du versant états-unien de Pause AI Holly Elmore, ou encore l’acteur Joseph Gordon-Levitt.

Le texte, lui, propose cinq axes de travail : s’assurer que les humains gardent la maîtrise des outils d’IA, éviter les concentrations de pouvoir, protéger les expériences humaines (des liens familiaux ou communautaires à l’identité, en passant par la protection des mineurs), assurer le pouvoir d’action et la liberté humaine et s’assurer de la responsabilité des constructeurs d’IA ainsi que de leur obligation de rendre des comptes.

Une dynamique portée par le Future of Life Institute

Le texte est porté par le Future of Life Institute (FLI), acteur influent du domaine de l’AI safety (sécurité de l’IA), déjà présent derrière les différents appels à des moratoires sur l’IA ces dernières années. Chercheur en IA, le président du FLI Max Tegmark argumente régulièrement pour traiter le champ de l’IA comme d’autres secteurs à haut risques, avec des normes de sécurité contraignantes et une surveillance indépendante.

Transhumanisme, long-termisme… comment les courants « TESCREAL » influent sur le développement de l’IA

En introduction, le texte cite directement des propos du PDG d’OpenAI Sam Altman ou de l’informaticien Richard Sutton – le premier multiplie en effet les déclarations fracassantes, qualifiant le recours à l’IA de nécessaire à l’éducation, ou estimant que la consommation d’eau requise pour l’entraînement de systèmes d’IA n’est pas plus élevée que celle nécessaire à un humain sur vingt ans.

La Déclaration se place en l’occurrence contre les propositions « d’altérer ou de remplacer l’humanité elle-même » que formulent ces acteurs, dans la mesure où cette course « crée des risques pour la stabilité sociale, la sécurité nationale, la prospérité économique, les libertés civiques, la vie privée et la gouvernance démocratique ».

Signé par plusieurs organisations religieuses (G20 Interfaith Forum Association, Faith Matters), de promotion des familles traditionnelles (Institute for Family Studies) mais aussi de défense des droits des femmes et des minorités (Saving Ourselves Foundation, Inc), le texte regrette aussi la « mise en péril des expériences humaines que sont l’enfance, la famille, la foi et la communauté ».

Et de proposer, entre autres mesures, l’intégration de bouton off dans les systèmes d’IA, l’interdiction des architectures « imprudentes » permettant l’auto-amélioration ou l’auto-réplication ; le refus du renflouement public des sociétés d’IA (solution évoquée par Altman lorsque les débats autour d’une éventuelle bulle financière se sont faits importants) ; la mise en place de tests pré-déploiement, à l’instar de ce qui se fait dans l’industrie pharmaceutique ; ou encore la préservation des données personnelles comme de la « vie privée psychologique », ce qui reviendrait à empêcher les systèmes d’IA « d’exploiter des données relatives aux états mentaux ou émotionnels des usagers ».

Une illustration des difficultés à encadrer le domaine ?

Cet appel est au moins le quatrième signé par de multiples personnalités que le Future of Life Institue a porté depuis 2015. Si ses représentants ont activement participé aux négociations autour du règlement sur l’intelligence artificielle (RIA) en Europe, voire se sont adressés à l’ONU pour évoquer les manières de réguler le domaine, la répétition de ces appels pourrait traduire les difficultés à effectivement peser sur la question d’un encadrement de l’intelligence artificielle. 



En Europe, De fait, certaines dispositions du RIA sont déjà remises en discussion à la faveur du Digital Omnibus. Aux États-Unis, si certaines tentatives sont portées à travers le pays, notamment au niveau des États, Donald Trump n’a pas fait mystère du soutien qu’il apporte aux constructeurs d’intelligence artificielle – sauf lorsque celles-ci souhaitent maintenir quelques rares garde-fous, comme Anthropic a tenté de le faire la semaine passée.

Trump impose son idéologie dans les modèles d’IA et vise une domination mondiale des USA

La variété des positions politiques des signataires de cet appel, cela dit, permettra peut-être d’ouvrir une discussion. Pour parvenir à les réunir, raconte The Verge, le Future of Life a invité environ 90 représentants politiques ou cadres d’organisations de la société civile dans une salle de conférence de la Nouvelle-Orléans, sans leur communiquer la liste d’invités à l’avance.

Si le contenu des échanges a vocation à rester privé, plusieurs participants témoignent auprès du journal avoir été surpris de la rapidité à laquelle le groupe s’est accordé sur une variété de points, que ce soit sur la possibilité pour les systèmes d’IA d’agir de manière autonomes sur des armes létales, sur le refus de permettre à leurs constructeurs de tirer profit des attachements émotionnels des mineurs, ou encore sur le refus d’accorder une personnalité juridique à ces outils.

Contrairement aux précédentes lettres ouvertes organisées par le FLI, aucun représentant de l’industrie n’a pu être invité cette fois-ci. Pour la directrice du programme Futurs de l’institut, Emilia Javorsky, cette décision a pu être prise exprès pour éviter de voir les intérêts de ces entreprises devenir la perspective dominante dans les discussions. D’après elle, cette absence explique en partie la rapidité de l’accord des signataires.

Pour la présidente de la Fédération Américaine des Enseignants (AFT) Randi Weingarten, cela a permis de faire émerger un texte qui pourrait servir d’ordre de mission à une « coalition clé » entre opposants politiques qui souhaiteraient s’emparer du sujet. L’avenir dira quelle traduction concrète cela prendra.