Le secrétaire général de l’ONU veut interdire les « robots IA tueurs »

Next INpact rapporte une information importante : le secrétaire général de l’ONU veut interdire les « robots IA tueurs ».

Judgment day
« Certaines décisions doivent rester à jamais humaines — en particulier quand il s’agit de prendre une vie humaine », a affirmé António Guterres. Le secrétaire général de l’ONU a pris position sur cette question brûlante, à l’heure où les armées du monde entier accélèrent l’intégration de l’IA dans leurs opérations militaires.

Les « robots tueurs » qui se donnent le droit de vie ou de mort sur les champs de bataille sont « moralement répugnants », a déclaré sans ambages António Guterres durant un discours sur la gouvernance IA à Genève, repris par le Wall Street Journal. Il évoquait ces « machines qui sélectionnent et attaquent leur cible, jusqu’à ôter une vie, sans contrôle ni jugement humains ».

Le secrétaire général de l’ONU milite pour une interdiction des armes autonomes létales, qui soit inscrite dans le droit international. Il prend de fait une position bien tranchée dans le débat sur la place de l’IA au sein des forces militaires.

L’ONU alerte sur la rapidité des progrès de l’IA

L’IA générative déjà utilisée au sein des armées

Le Pentagone s’appuie de plus en plus sur cette technologie dans ses opérations ; les modèles d’Anthropic, utilisés depuis deux ans, ont ainsi servi pour la capture du président du Venezuela, Nicolas Maduro, et durant la guerre menée par les États-Unis contre l’Iran. Les relations se sont ensuite fortement dégradées entre le département de la Défense et l’entreprise, dont les conditions d’utilisation interdisent de « développer ou concevoir des armes ».

Dario Amodei, le CEO d’Anthropic, avait expliqué que l’entreprise n’avait jamais soulevé d’objections à l’égard d’opérations militaires, mais a rappelé que l’IA pouvait nuire aux valeurs démocratiques en facilitant la surveillance de masse aux États-Unis, ou encore le développement d’armes autonomes.

Derrière la polémique entre Trump et Anthropic, les enjeux de l’usage militaire de l’IA

Le DoD a depuis désigné Anthropic comme « fournisseur à risque », et changé de crémerie IA. L’affaire est toujours entre les mains de la justice, mais de l’eau a coulé sous les ponts depuis et le lancement de Mythos a rebattu les cartes au sein de l’administration Trump.

Les armées d’autres pays s’y intéressent également. Un rapport d’information de l’Assemblée nationale publié début 2025 rapportait déjà que les drones de combat « reposent de plus en plus sur l’intelligence artificielle et offrent de nouvelles stratégies opérationnelles ».

L’IA est aussi utilisée dans les processus d’aide à la décision militaire. Un outil qui « s’introduit désormais dans des sphères hautement stratégiques et décisionnelles », rappelait Bernard Benhamou, secrétaire général de l’Institut de la souveraineté numérique.

L’IA dans la guerre : « Le cas le plus critique concerne la prise de décision militaire »

Sur la même longueur d’onde que le pape

Les propos d’António Guterres rejoignent d’autres critiques de l’IA militaire, à commencer par celle du pape et de son encyclique Magnifica Humanitas. La décision de tuer ne doit jamais avoir pour « critères suprêmes » la rapidité et l’efficacité, affirme la bulle. « L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données », indique le texte qui appelle à « désarmer l’IA ».

Ces appels devraient être-ils entendus ? L’opacité avec laquelle l’administration Trump régule les modèles IA les plus ambitieux, alors que la Chine trace sa propre route, laisse planer le doute sur un accord au niveau mondial.