Armes autonomes: entre efficacité et moralité

Dans une enquête publiée en 2024, le magazine +972 dévoile des informations troublantes sur Lavender, un système d’intelligence artificielle utilisé par l’armée israélienne pour sélectionner des cibles. Utilisé surtout en Palestine, ce système soulève plusieurs enjeux, notamment de respect du droit international et de protection des civils. Selon des sources interrogées par le média, les données produites par l’algorithme seraient traitées comme de véritables décisions humaines par l’armée israélienne, cette dernière permettant à ces officiers d’utiliser les listes de cibles générées par Lavender sans remettre en question le raisonnement de la machine, ni les données brutes sur lesquelles il repose. Ainsi, le personnel humain se retrouve relégué à un simple rôle de validation des décisions de l’IA; en moyenne, les soldats ne passeraient qu’une vingtaine de secondes sur chaque cible avant d’autoriser une frappe. 

Lavender n’est d’ailleurs pas le seul outil en utilisé. D’autres systèmes, comme The Gospel et Where’s Daddy?, permettent de localiser des bâtiments où se trouvent les individus et de suivre leurs déplacements jusque chez eux. Ensemble, ces systèmes permettent aux soldats d’être de plus en plus détachés de la réalité de la guerre.

Effacement de l’humain de la guerre  

À quoi doit-on ce virage vers l’utilisation d’armes toujours plus autonomes ? D’aucuns soutiennent que ces systèmes peuvent rendre les conflits plus moraux. Du point de vue des soldats, grâce aux drones autonomes, il leur est possible de rester loin du champ de bataille, ce qui ultimement réduit les pertes dans leurs rangs. D’autres avancent que la précision de ces systèmes pourrait diminuer le nombre de victimes civiles. En théorie, ces armes permettraient donc d’éviter des pertes excessives.  En pratique, elles affichent pourtant des taux d’erreur élevés, environ 10 % dans le cas de Lavender.

De plus, loin de moraliser la guerre, la logique du « fire and forget » engendrée par les armes autonomes contribue à effacer le sentiment de culpabilité lié à l’acte de tuer. Les soldats, n’étant plus directement confrontés à leurs victimes, peuvent autoriser une frappe sans ressentir la charge morale qui l’accompagne normalement. Structurellement, les armes autonomes sont incapables de compassion, de clémence ou d’empathie. Leurs décisions reposent uniquement sur des calculs algorithmiques, dépourvus de toute sensibilité éthique. Ceci crée l’illusion d’« autorité morale techno‑objective », où des choix techniques acquièrent une légitimité éthique qu’ils n’ont pas. 

Responsabilité morale et juridique 

L’usage croissant d’armes autonomes met à mal le droit international humanitaire (DIH) de plusieurs façons. D’abord, la tendance à « anthropomorphiser » ces systèmes nous pousse à nous demander s’ils seraient capables de respecter le droit comme s’ils étaient des agents moraux autonomes. Or, appliquer le DIH exige des capacités humaines : interprétation du contexte, jugement moral, intention de l’acteur. Ce ne sont pas de simples règles mécaniques qu’on exécute automatiquement. Les armes autonomes, elles, ne disposent pas de cette capacité à porter un jugement fondé sur une compréhension qualitative du contexte ou des référents culturels. Elles se basent sur des corrélations statistiques, pas sur une appréciation morale. Même si leurs décisions peuvent parfois produire des effets similaires à ceux d’un humain, le droit international est conçu pour juger des décisions humaines, pas des calculs algorithmiques.

L’usage des armes autonomes soulève enfin un problème majeur : celui de l’attribution de la responsabilité. Leur degré d’autonomie, bien supérieur à celui des armes conventionnelles, rend plus difficile l’identification d’un responsable humain. Les opérateurs ne contrôlent plus entièrement les décisions prises par ces systèmes. La technologie n’exécute pas simplement la volonté humaine : elle la transforme, produisant parfois des conséquences qui dépassent les intentions initiales. C’est ce qu’on appelle le responsibility gap : une situation où aucun agent ni humain, ni institutionel, ne peut être tenu moralement responsable du tort causé par un système autonome. Ce problème se pose surtout lorsque le dommage survient sans qu’il puisse être attribué à une négligence humaine identifiable.

La question de la dignité des victimes est également essentielle. Celle-ci repose en partie sur l’idée que l’acte de tuer doit demeurer le choix assumé d’un être humain, capable d’en affronter les conséquences morales. La difficulté à désigner clairement un responsable pleinement imputable complique alors la justice qui doit être rendue aux victimes. 

L’humain comme moyen discursif de légitimation  

L’intégration d’algorithmes dans la conduite de la guerre répond avant tout à une logique d’efficacité. Les considérations éthiques, elles, se retrouvent souvent reléguées au second plan. La présence d’un opérateur humain, souvent présentée comme un rempart contre les dérives possibles des systèmes automatisés, soulève de sérieux doutes. Fonctionnant surtout comme un dispositif discursif de légitimation plutôt que comme un véritable mécanisme de contrôle, cette mise en scène du contrôle humain contribue à naturaliser l’usage de systèmes automatisés.