Une arme autonome peut-elle décider « par elle-même » de tuer ?

Aujourd’hui s’ouvre à Genève la réunion annuelle des Etats parties à la Convention sur certaines armes classiques, telle est la question… Une arme autonome peut-elle décider « par elle même » de tuer ?

La réponse est clairement non pour le Comité international de la Croix-Rouge (CICR), qui appelle aujourd’hui les États à fixer des limites strictes, concrètes et durables à l’autonomie des systèmes d’armes.

Ainsi durant les 3 jours de travaux de la réunion, le CICR demandera instamment que le nouveau mandat du Groupe d’experts gouvernementaux consiste avant tout à déterminer le type et le degré de contrôle humain devant être exercé pour assurer la conformité au droit international humanitaire et répondre aux préoccupations éthiques. Plusieurs questions appellent une réponse :

• Quel degré de supervision humaine (p. ex. capacité d’intervention et de désactivation) serait requis lors de l’utilisation d’une arme à même de sélectionner et d’attaquer des cibles de manière autonome ?
• Quel niveau de prédictibilité et de fiabilité serait nécessaire, compte tenu des tâches assignées à l’arme et de l’environnement dans lequel elle serait utilisée ?
• Quelles autres contraintes opérationnelles devraient être imposées, notamment en termes de tâches assignées au système d’armes, de cibles, d’environnement (p. ex. utilisation en zone habitée ou non), de durée et de portée géographique ?

« Il est désormais largement admis que les systèmes d’armes et le recours à la force doivent rester sous contrôle humain ; autrement dit, il faut fixer des limites à l’autonomie », déclare le président du CICR Peter Maurer. « Il est maintenant temps que les États déterminent le degré de contrôle humain requis pour tenir dûment compte des considérations juridiques et éthiques. »

Seuls des humains peuvent prendre des décisions fondées sur le contexte lorsqu’il s’agit d’appliquer les principes de distinction, de proportionnalité et de précaution dans la conduite des hostilités. Seuls des humains peuvent adopter un comportement éthique, assumer des responsabilités morales et faire preuve de clémence et de compassion. Des machines, qui sont par définition des objets inanimés, ne peuvent avoir les capacités de discernement et de réflexion nécessaires pour assurer le respect du droit international humanitaire sur le champ de bataille. La conscience et les valeurs éthiques resteront toujours l’apanage des êtres humains.

Alors que les armes autonomes suscitent un intérêt croissant parmi les forces armées, le risque augmente que les humains soient bientôt supplantés par des censeurs et des logiciels dans la prise de décisions de vie et de mort.

« Le choix de recourir à la force et à la violence ne peut être délégué à des machines. La décision de tuer, de blesser ou de détruire doit continuer d’appartenir aux humains, car ce sont eux qui appliquent le droit et sont tenus de le respecter », conclut Kathleen Lawand, cheffe de l’Unité armes du CICR.