La guerre de Terminator aura-t-elle lieu ? Les robots tueurs pourraient remplacer les militaires d’ici quelques années, si l’on en croit les recherches technologiques en cours. Un développement de l’intelligence artificielle qui inquiète les chercheurs. Dans une lettre ouverte, plus d’un millier de personnalités scientifiques ont réclamé l’interdiction des armes autonomes. Parmi eux, on retrouve de grands noms tels que Elon Musk, célèbre PDG du constructeur de voitures électriques Tesla et de SpaceX ou l’astrophysicien britannique Stephen Hawking.
Plus de robots, moins de morts ?
En mai 2014, l’ONU avait organisé, dans le cadre de sa Convention sur certaines armes classiques (CCAC), un débat sur le thème : « quel sera à l’avenir le rôle des robots dans les conflits à travers le monde ? ». Aujourd’hui, à l’occasion de l’IJCAI, une conférence internationale sur l’intelligence artificielle, qui se tient du 25 au 31 juillet à Buenos Aires, les scientifiques se sont mobilisés pour dénoncer un danger imminent : celui de voir les Etats-Unis se lancer dans la « course à l’armement », justifiée par le fait que « remplacer des hommes par des machines permet de limiter le nombre de victimes du côté de celui qui les possède ». Avec des robots automatisés comme armées et non des hommes, les autorités du pays auront moins de scrupule à enclencher une guerre. La peur de causer trop de pertes humaines sera désormais annihilée, de quoi séduire les stratèges et militaires. Mais, un certain nombre de questions se posent à propos de l’usage de ces robots comme soldats de guerre.
L’esprit d’un homme dans le corps d’un robot, est-ce possible ?
Peut-on réellement faire confiance aux capacités de ces robots ? Certes, ils seront réglés par des programmes informatiques extrêmement sophistiqués pour choisir leur cible et tirer. Mais cette programmation peut-t-elle remplacer l’esprit humain, cette aptitude à discerner un civil d’un militaire, à riposter aux attaques de manière proportionnée, à différencier un blessé encore capable de tirer d’un blessé qu’il faut secourir ? Il y a une série de réflexes qui semblent difficilement transposables au corps d’un robot. Une telle situation présente des risques considérables de mort à tort, les robots étant complètement livrés à leurs automatismes intégrés. Pour l’ONG Human Rights Watch, la question de la responsabilité de la mort se pose également : à qui la victime doit-t-elle s’adresser si l’un de ses proches se fait tuer par un robot ou si elle-même se fait blesser ? Au général qui a commandité l’entrée en guerre de ces robots, au concepteur du robot ou aux autorités qui ont validé l’idée d’envoyer des robots en guerres… Les réponses peuvent être multiples et l’imputation de la responsabilité à l’autre sera certainement de mise. La victime pourra toujours attendre pour que justice lui soit rendue.
Nlle menace pour l’humanité « une course à l’armement autonome ne peut pas être profitable à l’humanité » http://t.co/7WuUV3Mud0 #RobotTueur
— Franck Debeaud (@FranckDebeaud) 28 Juillet 2015
L’intelligence artificielle, un cadeau pour les dictateurs
L’inquiétude est d’autant plus forte que les pays du monde entier chercheront à se procurer ce type de robots pour avoir un poids supérieur aux autres puissances dans les guerres, mais aussi pour pouvoir opprimer plus facilement les populations. Selon les signataires de la lettre, ces robots « ne nécessitent aucun matériel de base coûteux ou difficile à obtenir » et par conséquent, « ce ne sera qu’une question de temps avant qu’elles n’apparaissent sur le marché noir et dans les mains de terroristes, de dictateurs souhaitant contrôler davantage leur population et de seigneurs de guerre souhaitant perpétrer un nettoyage ethnique ». Pour l’instant, ce type d’intelligence artificielle n’existe que dans la science fiction, mais pour combien de temps ?
Clarisse Duppré