SALA : faut-il interdire les robots tueurs ?

https://www.contrepoints.org/2017/11/22/303744-sala-faut-interdire-robots-tueurs

Par Thierry Berthier.

Dans la continuité des lettres ouvertes publiées par Elon Musk et Stephen Hawking, une vidéo-fiction de 7 minutes explore des dérives possibles de « robots tueurs » et totalise sur Youtube plus d’un million de vues en quelques jours. Particulièrement bien construite, elle s’ajoute au débat qui s’engage sur les armes autonomes.

Produite par un collectif  international réclamant l’interdiction mondiale des systèmes armés autonomes, elle a le mérite d’exposer le risque de dissémination de ce type d’armes.

Le scénario envisagé dans la vidéo est crédible et efficace dans son objectif : des nuées de mini-drones dotés de charges explosives létales sont utilisées dans un contexte d’attaque terroriste et de tuerie de masse pour créer le chaos. Les technologies impliquées dans la vidéo ne relèvent pas de la science fiction  mais existent toutes aujourd’hui. C’est d’ailleurs ce qui fait la force de cette fiction.

Cela dit, cette vidéo ne contribue pas à dépassionner et à rationaliser un débat qui fait figure de dialogue de sourds : d’un côté, les partisans d’une interdiction internationale des robots armés autonomes à l’image de ce qui a été fait pour les armes bactériologiques et chimiques. Et de l’autre côté, des États, leurs armées, des industries de l’armement et des programmes mondiaux de R&D de systèmes armés autonomes lancés, entre autres, aux États-Unis, en Russie et en Chine.

Dépassionner le débat

En préambule, le débat sur l’autonomie des systèmes armés doit se dépassionner et se débarrasser définitivement des biais cognitifs et des fantasmes qui le polluent depuis la première lettre ouverte d’Elon Musk.

Pour être utile, ce débat a besoin de pragmatisme et de sérénité, condition nécessaire à toute analyse rationnelle et systémique des conséquences de l’émergence des SALA (Systèmes d’armes létaux autonomes). Les risques associés doivent être évalués précisément tout en tenant compte des gains tactiques et stratégiques offerts par l’autonomie.

Les arguments contre un traité d’interdiction des SALA existent. Leur intégration dans le débat contribue à le dépassionner et à le rendre moins irrationnel. On peut en dresser une courte liste non  exhaustive :

1 – Un traité international d’interdiction des systèmes armés autonomes a très peu de chance d’être ratifié par l’ensemble des États. Si une seule puissance technologique refuse de le ratifier (par exemple les États-Unis, la Chine ou la Russie) alors ce traité devient immédiatement obsolète  et  inutile. Les puissances concurrentes n’auront en effet aucun intérêt stratégique à stopper leur R&D sur ce type d’armement. Bien au contraire, elles poursuivront leurs programmes de manière clandestine.

2 – Un traité international ne sera jamais ratifié par un groupe terroriste ou par une organisation mafieuse qui pourra toujours facilement mettre en œuvre une attaque impliquant une nuée de mini-drones armés. Dans ce cas, le traité en question n’aura aucune utilité et n’interdira aucun des scenarii envisagés dans la vidéo.

3 – Dans le cadre d’une attaque terroriste, nous savons tous que l’attaquant ira au plus simple en utilisant une voiture bélier, un camion, ou un couteau pour tuer « simplement » lorsqu’il ne dispose pas de Kalachnikov ou d’explosif. Bien entendu, ce principe de moindre complexité dans l’art de tuer n’interdit pas l’utilisation de mini-drones armés mais réserve ce type d’opération à un groupe disposant de qualifications technologiques de bon niveau, ce qui est plus rare en terme statistique.

4 – Une interdiction, par décrets, des SALA provoquerait de fait un déficit de connaissances et d’expérience dans le développement des contre-mesures et des protocoles  à mettre en œuvre face à une attaque terroriste par nuée de mini-drones. On peut en effet imaginer une nuée de mini-drones défensifs installée dans chaque lieu public ( à l’image des extincteurs et défibrillateurs) qui s’active de manière autonome pour stopper l’attaque dès son déclenchement et détruire ses agents offensifs. Dans ce contexte, l’autonomie devient protectrice et défensive…

5 – Dans le cadre d’un conflit asymétrique opposant une armée régulière technologique à un acteur non étatique organisé (groupe terroriste, insurrection armée, …) menant des actions de guérilla urbaine, l’armement autonome permet d’économiser des vies et du temps dans la reprise de contrôle d’un quartier. Ce type de confrontation où les civils et les forces sont imbriquées est toujours très coûteuse en vies humaines. Le recours aux SALA peut réduire considérablement le délai de reprise et le volume des pertes humaines. Il peut également créer un contexte d’effroi chez le combattant irrégulier ou le terroriste qui se retrouve confronté à des technologies qui lui sont étrangères et qu’il ne maîtrise pas.

6 – L’autonomie permet de réduire les temps de réaction dans un contexte de combat saturé. Elle  donne accès à de nouvelles échelles temporelles pour l’action militaire tout en améliorant la précision des tirs. Elle réduit ainsi le rayon de létalité des armes qu’elle met en œuvre puisque le système de calcul embarqué peut optimiser et ajuster sa réponse en fonction des actions de la cible.

7 – Dans le cadre d’un conflit symétrique opposant deux armées régulières de puissances équivalentes, dotées d’unités de combat robotisées à haut niveau d’autonomie, on peut imaginer qu’une forme de dissuasion technologique s’installe dans un consensus tactique et stratégique. En cas de conflit déclaré, chacune des deux armées engage en premier instance ses unités de combat robotisées. A l’issue du combat, l’armée victorieuse est celle qui a détruit les unités de son adversaire. Il devient alors inutile d’engager une seconde phase de combat opposant les forces armées  conventionnelle humaines vaincues aux unités robotisées victorieuses car l’issue d’une telle confrontation serait connue d’avance. La confrontation technologique permettrait d’économiser le prix du sang et de faire émerger une dissuasion technologique produite par la puissance de feu des systèmes d’armes autonomes.

Erreur stratégique à éviter

Notons enfin que ces arguments sont valables sous la nécessaire condition d’un niveau de pertinence de l’intelligence artificielle embarquée au moins équivalent dans ses décisions à celui d’un opérateur humain. Cette précision de bon sens évacue le cas de figure souvent fantasmé d’un robot tueur « à la Terminator » qui tirerait indistinctement sur tout ce qui bouge !

En conclusion, espérons que l’Europe ne se lance pas dans une action unilatérale d’interdiction des systèmes SALA alors que d’autres acteurs concurrents refuseraient de le faire. Ce serait une erreur stratégique qui la placerait en situation de dépendance militaire à moyen terme.

La vidéo donne à réfléchir.

Un essaim, de drones tueurs, lâché dans la nature, fulgurant!

Campaign to Stop Killer Robots...!

il y a 14 minutes, BadKarma a dit :

Campaign to Stop Killer Robots...!

Je préfèrerai en mandarin...

C'est totalement inimaginable aujourd'hui au moins à cause de l'autonomie des drones. Si je décide de lâcher quelques milliers de drones tueurs ici et là, combien vont tomber en panne à force de tourner? Et chaque drone au sol est un cadeau pour l'ennemi. Aucune armée ne prendrait ce risque tant qu'on assure pas une autonomie suffisante pour rentrer à son point de recharge. Je ne rentre pas sur l'aspect "moral" du truc parce que la guerre n'a rien de moral.

il n'y a aucune chance 

Il y a 2 heures, PASCOU a dit :

La vidéo donne à réfléchir.

Un essaim, de drones tueurs, lâché dans la nature, fulgurant!

le coût d'un drone tueur devrait avoisiner les 2000 euros ....

quel est l'avantage pour une organisation terroriste d'avoir un essaim de drones à puissance ridicule ,alors qu'ils peuvent avoir une armée de pauvres abrutis gratuitement avec une capacité de nuisance au moins égale ...

pour ce qui est des puissances militaires le drone a son utilité ,mais ce n'est pas celle de transporter 2kg d'explosifs ,c'est un non sens .....    une bombe guidée par laser ne coûte que  1000 euros  ... aucune comparaison possible ....

Une sorte de frelon tueur comme dans Dune, programmé pour injecter une dose létale à quelqu'un qu'on veut éliminer.  

Question? Toute technologie peut être hackée avec le temps. Alors?

certains drones ont la taille d'un avion et coute aussi cher !!

on est loin des drones à 2000 euros !!!!!!!!!!!plutot ,plusieurs millions de dollars !!!!!!!

en fait ce sont des avions de combat sans pilote !!!

Il y a 4 heures, boeingue a dit :

certains drones ont la taille d'un avion et coute aussi cher !!

on est loin des drones à 2000 euros !!!!!!!!!!!plutot ,plusieurs millions de dollars !!!!!!!

en fait ce sont des avions de combat sans pilote !!!

mais on n'est plus dans le sujet ,d'un essaim de petits drones que n'importe qui pourrait se payer ....et ce genre d'engin transporte environ 2 kg de charge utile sur quelques km voire centaines de mètres  ...quoi faire avec ça ? qu'on m'explique ! à part faire de la reconnaissance ... 

pour se payer un drone avion de combat   et surtout la maintenance qui va avec ,il faut avoir les moyens d'une nation ...

Le 22/01/2018 à 21:29, Crabe_fantome a dit :

C'est totalement inimaginable aujourd'hui au moins à cause de l'autonomie des drones. Si je décide de lâcher quelques milliers de drones tueurs ici et là, combien vont tomber en panne à force de tourner? Et chaque drone au sol est un cadeau pour l'ennemi. Aucune armée ne prendrait ce risque tant qu'on assure pas une autonomie suffisante pour rentrer à son point de recharge. Je ne rentre pas sur l'aspect "moral" du truc parce que la guerre n'a rien de moral.

Mais déjà les drones existent.

Cette vidéo n'est  pas tant que ça une fiction. 

Des drones armés tuent déjà dans le monde.

Pas de ce type mais l'armée ne passe pas à coté .

Quelle parade contre un drone armé qui va entrer par la fenêtre d'un bâtiment et piloter du bâtiment en face?

Personne ne le voit partir ni arriver.

Ça c'est  déjà réalisable non?

Il va bien falloir prendre en compte pour le terrorisme non ?

https://www.presse-citron.net/piloter-un-drone-a-4800-km-de-distance-avec-un-iphone/

Les drones ne sont plus ces machins volants hors de prix réservés à l’élite militaire seulement destinés à pulvériser du taliban par paquets de douze ou à repérer Jack Bauer entre deux sauvetages du monde libre.

Les drones ne sont plus ces machins volants hors de prix réservés à l’élite militaire seulement destinés à pulvériser du taliban par paquets de douze ou à repérer Jack Bauer entre deux sauvetages du monde libre.

Depuis l’avènement des technologies numériques et la progression constante de la miniaturisation, chacun peut acquérir à vil prix son drone personnel, genre AR.Drone ou hélico-caméra, ou – pour les plus bricoleurs – se le fabriquer, et même faire de très jolies vidéos interdites avec.

Dernière évolution en date, et celle-ci est plutôt spectaculaire : des ingénieurs de Boeing et des chercheurs du Massachusetts Institute of Technology on mis au point une application et un système qui permettent de contrôler un mini-drone à plus de 4500 kilomètres de distance.

Au cous de cette expérimentation, un opérateur basé chez Boeing à Seattle pilote un drone sur un terrain de baseball situé de l’autre côté de l’Amérique, sur un campus du MIT à Cambridge, Massachusetts. L’application installée sur un iPhone (mais sur la vidéo, même si c’est difficile à voir cela ressemble plutôt à un iPod Touch) permet de contrôler le drone à vue en temps réel grâce à la caméra installée sur celui-ci, qui envoie l’image sur l’écran du mobile, ou d’assigner une trajectoire à l’aéronef de poche en tapant simplement différents points de passage sur l’écran. On s’amuse bien chez Boeing.

Outre le côté spectaculaire de l’expérience, c’est la relation entre l’opérateur et le drone qui est intéressante à noter : celle-ci s’effectue via internet, l’iPhone et le drone étant chacun connectés au réseau en WiFi.

Les applications de cette technologie ne sont pas nécessairement militaires. Selon ses auteurs, « elle permet d’utiliser les drones pour des tâches dangereuses, ou pour des missions longues qui seraient difficiles à contrôler de façon continue par une présence humaine »

Il y a 3 heures, PASCOU a dit :

Mais déjà les drones existent.

Cette vidéo n'est  pas tant que ça une fiction. 

Des drones armés tuent déjà dans le monde.

Pas de ce type mais l'armée ne passe pas à coté .

Quelle parade contre un drone armé qui va entrer par la fenêtre d'un bâtiment et piloter du bâtiment en face?

Personne ne le voit partir ni arriver.

Ça c'est  déjà réalisable non?

Il va bien falloir prendre en compte pour le terrorisme non ?

 

 

Notre drone sagem patroller made in France taille comme un petit avion. 18 m d'envergure, 300kmh, 7000m de hauteur, peut charger 100kg, 20h d'autonomie et 25 millions d'euros pièce. On en est pas à la technologie de la vidéo. 

Le terrorisme d'aujourd'hui c'est un budget de mille euros max par attentats. Encore moins pour une attaque au couteau... 

Tu me diras "c'est injuste parce-que ces gens participent juste à la lutte des classes" mais pour l'heure ça ne me pose aucun problème de moral d' être du côté des plus riches. 

il y a 8 minutes, Crabe_fantome a dit :

Notre drone sagem patroller made in France taille comme un petit avion. 18 m d'envergure, 300kmh, 7000m de hauteur, peut charger 100kg, 20h d'autonomie et 25 millions d'euros pièce. On en est pas à la technologie de la vidéo. 

 

Le terrorisme d'aujourd'hui c'est un budget de mille euros max par attentats. Encore moins pour une attaque au couteau... 

 

Tu me diras "c'est injuste parce-que ces gens participent juste à la lutte des classes" mais pour l'heure ça ne me pose aucun problème de moral d' être du côté des plus riches. 

Rien compris...lutte des classes?

Je pourrais te mettre une émission extrêmement intéressante sur les drones et la guerre, mais ça dure plusieurs heures .

Je te laisse à  tes clichés. 

https://drones.altigator.com/onyxstar-hydra12-drone-gros-porteur-pour-12kg-de-charge-utile-p-41854.html?language=fr

il y a 13 minutes, PASCOU a dit :

Rien compris...lutte des classes?

Je pourrais te mettre une émission extrêmement intéressante sur les drones et la guerre, mais ça dure plusieurs heures .

Je te laisse à  tes clichés. 

Tu peux même mettre des émissions de plusieurs heures sans souci parce que ça pourrait m'intéresser, là où ça me pose un problème c'est lorsque j'ai besoin d'une réponse précise et qu'au lieu de répondre en 2 lignes j'ai 2h à attendre devant quelque chose qui n'est pas forcément intéressant pour moi.

Sinon mon cliché consiste à dire que le terrorisme dont tu parlais n'a pas à être inquiétant parce que notre ennemi n'a pas le budget pour nous affronter. Pour le coup le cliché est effectivement une reproduction de la réalité. 

il y a 6 minutes, Crabe_fantome a dit :

Tu peux même mettre des émissions de plusieurs heures sans souci parce que ça pourrait m'intéresser, là où ça me pose un problème c'est lorsque j'ai besoin d'une réponse précise et qu'au lieu de répondre en 2 lignes j'ai 2h à attendre devant quelque chose qui n'est pas forcément intéressant pour moi.

 

Sinon mon cliché consiste à dire que le terrorisme dont tu parlais n'a pas à être inquiétant parce que notre ennemi n'a pas le budget pour nous affronter. Pour le coup le cliché est effectivement une reproduction de la réalité. 

Tu rigoles, ce n'est pas l'argent qui arrête le terrorisme.

Ni la guerre, tu penses vraiment que notre armée ne s'y intéresse pas?

il y a 15 minutes, Crabe_fantome a dit :

Tu peux même mettre des émissions de plusieurs heures sans souci parce que ça pourrait m'intéresser, là où ça me pose un problème c'est lorsque j'ai besoin d'une réponse précise et qu'au lieu de répondre en 2 lignes j'ai 2h à attendre devant quelque chose qui n'est pas forcément intéressant pour moi.

 

Sinon mon cliché consiste à dire que le terrorisme dont tu parlais n'a pas à être inquiétant parce que notre ennemi n'a pas le budget pour nous affronter. Pour le coup le cliché est effectivement une reproduction de la réalité. 

Tu penses réellement que ça n'inquiète pas, sur les cites sensibles, ne serait ce que pour l'espionnage, avec une caméra nocturne et...

Tu peux imaginer ce que tu veux, mais c'est un truc difficile à arrêter, surtout sur une zone contrôlée au sol.

Style fouille, tu ne peux pas fouiller un type qui se trouve à 800 m. 

Et vu la vitesse.

https://www.course-de-drone.fr/546_178-kmh-drone-cest-possible/

Tu peux toujours sortir ton tromblon, le temps que tu réagisses, il est passé, et encore si tu l'entends.

il y a 9 minutes, PASCOU a dit :

 

Tu rigoles, ce n'est pas l'argent qui arrête le terrorisme.

Ni la guerre, tu penses vraiment que notre armée ne s'y intéresse pas?

Combien on couté les derniers attentats en Europe ? Une poignée d'euros... Une location de véhicule (ou un vol), l'achat d'un couteau de cuisine (ou un emprunt à un voisin), dans le pire des cas l'achat de AK47 (300 -600€ au black forcément). Si Daesh avait les moyens d'envoyer une centaine de soldats d'élites avec 3 hélicos de combats au coeur de Paris, ils l'auraient fait. Là ils n'ont pas les moyens de le faire. 

il y a 4 minutes, Crabe_fantome a dit :

Combien on couté les derniers attentats en Europe ? Une poignée d'euros... Une location de véhicule (ou un vol), l'achat d'un couteau de cuisine (ou un emprunt à un voisin), dans le pire des cas l'achat de AK47 (300 -600€ au black forcément). Si Daesh avait les moyens d'envoyer une centaine de soldats d'élites avec 3 hélicos de combats au coeur de Paris, ils l'auraient fait. Là ils n'ont pas les moyens de le faire. 

Bon comme d'habitude, le sujet ne t'intéresse pas, toi ce que tu veux, c'est le faire dévier sur tes psychopathes au couteau.

Moi ce qui me questionne, c'est tout ce qu'on peut faire avec un drone, de bien ou de mal.

https://www.course-de-drone.fr/546_178-kmh-drone-cest-possible/

Déjà, celui là tu le prends dans la poire, tu te la fends pas!

Un drone, puis avec l'intelligence artificiel, c'est une chose sans état d'âme et qui peut être manipuler par des gens sans scrupules, jje me fiche des gens à la machette, ce n'est pas trop le sujet!