0:00 quand les machines prennent les armes les armes autonomes peuvent-elles remettre en cause le contrôle de l'usage de la force l'intelligence artificielle va-t-elle révolutionner la guerre avec nous pour en parler lors de rousie roche Gon bonsoir soyez la bienvenue sur TV5 Monde vous êtes l'auteur de ce livre la guerre à l'air de l'intelligence artificielle quand les machines prennent les armes c'est aux éditions PUF presse universitaire de France alors les innovations technologiques sont régulièrement intégrées hein dans les armées pour améliorer soit leur capacités tenter de prendre un ascendant décisif face à un adversaire ce qu'on sait c'est que ces dernières années ces deux dernières années le civil a connu d'énormes progrès en matière d'intelligence artificielle est-ce que ça suit aussi du côté militaire est-ce qu'il y a un bon dans le champ militaire
0:46 tout à fait il y a un bon dans le champ militaire qui est tout à fait comparable à celui qu'on connaît dans le champ civil et qui a été très largement accéléré par les théâtres à la fois ukrainiens et Gazaoui puisque ça a été deux cas d'engagement opérationnel qui ont permis de perfectionner d'une certaine manière la manière d'intégrer de l'intelligence artificielle dans les système d'armes alors ça pose de nombreuses questions et c'est un peu le sujet du livre mais c'est sûr que le la manière dont on recours à l'autonomisation des systèmes d'armes n'est plus du tout la même depuis le début du conflit en Ukraine notamment et justement on va revenir tout à l'heure sur le proche orient mais d'Ukraine effectivement avec ces drones omniprésents alors une ne sont pas tous sans doute bourrés d'intelligence
1:31 artificielle mais est-ce que justement cette nouvelle technologie qui a fait intrusion dans nos vies a modifié leur usage alors tout à fait et ce qui est intéressant c'est que les drones avaient déjà été utilisés en 2014 en Ukraine au moment de l'annexion de la Crimée mais à l'époque euh la les Ukrainiens notamment avaient été confrontés à un problème lié à ce qu'on appelle la guerre électronique c'est-à-dire la capacité à brouiller les systèmes et les Russes sont très forts en gar électronique et donc les drones ne pouvait plus opérer dès lors qu'on les empêchait d'interagir avec leur opérateur ce que permet l'intelligence artificielle et l'autonomisation des systèmes d'armes c'est de continuer pour le drone à conduire sa mission déjouer en fait une entrave exactement même si il perd le contact et donc il est programmé
2:18 informatiquement pour savoir quoi faire même s'il n'a plus le répondant de son pilote vous avez des exemples de ces drones le drone par exemple fabriqué par les turces bariactar lui ce n'est pas son cas ou c'est son cas alors ça peut être son cas ce qui est très difficile avec cette question de l'intération de l'intelligence artificielle au drone c'est que à moins d'avoir accès au système du drone lui-même au programme informatique on peut pas vraiment savoir à quel point il est rendu autonome ce qui est intéressant c'est qu'il y a un rapport de l'ONU qui était sorti en 2021 qui faisait état d'un autre drone turc qui s'appelle le cargou 2 qui est produit par la société STM et le rapport de l'ONU disait que ce drone en Libye c'était autonomisé de son opérateur avait continué sa mission et avait même Mme poursuivi des adversaires en fait on ne sait pas si c'est vrai à la lecture
3:04 du rapport on peut pas attester de la véracité de cette information mais ça montre aussi comment est-ce qu'il peut y avoir des risques sur le plan informationnel et ce que ça montre aussi c'est que les entreprises peuvent avoir tendance à exagérer les capacités de leur système pour vendre tout simplement et au lendemain de la publication de ce rapport de l'ONU STM la société turque a évidemment changé la page web et la page de présentation de son cargou 2 et là l'autonomie était plus du tout présenté de la même manière alors les soldats robots que l'on voit sur la couverture de de votre livre est-ce que ça existe déjà oui ou non alors comme ça non euh c'est-à-dire que il y a évidemment des robots militaires qui peuvent être à la FO cel par exemple voilà exactement donc ça c'est plutôt ce qu'on appelle des robots chiens qui peuvent être à la fois
3:52 terrestres naval sous-marin aérien cependant la tendance est plutôt à ne pas euh humaniser les systèmes robotisés et donc c'est pour ça que il y a quand même des inspirations qui sont plus effectivement sur les chiens on a aussi des robots mules par exemple et après tout simplement il faut bien voir que l'intelligence artificielle ne prend pas forcément la forme d'un robot euh et on peut intégrer de l'intelligence artificielle dans la guerre tout simplement grâce à des ordinateurs après précis aussi qu'il y a des armes défensivesou offensives il y a des polices qui utilisent déjà des appareils de reconnaissance notamment peut-être lors des prises d'otage ouou d'autres scènes de de de politique intérieure entre guillemets euh va-t-on dans les airs vers la fin des pilotes de chasse
4:37 par exemple alors c'est une question qui s'est beaucoup posée déjà au moment où les drones ont commencé à être utilisés de plus en plus massivement notamment par l'armée américaine et à ce moment-là les pilotes de chasse de l'US Air Force ont eu très peur d'être remplacé par les drones et donc ils ont eu tendance à démontrer à quel point leur savoir-faire était inégalable euh je pense qu'on n'est pas du tout arrivé au stade du remplacement des pilotes de chasse et en plus il y a aussi des des questions de d'éthique militaire de responsabilité qui entre en jeu qui font que l'homme est toujours nécessaire pour ce qui est des missions à proprement parler il y a déjà certaines missions où les drones peuvent s'avérer plus pertinents plus efficaces sur le champ de bataille que euh des avions de chasse parce que par
5:24 exemple ils peuvent aller dans des zones plus difficiles d'accès ils peuvent manœuvrer beaucoup plus de manière beaucoup plus agile et encaisser des jet c'est-à-dire une force liée à la au mouvement de l'avion forcément beaucoup plus importante que ce qu'un humain peut encaisser même si les pilotes de chasse sont formés pour avoir de grandes capacités en la matière donc on on voit néanmoins pas uniquement d'ailleurs avec les drones et les et les pilotes de chasse mais de manière générale une tendance à un recours aux machines de plus important et une distanciation de l'homme de plus importante auss h alors en matière d'intelligence artificielle dans le champ militaire il y a une étude une enquête qui a fait grand bruit elle émane de deux médias israéliens notamment le magazine + 972 citons
6:11 l'autre aussi local co qui révèle comment pour la première fois une armée a autant utilisé l'intelligence artificielle en l'occurrence l'armée israenne à Gaza est-ce que vous pouvez nous dire comment ça s'opère et de quoi il s'agit exactement alors dans le cas de l'utilisation parsal donc par l'armée israélienne il a été avancé par ces médias d'investigation israélien que c'était principalement des programmes d'intelligence artificielle donc qui peuvent être associés à des drones à des robots et cetera mais ce qui a provoqué un tolet sur le plan médiatique et et moral c'est des programmes d'in informatique et d'intelligence artificielle qui permettent de faire du ciblage donc c'està-dire qui permettre à la fois d'identifier des membres du
6:56 Hamas dans la bande de Gaza identifier les immeubles dans le dans lesquels ces ces membres présumés du Hamas habitent et d'identifier le moment où ils sont chez eux pour les frapper à ce moment-là parce que l'armée israélienne s'est rendu compte que la réussite de la mission donc la capacité à neutraliser les membres du hamasétait meilleur quand c'était la nuit et qu'ils étaient en train de dormir avec en fonction de la cible entre guillemets si une personne est visée à son domicile le nombre de victime collatérale je cite l'enquête est jugé acceptable par l'armée Israël de 15 à 20 si la cite de très très haute valeur de 200 à 300 personnes c'est ça aussi qui a fait débat c'est ça qui a fait débat et en fait ça ça a été associé à une réflexion sur le calcul de proportionnalité la proportionnalité c'est un principe du droit international humanitaire qui impose que l'avantage
7:44 tiré d'une frappe ou d'une opération quelle qu'elle soit soit proportionnelle au dégâts que cette cette mission engendre donc il faut que l'avantage concret direct escompté vaille la peine entre guillemets euh de sacrifier des biens civils ou des victimes civiles euh dans la plupart des armé ce calcul de proportionnalité est fait on le connaît pas nécessairement certaines décident de communiquer dessus mais c'est très contextuel ça dépend des enjeux qui sont en en cours lors de de la guerre et là dans le cas de l'opération glève de fer qui a commencé en octobre 2023 les enjeux ont été considérés comme extrêmement important
8:30 Israël a tenu le discours d'une guerre existentielle et donc le l'évaluation de la proportionnalité semble avoir évoluer et c'est ce qui a engendré ces calculs vraiment avec un nombre colossal de victimes civil et l'enquête s'appelle enfin en tout cas c'est lavender et l'enquête elle est basée sur le témoignage de six personnes des agents actifs de la division d'élit du cyberrenseignement de l'armée israëlienne on voit comment les armées travaillent activement sur le sujet tiens avant que la question ne m'échappe on l'a appris là il y a quelques minutes en France le ministère des armées va acquérir un super calculateur pour son agence dédiée à l'intelligence artificielle qui s'appelle amiad auprès de l'américain j'ai bien dit l'Américain youulette Pacard allié à Orange qui est français un tandem qui dit l'Agence France Presse serait préféré au groupe
9:16 atthos qui est français cuit de la souveraineté il y a l'affaire d'oliprane entre guillemets là c'est pas un médicament c'est quand même une question importante le le domaine militaire c'est une question très importante laamade a été créé euh il y a peu de temps il y a quelques mois précisément pour essayer d'améliorer la souveraineté française sur les questions d'intelligence artificielle et le fait d'acquérir un super calculateur faisait partie des grands chantiers qui soient dédiés à la fois à la défense et peut-être dans un dans un second temps à la sécurité intérieure là le fait de s'associer à une entreprise américaine ça pose des questions de souveraineté évidentes euh en même temps ce qu'il faut bien comprendre quand il s'agit d'intelligence artificielle que ce soit d'ailleurs militaire ou civile c'est que que la souveraineté est actuellement
10:01 pratiquement impossible à atteindre parce que de toute façon pour faire fonctionner des programmes d'intelligence artificielle on a besoin de semi-conducteurs qui s'inscrivent dans une chaîne de valeur complètement mondialisée qui passe par Taiwan la Chine éventuellement les Pays-Bas les États-Unis et cetera on a besoin de puissance de calcul qui là aussi peuvent venir de différents endroits dans le monde on a besoin aussi de capacité de stockage et là les les data centers peuvent être partout dans le monde et en plus alors ça c'est moins le cas pour l'IA militaire mais pour l'a civil on a besoin de données pour entraîner les algorithmes et là les données elles fonctionnent encore mieux quand elles sont captées partout dans le monde donc c'est difficile d'imaginer une IA française parfaitement souveraine et on peut donc comprendre ce choix de cette
10:47 manière-là tout simplement parce que la puissance de calcul sera a priori meilleure en associant ces deux acteurs même si l'un d'entre eux est américain merci beaucoup lors de rousie rochegonde pour votre éclairage donc la guerre à l'air de l'intelligence artificielle quand les machines prennent les armes cette édition PUF press université de France Merci à vous merci beaucoup
