🧠 IA & 🤖 ROBOTS Flashcards
Que représente l’IA dans nos armées modernes ?
La voie principale de la supériorité tactique.
C’est un enjeu de défense prioritaire.
Elle incarne une menace pour “l’humanisme militaire”.
Comment le numérique transforme t-il notre manière de penser ?
Le numérique transforme radicalement les processus cognitifs.
Aujourd’hui, la façon de travailler/penser/organiser est différente de celle des années 2000.
Nombre de robots en 2019
Plus de 2,6 millions de robots, corvéables à merci.
Robots et emplois
S’empareront-ils de nombre d’emplois, laissant les travailleurs à la rue ?
► Pas vraiment, estime la Banque mondiale dans son rapport annuel sur le développement dans le monde. L’avènement de l’automatisation n’a pour l’instant pas eu d’effet majeur sur les marchés de l’emploi à travers le monde. Et, à l’avenir, elle peut même être « source de croissance plus rapide » pour les entreprises.
► A l’instar du Forum économique mondial , la Banque mondiale voit surtout dans la robotisation une source de productivité du travail dans les entreprises, de nouveaux revenus, plus de consommation et donc d’emploi.
► « Les technologies se substituent peut-être aux travailleurs dans certains emplois, mais globalement elles accroissent la demande de main-d’oeuvre ».
Quatrième révolution industrielle
Elle combine intelligence artificielle, l’Internet des objets, le Big Data et la robotique pour transformer les industries.
Elle fait l’objet d’une littérature abondante - aussi bien alarmiste qu’optimiste.
EURON
Réseau européen de recherche en robotique
♦ Regroupe 230 des plus grands laboratoires de recherche et industries robotiques européens
♦ EURON se préoccupait déjà du danger que pourraient représenter les robots dans sa feuille de route sur la roboéthique de 2007 : un robot peut-il être “bon” ou “mauvais” ? Voire carrément… dangereux pour l’humanité ?
♦ Pour EURON, l’invasion robotique a bel et bien commencé. “Au siècle, l’humanité cohabitera avec la première intelligence étrangère jamais encore contactée : les robots.”
Robot
Entités physiques et informatiques autonomes, interactives et adaptables à l’environnement humain.
IIs manquent particulièrement de bases morales et d’une bonne éducation pour vivre en société.
COMETS
Comité d’éthique du CNRS
A recommandé dès 2009 de se pencher très sérieusement sur “la question de doter ces machines de sens moral, ce que certains appellent ‘l’éthique des machines’, afin qu’elles agissent en accord avec des principes éthiques quand elles sont confrontées à des problèmes et qu’elles doivent prendre des décisions”.
“Trois Lois de la robotique”
1942
Forgées par l’écrivain et scientifique américain d’origine russe Isaac ASIMOV.
- Les robots ne doivent pas modifier ou dissimuler leur identité.*
- Les robots ont le droit d’exister sans peur, dommage ou mort.*
- Les robots ne doivent pas participer à des activités criminelles.*
- Les robots doivent protéger leur existence.*
- ♦*
► Qualifiées à l’époque de “science spéculative”, ces réflexions sur le rôle des robots dans la société humaine sont devenues aujourd’hui les piliers d’une nouvelle discipline très pratique, la roboéthique.
► COMETS a exprimé sous forme de deux questions. Ces lois sont-elles suffisantes ? Comment faire pour les traduire en algorithmes ?
► Car si, aujourd’hui, la présence des robots demeure discrète, l’EURON, initiateur de la croisade roboéthique, a anticipé ce qui se profile à l’horizon 2020 : la délégation croissante à des robots autonomes ou semi-autonomes de décisions importantes et complexes, notamment dans les secteurs médical, paramédical, commercial et des transports - sans parler, bien sûr, des robots-soldats et autres armes robotiques qui sont déjà au centre des réflexions des agences gouvernementales, à commencer par le Pentagon.
Recommandations sur l’IA de Cedric Villani ?
Rapport Villani de mars 2018
Cite 4 pôles prioritaires de recherche :
la santé, les transports, l’environnement et la défense.
Rapport Villani
Mars 2018
Donner un sens à l’intelligence artificielle.
Pour une stratégie nationale et européenne.
Mission confiée par le PM
SALA
Systèmes d’armes létaux autonomes (SALA)
Autrement dit : des « robots tueurs »
Un penseur du rapport entre l’homme et la technique.
Jacques ELLUL
La technique ou l’enjeu du siècle.
Le bluff technologique
Le système technicien.
Professeur de Droit à la faculté de Bordeaux, théologien parfois même appelé philosophe.
► Milita contre les raccourcis de la pensée technicienne. Il est TECHNOCRITIQUE mais pas technophobe.
► S’opposa à tous ceux qui postulent que l’environnement technique de l’homme est « neutre », qu’il est « ce qu’on en fait », et qu’il dépend en dernière analyse de la seule volonté humaine.
► « On n’arrête pas le progrès », et c’est bien ce qu’il déplore. La technique est à l’origine des maux qui pervertissent la morale et détruisent l’environnement.
► « La société technicienne » est l’inverse même du progrès.
► Il critique le gigantisme, la démesure, l’hubris qui conduit les hommes à sacraliser la technique jusqu’à remplacer Dieu lui même. Il prévient d’ailleurs : « Plus la technique est audacieuse, plus le danger est inouï ».
► Le « système technicien » se nourrit de la passion que nous lui accordons.
Cadre éthique des armées françaises sur l’emplois des SALA ?
Florence PARLY :
- “Et notre ligne rouge est claire : tous nos travaux s’inscrivent dans un cadre éthique où l’IA doit rester au service de l’homme et non le remplacer.*
- Il n’est pas question de confier à une machine le choix de tirer ou la décision de vie ou de mort.*
L’homme garde le contrôle et reste donc responsable, comme l’exige le droit de la guerre.”
Quelle est la doctrine française en matière d’intelligence artificielle et de défense ?
Florence PARLY
► La France ne doit pas passer à côté du développement de l’IA.
► Dans ses recommandations sur l’IA , Cedric Villani a cité quatre pôles prioritaires de recherche : la santé, les transports, l’environnement et la défense.
► Vous savez à quel point ma priorité est de pousser l’innovation au sein du ministère des Armées, pour prévenir tout risque de déclassement technologique.
► Je souhaite que la France soit en mesure de relever les défis dans les nouveaux champs de confrontation potentielle que sont l’espace et le cyberespace, je souhaite que les Armées françaises prennent à bras-le-corps la question de l’IA pour investir et garantir la supériorité de leurs systèmes de combat.
