L’intelligence artificielle : concilier l’espérance et la peur ?
Roger Gil; Billet ethique; 14 février 2025; 158
L’intelligence artificielle suscite une agitation mondiale et Paris a donc abrité un « Sommet pour l’action sur l’intelligence artificielle (IA) » qualifié de « plus qu’une révolution industrielle et technologique ». Elle laisse en effet « entrevoir de profonds changements dans nos sociétés, dans nos rapports au savoir, au travail, à l’information, à la culture et même au langage. Cette révolution technologique ne connaît pas de frontières. En ce sens, l’IA est un enjeu scientifique, économique, culturel, politique et citoyen qui nécessite un dialogue étroit entre les États, les chercheurs, les entreprises, les créateurs et la société civile. Ces échanges doivent permettre d’adapter et de préparer de manière collaborative la société aux évolutions entraînées par l’IA »[1].
Le développement de l’intelligence artificielle est donc implicitement présenté comme inexorable et irréversible. Elle mobilise et va mobiliser des investissements fabuleux qui appellent bien sûr à des « retours sur investissement » qui devront tout à la fois être « rentables » pour les investisseurs tout en évitant des dérives qui pourraient asservir l’intelligence humaine. Préparer la société c’est tout à la fois préserver les libertés humaines, ne pas limiter les progrès attendus à une poignée de pays riches, bref faire en sorte que les bienfaits soient tout à la fois « mondialisés » (une mondialisation vertueuse) et « humano-centrés » comme l’avait proposé la Charte européenne[2]. Bref dans l’idéal la visée concernerait au moins, dans une ambition éthique utilitariste, « le plus grand bien pour le plus grand nombre ».
D’ailleurs les organisateurs du sommet ont clairement défini leur feuille de route :
- « Comment développer massivement les technologies et les usages de l’IA dans l’ensemble des pays du monde ?
- Comment réussir le virage de l’IA en ne laissant personne de côté et en préservant nos libertés ?
- Comment faire en sorte que les usages de l’IA correspondent à nos valeurs humanistes et que cette technologie puisse être mise au service du collectif et de l’intérêt général ? »
L’enjeu est, dès lors, d’élaborer un cadre de confiance partagé par tous les pays pour ne retenir que les applications des nouvelles technologies conformes à la justice, à la liberté et à la dignité des personnes, en somme de permettre à l’IA de réaliser sa promesse initiale de progrès et d’émancipation. Cette feuille de route dont on ne peut nier la noblesse est-elle réaliste ? On doit l’espérer. Il faut aussi l’espérer dès lors que la croissance de l’IA est présentée comme irréversible. Or les obstacles à franchir seront de taille. Il y a d’abord le coût financier et le coût énergétique avec ses dimensions économiques et écologiques, appelant déjà à s’orienter vers une IA appelée « frugale » et tournée vers les énergies décarbonées ou peu carbonées. Mais on connaît les rivalités féroces qui sur le plan économique et financier divisent le monde avec ses blocs, ses empires, ses guerres « à balles réelles » et ses guerres commerciales. Le nucléaire, pourtant peu carboné, est controversé et les énergies « vertes » ne peuvent aujourd’hui répondre à une demande que l’IA accroîtra. Combien de pays et de grands pays fabriquent encore de l’électricité avec une large part d’énergies fossiles ? Et la volte-face de la France, fermant la centrale de Fessenheim, illustre les divisions au sein même d’une société, incapable en France certes, mais aussi ailleurs de dégager une vision consensuelle de l’avenir. On comprend que le Pape ait adressé à l’occasion de ce sommet un message souhaitant que soit créée « une plate-forme d’intérêt public sur l’intelligence artificielle » … pour que chaque nation puisse trouver dans l’intelligence artificielle un instrument … de développement et de lutte contre la pauvreté ». Souvenons-nous cependant des difficiles et laborieuses négociations qui ont dû être menées pour permettre aux populations de pays pauvres de bénéficier des médicaments destinés à lutter contre le SIDA pour des prix « raisonnables »[3], en tout cas compatibles avec leur niveau de vie et leurs capacités économiques. Considérons dès aujourd’hui les prix parfois astronomiques de thérapeutiques innovantes issues d’algorithmes sécrétés par l’IA à partir de données massives dans le cadre d’une médecine dite personnalisée ou de précision. L’IA réussira-t-elle à « ruisseler » des pays riches vers les pays pauvres et remédier aux disparités qui affectent le genre humain et qui ont résisté à tous les programmes économiques jusque-là déployés dans un monde où le commerce des armes semble hélas l’un des seuls qui mobilise l’énergie de la quasi-totalité des pays du monde, y compris des pays les plus pauvres d’ailleurs utilisés par des pays riches pour asseoir leur puissance.
Mais les interrogations portées par les spécialistes de l’IA qui se sont réunis à Paris concernent aussi de manière lucide leur souci de préserver les dérives de l’IA qui doit respecter des « valeurs humanistes ». Car l’IA artificielle expose à des applications matraitantes dès lors qu’elles peuvent porter atteinte à l’autonomie, donc à la dignité des personnes humaines qu’elles pourraient, non plus assister, mais asservir. Les exemples sont innombrables. Certaines ouvrent au transhumanisme le plus inquiétant. Ainsi il est bon que les algorithmes de l’IA procèdent de la puissance de calcul et de traitement de données massives qui amplifieront, et amplifient déjà de manière considérable les capacités de l’intelligence humaine (par exemple dans la médecine de précision qui ouvre à bien des thérapeutiques innovantes) : l’autonomie humaine est sauve dès lors qu’elle pilote les technologies numériques. Mais pour autant peut-on imaginer que les technologies numériques soient reliées structurellement au cerveau humain à l’aide de microélectrodes implantées ? Le concept de cyborg est-il acceptable alors qu’il ouvre à l’asservissement des personnes « cérébralement connectées » qui seront alors pilotées par des machines mais aussi par ceux qui sont les maîtres d’œuvre de ces projets ? Imagine-t-on qu’en plus de sa vulnérabilité ontique, maladies ou accidents, les êtres humains devenus cyborgs s’exposent à des vulnérabilités technologiques inductrices par dysfonctionnement, de comportements inadaptés (auto ou hétéroagressivité par exemple) ou victimes d’agressions accidentelles ou intentionnelles par rupture de l’apport énergétique nécessaire au fonctionnement de l’IA ! On peut aussi évoquer les dérives de la robotisation qui certes peut pourvoir à l’assistance de personnes en situation de handicap, qui peut aussi investir des « robots compagnons », animaloïdes ou humanoïdes dont il ne faudrait pas qu’ils se substituent, auprès des personnes âgées et en situation de dépendance, à la carence en relations humaines. Et que dire de ces robots devenant des armes létales et même des armes létales autonomes. Pourraient-elles ces armes qui croient tirer sur des ombres algorithmant des silhouettes humaines donc ennemies être l’objet de nouveaux « hackers[4] » qui leur permettront de déserter, de trahir, de retourner les armes contre ceux qui les ont envoyés au combat.
Progrès humains ou risques de déshumanisation, les deux plateaux de cette balance bénéfices-risques pourront pencher d’un côté ou de l’autre. Que le récent sommet international ait abordé ces interrogations éthiques est certes encourageant mais ne délivre pas de la peur, de cette peur salutaire, de cette heuristique de la peur qu’évoquait Hans Jonas[5] qui ne paralyse pas l’action mais invite à la vigilance de l’anticipation. On aimerait citer plus longuement et méditer ce que Hans Jonas écrivait dans son « Principe responsabilité » : « la soumission de la nature destinée au bonheur humain a entraîné par la démesure de son succès, qui s’étend maintenant également à la nature de l’homme lui-même, le plus grand défi que son faire ait jamais entraîné »… Qu’est-ce qui peut servir de boussole ? L’anticipation de la menace elle-même ! » L’agir humain, porté par les technologies, est ainsi appelé à « préserver pour l’homme l’intégrité de son monde et de son essence contre les abus de son pouvoir ».
Les développeurs et les investisseurs de l’intelligence artificielle ne peuvent pas se satisfaire d’intentions et de chartes ; ils doivent pour convaincre, transformer leurs questionnements en un agir éthique, en somme transformer leurs paroles en actes.
[1] https://www.elysee.fr/sommet-pour-l-action-sur-l-ia/presentation
[2]https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai
[3] https://www.msf.fr/actualites/sida-l-acces-a-des-arv-a-prix-modere-menace
[4] ou pirates informatiques, anglicisme figurant maintenant dans les dictionnaires de langue française.
[5] Hans Jonas, Le principe responsabilité: une éthique pour la civilisation technologique, trad. par Jean Greisch (Paris: Flammarion, 2008).
Le PDF peut être consulté en cliquant sur le lien suivant: