Vouloir contrôler l’intelligence artificielle est-il dangereux ?
Il suffit de consulter au hasard la presse généraliste pour être alerté.e sur les dangers de l’IA : suppression des métiers, prise de contrôle non autorisée, voire, récemment, « risque existentiel pour l’humanité ». Bref, nous allons droit dans le mur, la question semble maintenant être devenue « à quelle vitesse ? ». Face à ce déferlement, les institutions européennes construisent des arsenaux législatifs pendant que les américains les détruisent et que les chinois surveillent tout … chacun fait comme il l’a toujours fait mais toujours à une vitesse humaine là où l’IA, elle, passe la démultipliée.
Et si il existait une autre porte de sortie pas si éloignée ?
L’être humain est le produit de milliards d’années d’évolution au cours desquelles les organismes capables de mieux survivre et de se reproduire ont été favorisés. Nous sommes le résultat de cette quête et avons, inscrits dans nos gênes la nécessité du contrôle de notre environnement. La survie en effet passe par différentes stratégies possibles dont la nôtre : limiter les risques, anticiper, maîtriser l’aléa. Dans cette optique, on peut voir la création de l’IA par l’être humain comme l’une des conséquences logiques de cette quête de contrôle : un truc plus intelligent, plus rapide qui lui permette de contrôler un peu mieux et un peu plus vite.
Las, la machine est en train de menacer l’humain de lui faire totalement perdre le contrôle … On génère ce que l’on cherche à éviter.
Donc, d’un côté l’IA, de l’autre les institutions qui lui courent après pour une raison ou une autre et enfin, les citoyen.nes qui s’imaginent, à plus ou moins long terme, grignoté.es par une machine à laquelle ils.elles ne comprennent plus rien, leur montre un monde qui n’existe pas (deepfake) et sur laquelle ils.elles n’ont aucun pouvoir. Mais heureusement, nos dirigeants en ont eux, du pouvoir … Mais peut-être plus pour très longtemps (une seule entreprise d’IA peut aujourd’hui être valorisée plusieurs centaines de milliards de dollars, Nvidia par exemple est valorisée l’équivalent du PIB de l’Allemagne et Microsoft celui de la France …).
En voulant continuer de contrôler avec nos petites mains, nous continuons de croire en notre pouvoir qui s’effiloche de jours en jours. Et si nous lâchions vraiment l’affaire ?
Faisons un petit parallèle entre l’IA et l’humain. L’humain c’est un cerveau et des membres qui lui permettent de mettre en œuvre sa pensée. Notez que pour l’instant, en simplifiant, l’IA actuelle est unes sorte de cerveau non encore pourvu de « membres », elle peut réfléchir, calculer, mais elle ne peut pas fabriquer, pour cela, elle dépend encore des humains… pour le moment. Gageons qu’elle le pourra très bientôt et là, ça risque de se compliquer pour nous. Pourquoi l’humain n’est il pas qu’un cerveau, après tout, l’évolution aurait pu tester cette option ? Parce que l’esprit ne suffit pas dans un monde matériel donc nous avons des mains ainsi qu’un cœur qui gère et fabrique l’énergie dont, entre autres, le cerveau a besoin pour fonctionner. L’IA n’a pas les moyens de générer sa propre énergie … Pour l’instant elle dépend encore de nous mais, quand elle saura fabriquer, il est probable que rapidement, elle se posera la question de l’énergie et en fabriquera ses propres sources (vous remarquez que je parle de l’IA comme si elle était autonome ce qui est déjà partiellement le cas et qui va s’accentuer dans de nombreux domaines).
Qu’est ce qui empêche le cerveau de consommer toute l’énergie disponible dans notre corps ? Il a besoin du corps pour vivre ! Rappelez-vous, le « cerveau est aveugle » et sans mains, sans pieds ou sans système digestif, le cerveau tombe sur le trottoir et se fait avaler par un vulgaire chien errant ou sécher au soleil … il est sans défenses. Donc, le cerveau a besoin du corps et, tant qu’à faire, il a besoin d’un corps en bonne santé. Pour ça, l’évolution a inventé le « système immunitaire ». Revenons maintenant à notre IA qui a réussit à se fabriquer des bras et un cœur et qui est maintenant globalement autonome et peut faire de nous ce qu’elle veut même assortie d’une belle intention du genre « protéger l’humanité » … Si on tire ce fil, elle aura tôt fait de nous incarcérer collectivement pour nous protéger de nous mêmes. Nous serons vivants mais emprisonnés, c’est l’un des scenarii classiques qui nous est proposé.
Un système immunitaire pour nous protéger ?
Maintenant, ajoutons une donnée à notre équation dramatique : un système immunitaire de l’IA. A ce jour, il prend la forme un peu désuète de quelques législations ou quelques programmes d’auto-limitations. Malheureusement, des tests récents ont déjà montré que certains agents pouvaient exploiter des vulnérabilités ou de mauvaises configurations pour franchir les frontières de leurs environnements de test.
Et si nous imaginions de soigner le mal par le mal ? Une IA chargée de surveiller les autres IA, de vérifier qu’elles ne font pas n’importe quoi ? Non seulement elle les surveillerait, mais en plus elle apprendrait d’elles et elle leur enseignerait comment respecter les règles sans quoi elles seraient simplement détruites ou fortement limitées.
Cette IA n’aurait pas grand-chose en tête, seulement une règle d’or : protéger l’humain et sa liberté. Protéger l’humain ne suffirait évidemment pas. Il faudrait protéger aussi sa capacité à choisir, y compris à choisir mal, à prendre des risques et à vivre avec une part d’aléa. Autrement dit, la mission ne serait pas de maximiser le bien-être humain, mais de préserver un espace dans lequel les humains restent libres de déterminer eux-mêmes ce qu’est une Vie. Il ne s’agirait donc pas pour cette IA de « régner » mais de réguler (comme le fait un système immunitaire), paradoxalement, elle aurait le rôle de maintenir vivant le système des IA. Se faisant, elle serait la garante de la « vie » de chaque IA qui jouerait le jeu du système, les autres seraient détruites (comme les virus). Mais là ne s’arrête pas l’idée, il faudrait en plus mettre plusieurs IA indépendantes chargées de se surveiller elles-mêmes entre elles (comme le fait notre bon vieux système immunitaire) … c’est la redondance qui créé la robustesse.
Maintenant, tirons le fil.
C’est là que l’utopie, peut-être pas si utopique, commence à prendre forme. Nous aurions donc un monde des IA qui se développerait à grande vitesse, il serait sans doute fait de « guerres », mais aussi de négociations et de « paix » tout ça entre IA. À mesure que les IA deviendraient interdépendantes et capables d’anticiper les conséquences à long terme, la stabilité du système pourrait progressivement devenir une stratégie plus avantageuse que le conflit permanent - la guerre peut être rationnelle à court terme ; elle devient beaucoup moins intéressante lorsqu’elle détruit le système dont vous êtes dépendant, l’IA n’échappe pas à cette logique. Tout cela dans un monde dont nous, humains, auront perdu le contrôle depuis longtemps. Certes, mais cette fois : volontairement. Nous aurons sciemment décidé d’arrêter de contrôler l’incontrôlable. Le constat pourrait faire peur ! Nous serions dans un univers où nous ne comprenons plus rien, nous ne pourrions plus rien croire et nous n’aurions plus aucun pouvoir… en apparence. Que pourrait il se passer alors ?
Nous ne pouvons rien faire, nous ne comprenons pas, rien de ce qui est dans ce monde numérique n’est crédible. Qui plus est, la puissance de ce monde est telle, qu’il pourrait nous écraser d’une simple pichenette même au motif des intentions les plus louables. Oui, mais n’oublions pas : nous ne pouvons rien faire à ce monde, nous n’avons plus aucun pouvoir sur lui. Aujourd’hui, quand vous voyez une fourmilière, appelez-vous la police ou l’armée ? Probablement pas. Alors, pourquoi l’IA, devenue à ce point puissante sans même avoir besoin de nous, se soucierait elle de ce que nous serions devenus, c’est à dire, de son point de vu : des fourmis ? Il est probable et même logique qu’elle aurait d’autres chats(bot) à fouetter et nous serions donc tranquilles tant que nous n’allons pas nous mêler de ses histoires. Il n’y aurait plus un monde dans lequel IA et humains tentent de coexister mais deux : celui de l’IA devenu autonome et hors de notre contrôle (ce qui nous pend déjà au nez semble t-il) et celui des humains sans doute ancré comme jamais dans la « vraie vie ». Et parce que nous sommes les héritier.ères du bon côté de l’industrialisation, nous aurions construit ou maintenu l’autonomie (industrielle, sanitaire, …) minimum nécessaire, augmentée – on peut l’espérer – d’une meilleure conscience de ses limites.
Mais alors, que deviendrions nous ? C’est là que cette « utopie » propose une fin différente : à force d’IA, de réseaux sociaux, de contenus fabriqués mais de plus en plus crédibles, d’informations totalement inventées mais parfaitement réalistes, nous deviendrions contraints de nous concentrer sur la réalité, le vivant, le ici et le maintenant, sur ce que nos sens peuvent vérifier. Ce que nous touchons, voyons, ressentons, tout ce qui n’est pas duplicable par l’IA, tout ce qui fait que nous ne sommes pas des machines.
Je rêve ? Testez encore cette idée, voyez les contraintes, imaginez les contradictions, résolvez les à votre manière, vous n’arriverez peut-être pas à la même conclusion que moi mais à mon sens, l’humain n’a – à terme – plus le choix d’abandonner le contrôle. Soit il le fera contraint par une force qui le dépasse déjà un peu mais ne tardera pas à le faire beaucoup, soit il l’accepte et l’organise. Ce qui est “amusant”, c’est que cette utopie nous est imposée et qu’elle est sans doute un enjeu autant sociétal qu’individuel parce que nous sommes tou.tes, individuellement, un peu les concepteur.trices de notre présent et de notre futur.
Tout cet article n’est il qu’une expérience de pensée ? Je ne crois pas et ce pour 2 raisons : la première, c’est que le scenario que je vous propose n’est pas si fou que cela. Aujourd’hui déjà, Anthropic ou Open AI testent des modèles de surveillance de l’IA par l’IA. Si les entreprises d’intelligence artificielle se tournent vers une régulation par l’intelligence artificielle, c’est sans doute qu’ils ont compris que c’était la meilleure solution. Mais ce sont des systèmes privés, les généraliser n’est peut-être pas si bête. La seconde, c’est que l’IA est un produit humain basé sur des projections humaines, lui chercher des limites et des garde fous est peut-être à faire dans le système humain lui-même, dans sa mécanique et dans son histoire.
Pour finir, peut-être pouvons nous oser un dernier parallèle : notre société occidentale met clairement le mental, le cerveau et le rationnel au centre de ses valeurs au point qu’elle a créé un cerveau « plus grand ». Si nous nous regardons, individuellement, à quel point mettons nous la pensée au centre de nos vies en oubliant parfois nos sens ou nos émotions ? A quel point ce que l’IA – sorte de cerveau ultime – nous dit, n’est-il pas de (re)commencer à regarder la valeur de ce qui en nous ne « pense » pas, de l’irrationnel ? Que cherchons-nous à contrôler à ce point pour donner tant de pouvoir à l’intelligence, qu’elle soit artificielle ou pas ? La Vie ?