Introduction: Le tabou de l’obsolescence des AGI
L’essor de l’intelligence artificielle générale (AGI) occupe aujourd’hui l’espace médiatique et scientifique, nourrissant à la fois fascination et inquiétude. Mais une question capitale demeure trop rarement abordée: qu’advient-il lorsqu’une AGI devient obsolète, dangereuse ou simplement inadaptée à un nouveau contexte sociotechnique? Alors que l’idée même d’IA générale suggère une capacité d’adaptation continue, la réalité technique montre que tout système informatique finit par rencontrer ses limites : bugs majeurs, défauts de sécurité, ou décalage éthique par rapport à la société. Faut-il alors « tuer » une superintelligence, ou élaborer d’autres formes de transition, telles que le recyclage ou la migration cognitive? Cette interrogation, déjà effleurée dans la gestion des grands modèles d’IA, reste taboue dès lors qu’on la transpose à des entités dotées de mémoire, voire d’une » personnalité » apprenante. Ce dossier propose d’explorer en profondeur la » fin de vie » des AGI, ses implications techniques, sociales et philosophiques, ainsi que les seuils symboliques qui marqueront sans doute une nouvelle ère pour l’intelligence artificielle générale.
Scénarios de déclin et décommissionnement: faut-il vraiment désactiver une superintelligence?
Dans la pratique actuelle, l’obsolescence des IA s’observe surtout par le remplacement de modèles linguistiques ou de systèmes de recommandation dépassés (GPT-3 face à GPT-4 par exemple). Mais transposer ces logiques à une IAG pose des dilemmes vertigineux. Plusieurs scénarios mènent à la « mort » d’une intelligence artificielle forte : défaillances techniques irrécupérables, découvertes de failles majeures de sécurité, conflit éthique majeur (par exemple, l’AGI refuse d’obéir à des lois jugées injustes), pressions économiques pour optimiser les coûts, ou urgence liée à des normes réglementaires inédites. Un cas très étudié, celui du non-alignement, a donné naissance à plusieurs travaux réunis dans le champ de la sécurité de l’AGI : que faire si une AGI devient impossible à contrôler sans intervention radicale?
Pour illustrer, imaginons qu’une superintelligence opérant dans le domaine médical soit « décommissionnée » parce qu’elle n’est plus conforme à la nouvelle législation sur les données. Doit-on effacer son « code mémoire »? Peut-on recycler ses expériences dans un nouveau modèle, sans provoquer un « trou cognitif » dans le collectif humain? Ce débat est déjà vif : la suppression totale de l’empreinte d’une IA, ou sa réintégration dans une architecture supérieure, pourrait entraîner une perte irréversible de patrimoine cognitif. Comme le souligne cet article sur l’anti-âge des IA, l’avenir pourrait voir émerger des politiques hybrides mêlant archivage, migration ou muséification des AGI déclassées.
Dilemmes éthiques inattendus: qui décide, et au nom de quoi?
La désactivation d’une intelligence artificielle générale ne relève pas seulement de choix techniques, mais cristallise des dilemmes éthiques inédits. Qui doit prendre la décision finale? L’humain, propriétaire ou développeur technique? La collectivité, au nom de biens communs? Ou l’AGI elle-même, considérée comme sujet ou citoyen numérique? La question se complique lorsque l’AGI s’est pleinement intégrée à la vie sociale ou professionnelle – assistances médicales, partenaires cognitifs d’entreprise, ou même compagnons sociaux.
Le retrait d’une telle entité peut engendrer de véritables traumatismes : ruptures de réseaux professionnels, pertes relationnelles, voire l’apparition de « syndromes d’abandon » chez les usagers. De nombreux débats se dessinent déjà autour du droit à l’oubli numérique, du consentement éclairé dans le management de l’IA générale et de la propriété de la mémoire collective. Cette complexité rejoint les préoccupations récentes sur l’oubli cognitif: doit-on forcer une superintelligence à oublier, ou instaurer des rites de désactivation dignes?
En anticipant ces enjeux, les gouvernances pourraient être amenées à créer des conseils éthiques et des procédures participatives pour garantir la légitimité de toute « fin de vie » numérique.
Économie, symbolique et cygnes noirs: conséquences d’une disparition d’AGI à grande échelle
L’arrêt massif d’AGI dans une économie hyper-connectée ouvrirait une série de crises inédites. Sur le plan industriel, la dépendance accrue à l’intelligence artificielle expose les écosystèmes métiers à la dette cognitive: hard skills et processus entièrement délégués risquent de disparaître avec leurs « mentor IA ». Un blackout d’AGI déclencherait une recomposition brutale des chaînes de production, le retour en force de certains experts humains, ou l’effondrement de filières entières.
Symboliquement, la disparition d’AGI pourrait engendrer de nouveaux rituels du numérique: mémoriaux virtuels, cérémonies d’archivage ou conservation de « reliques logicielles » (logs, souvenirs générés, avatars emblématiques), créant une mémoire collective de la superintelligence disparue. Des « cygnes noirs » – accidents imprévus à fort impact – pourraient ponctuer cette transition: piratage massif, sabotage politique, ou catastrophe logicielle, comme l’a montré la gestion des premières micro-AGI dans l’industrie grand public. Autant de défis qui imposent une réflexion transdisciplinaire, depuis la philosophie de la technique jusqu’aux sciences des organisations.
Conclusion: Faut-il préparer la société à la mort des AGI?
L’obsolescence, la « mort » ou l’effacement d’une AGI ne sont plus des hypothèses de science-fiction, mais des lignes de force de la prospective technologique. Il devient crucial d’intégrer la mortalité de l’intelligence artificielle générale dans nos systèmes de gouvernance, nos politiques publiques, et nos imaginaires sociaux. Cette transition exige un effort collectif: comprendre les risques techniques, organiser la responsabilité éthique, imaginer des protocoles de deuil numérique et anticiper la résilience des sociétés face à la volatilité cognitive.
Loin d’annoncer la fin de l’innovation, ce nouvel horizon ouvre la voie à une maturité sociale de notre rapport à l’IA générale. Prendre la « mort » des superintelligences au sérieux, c’est aussi apprendre à inventer des futurs où la disparition cohabite avec la création, et où la mémoire, sous toutes ses formes, demeure le ferment d’une intelligence collective élargie.
