L’événement du jour : L’ONU sonne l’alerte sur la superintelligence
Le 22 juillet 2025 marque un tournant décisif dans l’histoire de l’intelligence artificielle. Lors d’une déclaration attendue après le Sommet mondial » AI for Good » de Genève, le Secrétaire général de l’ONU a officiellement pressé les géants de la tech à encadrer la superintelligence – ce stade où l’intelligence artificielle dépasse largement les capacités humaines. Au cœur de ce message : la nécessité d’établir des cadres de transparence et des modèles de développement durables, supervisés et éthiques, pour prévenir de graves risques systémiques, tout en maximisant les bénéfices mondiaux de l’IA.
En arrière-plan, une inquiétude grandissante face à l’accélération de l’ia générale (AGI/IAG) et de la superintelligence artificielle (ASI), désormais au centre des débats éthiques, économiques et géopolitiques. L’initiative onusienne affichée vise l’instauration de normes globales contraignantes en matière de transparence, d’audit indépendant, et de reddition des comptes pour les algorithmes les plus puissants.
Ce nouvel élan, véritablement inédit de par son ampleur internationale, intervient alors que l’écart technologique s’accroît entre big tech et États-régulateurs. L’objectif est sans ambiguïté : placer l’intelligence artificielle générale au service de l’humanité, non l’inverse. Cet appel entre en résonance avec les futurs traités et coalitions débattus à Genève, tout en faisant écho à la mobilisation planétaire pour maîtriser la superintelligence.
Un appel structurant : pourquoi maintenant ?
Le timing de cet appel onusien n’est pas anodin. En 2025, la IAG connaît une accélération fulgurante : progrès spectaculaires en matière de AGI, multiplication des modèles ouverts ou propriétaires inédits, enjeux militaires et financiers décuplés. Cette course à l’innovation survient sur fond de tensions géopolitiques, où chaque puissance tente d’imposer sa vision de la gouvernance algorithmique.
L’édition 2025 du Sommet » AI for Good » à Genève a fait ressortir les points de rupture : risques de pertes de contrôle, risques de désinformation, usages militaires, crise de la confiance dans la gouvernance technologique. Depuis Genève, le bilan est mitigé : malgré des propositions concrètes (audits obligatoires, listes de surveillance, principes de durabilité), la réponse globale reste éclatée, freinée par les intérêts divergents des grandes puissances et des big tech.
Parmi les urgences soulignées : garantir la sécurité des systèmes, instaurer une totale transparence sur les capacités et limitations des IA, anticiper les effets de seuil propres à la superintelligence, et stopper une concentration asymétrique des moyens. Pour approfondir, on peut se référer à l’analyse » Les nouvelles lignes rouges pour l’intelligence artificielle générale » qui dessine le contexte de ces nouvelles lignes rouges. C’est aussi une réponse à l’échec relatif des cadres volontaires antérieurs.
2025 s’impose donc comme une année charnière pour placer la intelligence artificielle générale sur une trajectoire éthique et transparente, à la hauteur des défis révélés par une technologie aux conséquences radicales pour l’avenir de l’humanité.
Vers une gouvernance mondiale de la superintelligence ?
Face à la montée en puissance de la superintelligence artificielle, l’ONU et de nombreux experts appellent à bâtir une gouvernance mondiale robuste et évolutive. Plusieurs scénarios émergent : la création d’une coalition internationale analogique à l’Agence internationale de l’énergie atomique, la naissance de nouvelles organisations multilatérales chargées de l’audit éthique et technique, ou la généralisation d’audits de transparence obligatoires pour les modèles d’ia générale et de superintelligence.
Des propositions concrètes sont désormais sur la table, comme le suggère le rapport onusien sur la gouvernance de l’IA : audits indépendants, publication des architectures critique, coopération sur la sécurité transfrontalière des IA, et partage des avancées en toute transparence. Cependant, les résistances des big tech restent vives : crainte de céder des secrets industriels, lobbying intense contre une régulation trop rigide, ou menaces à l’innovation.
Un autre défi majeur : la fracture Nord/Sud dans la gouvernance des technologies. De nombreux pays du Sud dénoncent leur marginalisation dans la définition des normes et leur accès limité aux ressources et infrastructures d’IA. À l’opposé, l’Union européenne s’affirme comme chef de file d’une régulation ambitieuse, provoquant un bras de fer avec les géants de la Silicon Valley (décryptage des enjeux du AI Act). Ce contexte dessine un futur où la gouvernance mondiale sera conditionnée autant par la transparence que par la volonté politique de surmonter ces fractures.
Défi écologique et innovation responsable : la nouvelle frontière
L’industrialisation de l’AGI/ASI accentue nettement les enjeux écologiques. La montée en puissance des modèles de superintelligence artificielle multiplie l’empreinte énergétique des data centers, l’extraction de ressources pour des puces de plus en plus rares, et la pression sur les infrastructures électriques. L’ONU, dans le sillage du rapport 2025 IA & environnement, insiste sur la nécessité de normes internationales concernant l’empreinte carbone, la recyclabilité et la consommation d’eau de l’IA.
Parmi les propositions: indexer les investissements sur l’efficacité énergétique des algorithmes, exiger des bilans environnementaux pour tout nouveau système AGI/ASI, et encourager la recherche sur le matériel » low carbon « . Certains pays militent également pour un encadrement des chaînes d’approvisionnement en minerais rares.
Un débat vif anime pourtant la communauté: jusqu’où peut-on imposer ces normes sans tuer l’innovation ? Les big tech défendent l’autorégulation et brandissent leurs engagements » verts », tandis que d’autres acteurs considèrent ces mesures trop insuffisantes face au risque d’explosion énergétique de l’IA générale. À terme, la réussite de la transition vers une IA responsable dépendra de la capacité à harmoniser normes, reporting environnemental et innovation collaborative, sous supervision indépendante.
Tech et société civile : qui répond, qui résiste ?
La déclaration de l’ONU a généré un large spectre de réactions. Côté tech, Meta a frappé fort en juillet 2025 avec la création de « Meta Superintelligence Labs », centrée sur les technologies de superintelligence, et en recrutant des talents venus d’OpenAI. Ce mouvement illustre la fébrilité stratégique et les rivalités exacerbées du secteur (source).
Google et OpenAI, de leur côté, communiquent prudemment: ils admettent les dangers de l’AGI non régulée, mais s’opposent aux audits trop intrusifs qui limiteraient, selon eux, la capacité d’innovation ou livreraient des secrets industriels sensibles.
Des voix scientifiques, souvent issues de Google DeepMind ou d’Anthropic, ont cependant publié des avertissements conjoints sur le risque de perte de contrôle sur des IA trop puissantes.
Les ONG et de nombreux chercheurs appuient la position onusienne, réclamant une transparence maximale et l’inclusion des sociétés civiles dans les protocoles d’audit. Des projets pilotes voient le jour: publication en open source d’algorithmes critiques, groupes citoyens d’audit algorithmique, financement d’initiatives éthiques indépendantes.
Les lignes de fracture sont nettes: big tech craint la perte d’avantage concurrentiel, les ONG redoutent l’opacité, et de nombreux gouvernements cherchent un point d’équilibre. Cette dynamique rappelle l’histoire récente des points de friction entre innovation et société, tout en redessinant la notion même de responsabilité numérique à l’ère de la intelligence artificielle générale.
Conclusion : l’ONU peut-elle (encore) orienter la course à la superintelligence ?
À l’heure où la course à la superintelligence artificielle s’accélère, la capacité de l’ONU à peser sur l’avenir reste en question. Plusieurs scénarios se dessinent :
- Adoption progressive de traités mondiaux, imposant audits et normes de transparence – surtout si un consensus émerge lors du prochain G20 ou lors d’accords annoncés pour 2026.
- Au contraire, un risque réel de fragmentation : si les États ou big tech ne jouent pas le jeu, des zones de non-droit technologique pourraient s’étendre, rendant caduques une grande partie des efforts onusiens.
- Ligne rouge: la tentation d’intégrer, mais sans contrôle véritable, les principes onusiens – au risque d’une régulation » cosmétique « .
La prospective montre l’urgence d’une coalition large, d’instruments de vérification forts, et d’une implication active des sociétés civiles dans la gouvernance. Sans cela, le scénario du laisser-faire – ou du « chacun pour soi » technologique – pourrait vite devenir réalité.
Pour aller plus loin sur les enjeux écologiques, lisez l’analyse sur le défi énergétique de l’AGI, ou sur le bras de fer normatif, l’analyse de la régulation européenne et l’AI Act. L’enjeu ultime: que la intelligence artificielle générale reste, de fait et de droit, une aventure humaine maîtrisée.