À propos
Gouvernance de l'IA : les démarches engagées
Institutions internationales
UNESCO – Recommandation sur l’éthique de l’IA
Texte adopté en 2021 au sein de l’UNESCO, puis endossé en 2023 par 193 États membres, définissant des principes (droits humains, transparence, évaluation d’impact, redevabilité) et invitant à des cadres nationaux cohérents. Il sert de référence, sans imposer de limites aux capacités techniques ni prévoir de mécanismes d’arrêt des systèmes d’IA de pointe.
ONU – Global Dialogue on AI Governance
En 2024, un « United Nations System White Paper on AI Governance » coordonné par l’UNESCO et l’UIT cartographie les options institutionnelles possibles et insiste sur la coordination et le suivi des risques. En 2025, le Sommet du futur aboutit à la création du Global Dialogue on AI Governance, un forum interétatique et multi-acteurs pour rapprocher les initiatives existantes et préparer d’éventuels accords plus formalisés, sans mécanisme de moratoire global.
Haut-Commissariat aux droits de l’homme – Moratoires ciblés
En 2021, la Haute-Commissaire Michelle Bachelet appelle à un moratoire sur la vente et l’usage de certaines technologies d’IA, notamment la reconnaissance biométrique à distance dans les espaces publics, tant que des garde-fous adéquats en matière de droits humains ne sont pas en place. La logique est celle d’une pause ciblée sur certains usages, non d’un arrêt des systèmes d’IA de pointe en général.
CICR / ONU – Position sur les systèmes d’armes autonomes
Le Comité international de la Croix-Rouge et le Secrétaire général de l’ONU plaident depuis plusieurs années pour un instrument juridiquement contraignant interdisant ou restreignant certaines catégories d’armes autonomes, afin de préserver un « contrôle humain significatif » sur l’emploi de la force. Il s’agit d’un équivalent de moratoire/ban sectoriel limité à l’IA militaire.
G7 – Processus d’Hiroshima et déclarations sur l’IA
À partir de 2023, le processus d’Hiroshima sur l’IA au G7 produit des principes et un code de conduite pour l’IA générative et les modèles de fondation : évaluation des risques, transparence, responsabilité, partage d’information avec les autorités. La présidence française du G7 en 2026 annonce vouloir renforcer ces convergences autour d’une IA « sûre » et protectrice, sans remettre en cause la poursuite du développement des systèmes d’IA de pointe.
ONG et think tanks
Future of Life Institute (FLI)
Lettre « Pause Giant AI Experiments (en anglais) » (2023)
Publiée en mars 2023, cette lettre appelle à une pause d’au moins six mois sur l’entraînement de systèmes plus puissants que GPT-4, c’est-à-dire les modèles d’IA de pointe de l’époque. La pause doit être publique et vérifiable ; en cas d’échec de l’auto-régulation, le texte invite les gouvernements à « intervenir et imposer un moratoire légal ». Malgré un fort écho médiatique, aucun laboratoire majeur ne met en place de pause coordonnée.
Déclaration sur la super-intelligence (2025)
En 2025, le FLI coordonne une nouvelle lettre appelant cette fois à une interdiction de long terme du développement d’IA super-intelligente tant qu’il n’existe ni garanties de sûreté suffisantes ni soutien démocratique clair. L’ONG se prononce alors pour une pause sur les expériences d’IA de pointe et pour un moratoire d’au moins quinze ans sur certaines formes d’IA générale ou de super-intelligence.
Machine Intelligence Research Institute (MIRI)
Rapport « AI Governance to Avoid Extinction (en anglais) » (2025)
Publié en mai 2025, ce rapport propose plusieurs trajectoires possibles pour la gouvernance de l’IA, dont un scénario central « Off Switch and Halt ». Il part du diagnostic que les systèmes d’IA de pointe pourraient, à court terme, dépasser les experts humains dans de nombreux domaines et créer un risque d’extinction (perte de contrôle, guerres, verrouillage autoritaire). Le scénario de Halt prévoit la construction d’une capacité mondiale à restreindre ou arrêter le développement et le déploiement de ces systèmes, puis à maintenir un moratoire global potentiellement de plusieurs décennies, le temps de résoudre les problèmes d’alignement.
Projet de traité correspondant (en anglais) (2025)
Dans le prolongement, MIRI esquisse un traité international détaillant des seuils de calcul (FLOP) au-delà desquels l’entraînement de systèmes d’IA de pointe requiert une licence, un traçage des puces et des centres de données, des inspections internationales et un régime de sanctions. L’architecture s’inspire des régimes de contrôle des armements, avec une coalition États-Unis–Chine envisagée comme noyau dur.
ControlAI
« A Narrow Path » (2024) et « Direct Institutional Plan » (2025)
ControlAI, fondé au milieu des années 2020, publie entre 2024 et 2025 son plan « A Narrow Path », centré sur la prévention d’une superintelligence non contrôlée. Le texte propose d’interdire, pendant au moins vingt ans, le développement de super-intelligence et de certaines capacités extrêmes (évasion, auto-amélioration, usages stratégiques), tout en autorisant, sous licence, d’autres systèmes d’IA de pointe jugés moins dangereux. Il recommande aussi des mesures de gouvernance du calcul (plafonds de puissance, licences), des exigences de sécurité renforcées et, à terme, la création d’une agence internationale de sûreté de l’IA.
Pour mettre ce cadre en œuvre dans les démocraties, ControlAI développe ensuite le « Direct Institutional Plan » (DIP), un plan d’action en deux étapes (élaboration de politiques ciblant la superintelligence et ses précurseurs, puis mobilisation systématique des acteurs institutionnels) visant à faire adopter des interdictions nationales et, in fine, un accord international durable contre le développement de la superintelligence.
Existential Risk Observatory (ERO)
« Conditional AI Safety Treaty (en anglais) » (2025)
À partir de 2024–2025, l’Existential Risk Observatory propose un « Conditional AI Safety Treaty » qui se veut plus acceptable politiquement qu’un moratoire immédiat et général. L’idée est de ne pas décréter tout de suite un arrêt des systèmes d’IA de pointe, mais de prévoir un mécanisme : les États s’engagent à stopper certains entraînements dès que des instituts internationaux de sécurité de l’IA indépendants concluent qu’un projet ou un niveau de capacités rapproche trop d’une perte de contrôle. La durée du Halt n’est pas fixée à l’avance ; elle dépend de l’évolution des évaluations de risque et des progrès en matière d’alignement.
PauseAI (global)
« Construire le bouton Pause (en anglais) » (2025)
Le mouvement Pause AI a proposé une approche matérielle de la pause lors de l’AI Safety Camp de 2025. L’entraînement de modèles de pointe de type LLM nécessite beaucoup de matériel hautement spécialisé et coûteux (des puces). La chaîne d’approvisionnement pour ce matériel repose sur un très petit nombre d’entreprises extrêmement spécialisées, comme ASML (Pays-Bas) et SMEE (Chine) pour les machines de lithographie nécessaires à la fabrication des puces, ou TSMC (Taïwan), Samsung (Corée du Sud) et SMIC (Chine) pour les usines de fabrication. Via la chaîne d’approvisionnement des puces d’IA, les gouvernements ou d’autres instances de régulation peuvent connaître et contrôler matériellement l’activité des compagnies qui développent l’IA.
