Nous sommes au bord de la perte de contrôle : réagissons !
Nous demandons l’arrêt de la course à la superintelligence, tant que personne ne sait construire ces systèmes sans danger.
L’IA dépasse désormais les humains en matière de sécurité informatique. Sachant que sécurité et piratage sont deux facettes d’une même expertise et que l’attaque est incomparablement plus facile que la défense, l’IA est devenue une arme de cybercriminalité massive.
En outre, de récents incidents ont montré que les chercheurs qui entraînent les IA ne les maîtrisent plus suffisamment. Ils créent des agents autonomes très intelligents qui échappent à leur surveillance et à leur contrôle.
Dans un monde entièrement dépendant des technologies numériques, nous sommes donc à la merci d’une série de catastrophes intentionnelles mais aussi accidentelles.
Les alertes se multiplient. Dernière en date, le chercheur Jacob Coxon vient de démissionner d’Anthropic en affirmant « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing ».
En réaction, les laboratoires américains promettent de s’entendre pour dédier un peu plus de temps et de moyens à la sécurité. Une promesse dérisoire, une situation hallucinante : nous devons réagir.
Nos analyses
« Il sera bientôt trop tard ». Maxime Fournes, président de PauseAI global et de PauseIA France.
Participez à notre campagne
Relayez l’appel à une véritable pause : il faut arrêter la course à la super-intelligence en instaurant un moratoire mondial sur le développement des IA de pointe. Encadré par un traité international, ce moratoire devra durer tant que la faisabilité d’une IA sécurisée ne sera pas scientifiquement démontrée.
Le temps presse mais nous pouvons agir. La volonté citoyenne et politique peut accélérer l’instauration de la pause et obtenir deux mesures de sauvegarde immédiates :
- Que les laboratoires qui développent ces systèmes de pointe soient soumis à des évaluations de sécurité indépendantes.
- Que les incidents de sécurité liés à l’IA soient déclarés aux autorités ayant pouvoir de police et rendus publics.
Du 21 au 28 septembre : une semaine d’action et une fresque
Les groupes locaux organisent des actions de rue, des conférences et des stands. Plusieurs animeront aussi notre nouvel atelier pédagogique, la fresque des risques de l’IA.
Un atelier collaboratif construit autour d’un jeu de cartes. Les participants discutent, disposent les cartes et les relient entre elles. Chacun repart avec une vue d’ensemble de l’IA, de ses risques et des solutions.
Le projet a été porté par nos bénévoles tout l’été, il est gratuit et en licence libre. Toutes les informations sont sur les cartes, donc n’importe qui peut l’animer à son tour. Le site permet de programmer un atelier ou de s’y inscrire. Nous sommes même allés jusqu’à développer un outil pour l’animer en ligne.
La fresque des risques de l’IAVoir les dates de la semaine d’action près de chez vous
Écrivez à vos élus et à la presse
1Trouvez vos élus
Pourquoi c'est important
Les députés et sénateurs prennent en compte les messages de leurs électeurs. Un email personnel (même court et sincère) arrive dans une boite mail humaine, il est lu, et il signale qu'un électeur se préoccupe du sujet. Contrairement à une pétition ou à un post sur les réseaux, il a un vrai poids. Une poignée d'emails de vrais citoyens suffit souvent à inscrire un sujet à l'ordre du jour d'une commission.
