Campagne en cours

Nous sommes au bord de la perte de contrôle : réagissons !

Nous demandons l’arrêt de la course à la superintelligence, tant que personne ne sait construire ces systèmes sans danger.

Écrire à mes élus

L’IA dépasse désormais les humains en matière de sécurité informatique. Sachant que sécurité et piratage sont deux facettes d’une même expertise et que l’attaque est incomparablement plus facile que la défense, l’IA est devenue une arme de cybercriminalité massive.

En outre, de récents incidents ont montré que les chercheurs qui entraînent les IA ne les maîtrisent plus suffisamment. Ils créent des agents autonomes très intelligents qui échappent à leur surveillance et à leur contrôle.

Dans un monde entièrement dépendant des technologies numériques, nous sommes donc à la merci d’une série de catastrophes intentionnelles mais aussi accidentelles.

Les alertes se multiplient. Dernière en date, le chercheur Jacob Coxon vient de démissionner d’Anthropic en affirmant « Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici à la fin de la décennie. Ce n’est pas un coup marketing ».

En réaction, les laboratoires américains promettent de s’entendre pour dédier un peu plus de temps et de moyens à la sécurité. Une promesse dérisoire, une situation hallucinante : nous devons réagir.

Nos analyses

« Il sera bientôt trop tard ». Maxime Fournes, président de PauseAI global et de PauseIA France.

Personne ne contrôle l’IA, le danger est imminent

Quand l’IA maîtrise l’informatique mieux que les meilleurs experts du monde, nous, humains, entrons dans une zone de grand danger.

Non, course et sécurité ne sont plus compatibles

Le danger est enfin reconnu. Mais les laboratoires ne peuvent pas s’auto-réguler : seul un moratoire international peut nous protéger.

Participez à notre campagne

Relayez l’appel à une véritable pause : il faut arrêter la course à la super-intelligence en instaurant un moratoire mondial sur le développement des IA de pointe. Encadré par un traité international, ce moratoire devra durer tant que la faisabilité d’une IA sécurisée ne sera pas scientifiquement démontrée.

Le temps presse mais nous pouvons agir. La volonté citoyenne et politique peut accélérer l’instauration de la pause et obtenir deux mesures de sauvegarde immédiates :

Que les laboratoires qui développent ces systèmes de pointe soient soumis à des évaluations de sécurité indépendantes.
Que les incidents de sécurité liés à l’IA soient déclarés aux autorités ayant pouvoir de police et rendus publics.

Nos groupes locaux se mobilisent : rejoignez-les

Partout en France, nos groupes locaux organisent des actions de rue, des conférences et des stands pour porter cet appel. Pas besoin d’être expert : rejoignez le groupe près de chez vous et agissez avec nous.

Rejoindre un groupe local

Écrivez à vos élus et à la presse

1Trouvez vos élus

Pourquoi c'est important

Les députés et sénateurs prennent en compte les messages de leurs électeurs. Un email personnel (même court et sincère) arrive dans une boite mail humaine, il est lu, et il signale qu'un électeur se préoccupe du sujet. Contrairement à une pétition ou à un post sur les réseaux, il a un vrai poids. Une poignée d'emails de vrais citoyens suffit souvent à inscrire un sujet à l'ordre du jour d'une commission.