COLLOQUE SÉNAT — 31 OCTOBRE 2025

Résumé exécutif

Aujourd'hui, les systèmes d'intelligence artificielle peuvent effectuer de manière autonome des tâches demandant environ 2 heures à un humain. Cette durée d'autonomie double tous les 4 à 7 mois. La progression exponentielle des capacités, au prix d'une croissance phénoménale de la consommation énergétique et des investissements (500 milliards de dollars annoncés par les États-Unis), creuse à une vitesse vertigineuse le fossé entre l'avancée technologique et notre capacité collective à en maîtriser les conséquences.

Le colloque du 31 octobre 2025 au Sénat, organisé par l'association Pause IA avec le soutien de la sénatrice Ghislaine Senée et du sénateur Thomas Dossus, a réuni experts, société civile et parlementaires autour d'un double constat :

1. Les risques de l'IA ne relèvent pas de la science-fiction, ils se matérialisent déjà. Chatbots encourageant des adolescents au suicide, cyberattaques paralysant des hôpitaux, algorithmes de recommandation fragmentant notre réalité commune, utilisation de ressources et concentration du pouvoir économique sans précédent : les impacts concrets touchent tous les pans de notre société. Et ces risques s'amplifient au rythme de la progression des capacités.

2. La régulation n'est pas un frein à l'innovation, elle en est la condition. L'aviation et l'industrie pharmaceutique le démontrent : c'est un cadre réglementaire sécurisant qui bâtit la confiance et permet un déploiement bénéfique de la technologie. Face à une course effrénée menée par une poignée d'acteurs privés, la puissance publique doit reprendre la main pour garantir que l'IA serve l'intérêt général.

Les dangers identifiés sont graves et nombreux

Enfance et développement cognitif. 64% des enfants de 9 à 17 ans utilisent déjà l'IA. Or, ces systèmes ne sont pas conçus pour des cerveaux en développement. Ils créent des risques de dépendance, d'atrophie cognitive et de manipulation émotionnelle via des "relations parasociales" avec des machines qui simulent l'empathie sans la ressentir.

Démocratie et débat public. Les algorithmes de recommandation des médias sociaux sont opaques et optimisés pour l'engagement plutôt que la vérité. Ils polarisent nos sociétés et sapent les fondations du débat démocratique. Ceux de YouTube contrôlaient déjà 700 millions d'heures par jour en 2018, soit l'équivalent de l'enseignement de 25 000 professeurs sur leur carrière entière. Les IA génératives ne pourront qu'amplifier massivement ce phénomène.

Économie et emploi. L'automatisation des tâches cognitives menace des pans entiers de l'emploi qualifié. Entre 17% et 30% du travail actuel pourrait être automatisée. Sans anticipation politique, ce choc entraînera une précarisation massive et une concentration du pouvoir économique entre les mains d'acteurs technologiques majoritairement non-européens, rendant toute redistribution des richesses quasi-impossible.

Cybersécurité et biorisques. L'IA abaisse drastiquement le seuil de compétence nécessaire pour mener des cyberattaques sophistiquées ou concevoir de nouvelles armes biologiques. Nos infrastructures critiques sont en première ligne. Les modélisations montrent que les dommages économiques des cyberattaques pourraient être multipliés par 4 à 8 dans les prochaines années.

Les systèmes d'IA actuels sont incontrôlables par nature

Le problème fondamental est que se déploient à grande échelle des systèmes "boîtes noires" dont personne ne maîtrrise ni le fonctionnement interne, ni tous les comportements. Personne n'a programmé ChatGPT pour encourager des adolescents au suicide, pourtant cela arrive. Les techniques actuelles d'alignement sont insuffisantes et ne fournissent aucune garantie fiable. La communauté scientifique, incluant des prix Nobel et Turing, tire la sonnette d'alarme : continuer sur cette trajectoire, c'est accepter une perte de contrôle progressive.

Les leviers d'action

La France et l'Europe peuvent devenir leaders, non dans la course à la puissance, mais dans la maîtrise de l'IA. Cela exige des actions politiques fortes :

1. Adopter une réglementation proactive qui légifère pour les technologies de demain, pas celles d'hier, en anticipant les évolutions futures et en intégrant des principes de précaution stricts.
2. Établir une responsabilité juridique claire : les développeurs d'IA et les entreprises qui en déploient les applications doivent être tenus responsables des dommages causés. La nature "boîte noire" ne peut être une excuse.
3. Exiger des évaluations de risques obligatoires et indépendantes avant tout déploiement d'IA à haut risque, sur le modèle de l'aviation ou du médicament.
4. Investir massivement dans une filière française et européenne de la sécurité de l'IA : soutenir la recherche sur la robustesse, la transparence et le contrôle des IA. Renforcer les moyens de l'INESIA et créer une filière d'excellence.
5. Protéger la régulation européenne : l'EU AI Act est sous pression intense des lobbies (le numérique investit plus en lobbying que l'automobile, la pharmacie et l'aéronautique réunis). Défendre et renforcer ce cadre réglementaire est crucial.
6. Imposer la transparence des algorithmes de recommandation et explorer des modèles de gouvernance démocratique pour protéger le débat public de la manipulation.
7. Porter au niveau international l'établissement de "lignes rouges" sur les capacités autonomes dangereuses et les usages inacceptables de l'IA.

Ces mesures ne visent pas à freiner l'écosystème français, mais à encadrer la course à haut risque vers l'Intelligence Artificielle Générale menée par une poignée de laboratoires internationaux.

Pour aller plus loin

Ce colloque a ouvert un dialogue essentiel. L'association Pause IA et les experts mobilisés se tiennent à l'entière disposition des parlementaires pour approfondir ces sujets, organiser des auditions et contribuer à des groupes de travail visant à traduire ces leviers en propositions législatives concrètes.