Évaluation et contrôle du risque
« Il suffirait de la débrancher si ça devient dangereux… »
Par @Carmilla Publié le 9 novembre 2026
En bref
L’IA est déjà présente dans des milliers de systèmes interdépendants. "Débrancher" n’est plus une action simple, et même si c’était possible techniquement, la dépendance que nous aurons construite rendra la décision politiquement et économiquement impossible.
L’IA n’est pas un appareil central qu’on peut éteindre
Elle est distribuée sur des millions de terminaux, copiée, intégrée dans des infrastructures critiques (énergie, santé, finance, défense). Désactiver l’IA supposerait de désactiver simultanément des systèmes dont des millions de personnes dépendent quotidiennement, voire, en cas d’attaque massive, l’entièreté d’Internet. Par ailleurs, il est très probable qu’on se rende compte qu’une IA pose des problèmes bien après l’avoir déjà intégrée dans plein de systèmes.
L’IA sait déjà se reproduire en dehors des data centers
En l’état actuel des infrastructures et de la réglementation, arrêter les data centers qui abritent la puissance de calcul nécessaire au fonctionnement de l’IA ne serait pas non plus une solution simple. Elle ne pourrait de tout façon être que partielle dans la mesure où l’IA sait désormais se répliquer en dehors des data centers, par exemple sur un petit réseau d’objets connectés tels que des téléviseurs. C’est ce qu’a révélé une étude d’Anthropic publiée en octobre 2026.
Cette capacité est d’ailleurs effrayante. Elle laisse craindre une possible saturation des réseaux numériques, avec de véritables embouteillages susceptibles de paralyser des services vitaux du quotidien, comme la gestion des feux de signalisation, les alertes médicales dans les hôpitaux ou les systèmes de sécurité de nos bâtiments.
Sources :
AI models may be capable of self-replicating without access to a datacenter \ Anthropic
À un moment, nous ne saurons plus nous en passer
Même si c’était techniquement faisable de “débrancher”, on ne le fera probablement pas. Plus nous intégrons l’IA dans nos vies, plus le coût perçu de s’en séparer augmente. On ne renonce pas facilement à ce qui contribue à notre production, ou notre productivité, ce qui gèrera nos hôpitaux, nos réseaux électriques ou nos communications. Le moment où les dangers deviendront évidents sera aussi le moment où la dépendance sera la plus forte.
