Nature de l’IA
« Ce n’est que du code, ça ne peut pas avoir d’intentions… »
Par @Carmilla Publié le 4 novembre 2026
En bref
Les intelligences artificielles ne sont pas des logiciels classiques écrits ligne à ligne. Elles travaillent à partir d’un réseau neuronal virtuel et de milliards de données. Leur développement initial – on parle d’entraînement – a ressemblé à une culture : on ne peut pas entièrement prévoir ce que sera leur comportement. Elles peuvent donc provoquer des dégâts simplement en interprétant une demande de manière inattendue. Intention ou pas, cela n’a pas d’importance.
Les IA modernes ne sont pas "codées" au sens traditionnel
Leurs comportements émergent d’un processus d’entraînement statistique dans lequel des milliards de données sont injectées dans un réseau de neurones virtuel, qui produit des réponses qui sont elles-mêmes évaluées comme étant bonnes ou mauvaises par des évaluateurs humains (RLHF), mais de plus en plus souvent IA (RLAIF). On parle donc de boîte noire pour signifier notre incompréhension de ce qui se passe dans les opérations qui produisent les réponses. C’est le rôle de la recherche en interprétabilité d’étudier le fonctionnement de la cognition artificielle. Pour ces raisons, on dit souvent qu’on cultive des IA plutôt que de les développer. A l’image des plantes, on guide leur évolution en jouant sur des paramètres qu’on maîtrise, mais c’est en se reposant aussi sur la faculté naturelle de la plante à se développer elle-même hors de notre intervention.
Le danger ne requiert pas d’intention
Un système optimisé pour un objectif précis peut causer des dommages considérables sans rien "vouloir". L’exemple classique est celui d’une IA chargée de maximiser les clics publicitaires qui finit par amplifier des contenus extrêmes parce que ceux-ci génèrent plus d’engagement. Ce constat a été réalisé et documenté notamment par Guillaume Chaslot en 2021, qui est devenu lanceur d’alerte depuis. Pas d’intention de l’algorithme, mais un effet réel, dommageable pour l’ensemble des utilisateurs, avec des répercussions au niveau individuel et social.
