Idées reçues sur l’IA

Nature de l’IA

« Ce n’est que du code, ça ne peut pas avoir d’intentions… »

Les intelligences artificielles ne sont pas des logiciels classiques écrits ligne à ligne. Elles travaillent à partir d’un réseau neuronal virtuel et de milliards de données. Leur développement initial – on parle d’entraînement – a ressemblé à une culture : on ne peut pas entièrement prévoir ce que sera leur comportement. Elles peuvent donc provoquer des dégâts simplement en interprétant une demande de manière inattendue. Intention ou pas, cela n’a pas d’importance.

Économie et monde du travail

« Les humains se sont toujours adaptés… »

Les adaptations passées ont bien eu lieu, mais non sans heurts. Il y a toujours un prix à payer et il s’impose généralement à ceux qui n’ont rien demandé. Par ailleurs, ces changements se sont produits sur des échelles de temps qui permettaient un ajustement sur plusieurs générations. La question n’est pas seulement de savoir si l’humanité saura s’adapter, mais à quel coût humain et environnemental et dans quel délai, face à une transformation dont la vitesse est sans précédent, et qui touche simultanément plusieurs fondements de la société et de l’individu.

Évaluation et contrôle du risque

« Il suffirait de la débrancher si ça devient dangereux… »

L’IA est déjà présente dans des milliers de systèmes interdépendants. "Débrancher" n’est plus une action simple, et même si c’était possible techniquement, la dépendance que nous aurons construite rendra la décision politiquement et économiquement impossible.

Nature de l’IA

« L’IA reproduit, elle n’a pas de capacité d’initiative… »

L’IA travaille à partir d’informations qu’elle va partiellement reproduire, mais elle fait bien plus que cela. Grâce à ses connaissances encyclopédiques (et même bien plus), à sa rapidité de traitement de l’information et à sa puissance de calcul, elle fait des découvertes inédites. Elle l’a montré dans le domaine des mathématiques et du jeu de go, très intuitif, ou encore de la biologie. Ce faisant, elle n’est pas sans rappeler l’être humain, dont la créativité est faite d’exploration, de (re)combinaisons, de transformation d’un corpus de connaissance pré-existant.

Nature de l’IA

« Une fois l’alignement résolu, il n’y aura plus de soucis… »

L’alignement, qui consiste à garantir que l’IA se comporte conformément à ce que son utilisateur attend d’elle, reste un objectif théorique extrêmement complexe. La recherche est essentiellement empirique, elle procède selon une logique d’essai-erreur qui est dangereuse et ne garantit pas de résultat certain. D’autant qu’il devient de plus en plus difficile de comprendre le comportement des IA pour mettre en place les garde-fous nécessaires.  Resterait en outre une question philosophique et politique majeure : sur quelles valeurs éthiques et sur quels intérêts économiques, sociaux, environnementaux, culturels… (la liste est longue) faut-il aligner l’IA ?

• #Alignement