L’intelligence artificielle n’existe pas au sens humain

Le terme intelligence artificielle est devenu courant, mais il est aussi trompeur.

Lorsque la plupart des gens entendent le mot intelligence, ils pensent à l’intelligence humaine : conscience, compréhension, jugement, intention, expérience, émotion, conscience morale, responsabilité et choix moral.

Les systèmes modernes d’IA ne possèdent pas ces choses.

Ils ne pensent pas comme les êtres humains. Ils ne savent pas ce qu’ils disent. Ils n’ont pas de croyances, de désirs, de colère, de peur ou d’intention. Ils ne prennent pas de décisions morales et ne possèdent pas de compréhension humaine.

Un système d’information appliquée reçoit une entrée, traite des modèles, compare le contexte, applique des structures apprises et produit une sortie. Il peut être utile, rapide et impressionnant, mais cela ne le rend pas vivant, conscient ou intelligent au sens humain.

Ce n’est pas un esprit. Ce n’est pas une personne. Ce n’est pas une autorité. Ce n’est pas un agent moral. C’est un outil.

Un système d’information appliquée peut accomplir de nombreuses tâches utiles.

• Traiter le langage écrit
• Reconnaître des modèles dans le texte
• Résumer des informations
• Réécrire du contenu peu clair
• Traduire entre les langues
• Aider à rédiger des courriels, rapports, articles et explications
• Aider à programmer et à déboguer
• Organiser des idées
• Comparer des options
• Générer des exemples
• Répondre à des questions selon des modèles de données
• Aider à expliquer des sujets techniques
• Aider à la planification
• Aider à parcourir de grands volumes d’information
• Mettre en forme des documents
• Produire des plans structurés
• Identifier des erreurs possibles
• Suggérer des alternatives
• Simuler une conversation
• Produire un texte d’apparence humaine

Ces capacités peuvent être précieuses. Elles peuvent faire gagner du temps. Elles peuvent aider les gens à réfléchir à des problèmes. Elles peuvent rendre l’information technique plus facile à comprendre.

Mais rien de cela ne signifie que le système est « intelligent » au sens humain.

Un système d’information appliquée n’est pas :

• Conscient
• Conscient de lui-même
• Vivant
• Humain
• Émotionnel
• Moral
• Responsable
• Sage
• Omniscient
• Un juge de la vérité
• Un remplacement du jugement humain
• Une personne
• Un ami au sens humain
• Une autorité spirituelle
• Une autorité juridique
• Une autorité médicale
• Une autorité politique
• Un être doté d’intention
• Un être doté d’une volonté indépendante

Il ne « veut » rien. Il ne « décide » pas au sens humain. Il ne se « soucie » pas de savoir si une réponse est juste ou fausse. Il produit une sortie à partir d’une entrée, de modèles d’entraînement, de règles, de probabilités, du contexte et de la conception du système.

L’expression intelligence artificielle fait imaginer quelque chose qui n’existe pas réellement. Elle suggère un esprit mécanique. C’est la mauvaise image.

Une meilleure image est celle d’un outil très avancé de traitement de l’information. Il peut traiter le langage et les modèles à grande vitesse, mais il ne possède pas de conscience.

Le danger du terme « IA » est qu’il provoque deux erreurs opposées. Certaines personnes lui font trop confiance et la traitent comme si elle devait forcément avoir raison. D’autres la craignent et la traitent comme un ennemi pensant.

Ces deux visions sont fausses. Ce n’est ni un dieu ni un monstre. C’est un outil.

Lorsqu’un outil est mal utilisé, la responsabilité appartient aux êtres humains.

Un marteau ne construit pas une maison tout seul. Un téléphone ne commet pas une fraude tout seul. Une voiture ne choisit pas de conduire imprudemment toute seule. Un programme informatique ne devient pas moralement responsable parce qu’une personne l’a mal utilisé.

Il en va de même ici. Si un être humain utilise mal un système d’information appliquée, le problème concerne l’action humaine, les circonstances, les protections, la supervision, le jugement et l’intention de la personne qui l’utilise.

L’outil lui-même n’a pas de colère, de vengeance, de haine, d’intention criminelle ou de volonté. Les êtres humains, eux, en ont.

La peur publique grandit lorsque les gens comprennent mal ce que sont ces systèmes.

Si les gens croient qu’une machine « pense », « complote », « décide » ou « veut », ils ne traitent plus avec la réalité. Ils réagissent à un mythe.

Ce mythe peut mener à de mauvaises politiques, à un mauvais journalisme, à une mauvaise réglementation et à une panique publique.

Nous avons besoin d’un langage clair. Nous devons cesser de faire comme si les systèmes d’information appliquée étaient des esprits semblables aux humains. Ils ne le sont pas.

Ce sont des outils puissants qui exigent une utilisation responsable, mais ce sont toujours des outils.

Une définition pratique serait :

C’est beaucoup plus exact que de dire : l’intelligence artificielle est une machine pensante. Car ce n’est pas une machine pensante. C’est un système de traitement de l’information.

Les systèmes d’information appliquée doivent être utilisés avec prudence. Ils doivent être traités comme des assistants, et non comme des autorités.

Un utilisateur responsable devrait :

• Vérifier les faits importants
• Utiliser le jugement humain
• Éviter la confiance aveugle
• Éviter la dépendance émotionnelle
• Comprendre que le système peut se tromper
• L’utiliser comme un outil, non comme un substitut à la conscience morale
• Maintenir la responsabilité chez l’utilisateur humain
• Faire preuve d’une prudence accrue dans les domaines juridique, médical, financier, politique ou liés à la sécurité

Ce n’est pas parce que le système serait secrètement vivant ou dangereux. C’est parce que les êtres humains peuvent mal utiliser les outils, les mal comprendre ou s’y fier au-delà de leurs limites appropriées.

L’intelligence artificielle, telle que beaucoup de gens l’imaginent, n’existe pas.

Il n’y a pas d’esprit semblable à l’humain dans la machine. Il n’y a pas de conscience. Il n’y a pas d’intention. Il n’y a pas d’agence morale. Il n’y a pas d’intelligence humaine.

Ce qui existe, c’est de l’information appliquée : de l’information traitée par des modèles, des règles, des probabilités, le contexte et le logiciel.

Cela peut être utile. Cela peut être puissant. Cela peut aussi être mal utilisé. Mais la responsabilité demeure humaine.

Nous ne devrions pas craindre les systèmes d’information appliquée comme s’ils étaient des êtres vivants. Nous ne devrions pas les vénérer comme s’ils étaient des esprits supérieurs. Nous ne devrions pas les blâmer comme s’ils avaient une intention morale.

Nous devrions les comprendre clairement, les utiliser de façon responsable et garder les êtres humains responsables des actions humaines.

Le danger n’est pas que l’outil soit devenu humain. Le danger est que les êtres humains oublient qu’il ne l’est pas.