L’émergence des technologies cognitives interroge la notion même d’intelligence.

L’intelligence artificielle (IA) fait partie de ces concepts mobilisateurs dont la fonction, purement commerciale, est de répondre par un rêve à un désir ou à une peur. Peur ou désir, cela revient au même, car l’un et l’autre sont un discours sur un manque. Comme disait Jacques Lacan : « Le désir naît du manque et pas l’inverse. » Ce manque, nous l’avons tous en commun : c’est le sentiment de ne pas être assez puissant et de ne pas pouvoir contrôler notre environnement. Et c’est ce manque qui nous fait nous précipiter sur le premier rêve qui passe comme un papillon sur une lampe.

On ne peut en effet qu’être fasciné quand on assiste aux prouesses de systèmes comme Deep Blue ou Watson, capables de battre les meilleurs aux échecs ou au jeu de Go. Il y a dans ces performances une part importante de mise en scène qui a comme fonction de faire rêver. L’intelligence artificielle suscite un désir de puissance tout autant qu’une peur de sa propre puissance, tel que l’illustre le mythe du golem. Pour mémoire, ce mythe raconte comment un homme a réussi à donner vie à une statue d’argile et comment sa création, dépourvue de conscience, lui a échappé et a commencé à détruire le monde.

Intelligence et puissance cognitive

L’émergence du concept d’intelligence artificielle a ceci de positif qu’il nous oblige à réfléchir a ce qu’on met derrière le mot intelligence. Si l’intelligence est réduite à la puissance cognitive, alors on peut effectivement affirmer qu’il peut exister une intelligence artificielle. Dans ce cas, on peut parler – plus modestement et moins commercialement – d’un système de gestion automatisée des flux d’information (GAFI).

Mais l’intelligence humaine ne se limite pas à la puissance cognitive. L’intelligence est aussi une capacité à s’adapter en apprenant (lire aussi l’article : « Apprendre à apprendre »), c’est-à-dire être capable de modifier ses processus de gestion de l’information pour modifier les prises de décision. Là encore, la machine a conquis un espace jusque-là réservé à l’homme avec le « deep learning », un système capable de modifier ses propres processus d’une manière autonome. Mais il y a toujours quelque part un homme caché derrière la machine (lire aussi l’article : « Comment les machines apprennent (et pourquoi vous y gagnez) »). Même si le public est hypnotisé, il y a toujours, comme dans le « Turc mécanique » (un prétendu automate du XVIIIe siècle, doté de la faculté de jouer aux échecs, dans lequel était en réalité caché un joueur humain, NDLR), une intention humaine qui ne se montre pas.

Si la machine paraît autonome, elle ne s’autodétermine pas pour autant : l’autonomie de la machine est, quoi qu’il arrive, déterminée par la volonté d’un être humain. Autrement dit, le processus ne peut exister sans qu’un être humain ne le mette en marche par son intention. Une intention qui est déterminée par une certaine conscience de soi dans un environnement précis et par l’imagination d’une solution pour modifier la relation que l’individu entretient avec son environnement. C’est en partie ce qui fait la différence entre la machine et l’homme : si la machine sait gérer des flux d’information et modifier ses propres processus, elle dépend largement de l’être humain dans sa capacité réflexive et dans sa capacité à imaginer quelque chose, à le rendre cohérent avec le réel par confrontation à ce réel et par le biais d’ajustements successif. C’est sans doute cela qui caractérise l’intelligence humaine : la capacité à imaginer un réel et à produire les ajustements nécessaires à sa réalisation (lire aussi la chronique : « L’homme et l’intelligence artificielle : rivalité ou romance ? »).

Intelligence et biais

En outre, la notion d’intelligence artificielle sous-entend une forme d’objectivité rationnelle qu’il est nécessaire d’interroger. Par exemple, les systèmes de reconnaissance faciale sont très performants pour reconnaître les hommes blancs mais beaucoup moins pour reconnaître les femmes noires. La raison est simple : la programmation de la machine se fait en lui faisant avaler une quantité astronomique de données (des milliers de photos) et en laissant le système de deep learning généraliser des caractéristiques et produire des catégories. La façon dont on nourrit la machine influence donc ses modes de généralisation et de catégorisation. Si on ne lui montre que des hommes blancs, elle caractérisera à partir de ce qu’elle a appris. Aussi le fonctionnement de la gestion automatisée des flux d’information sera-t-il largement déterminé par l’intention (consciente ou non) de celui qui programmera la machine (lire aussi l’article : « Lutter contre la discrimination sur les plateformes »). L’objectivité n’est qu’illusion dès que l’humain introduit un biais.

A l’instar des machines de l’ère industrielle qui démultipliaient la force physique des hommes en l’augmentant par l’insertion d’un appareillage entre l’intention de l’homme et le réel, l’intelligence artificielle augmente la force intellectuelle et en démultiplie la puissance par l’insertion d’un appareillage entre l’intention de l’homme et le réel. Mais, de même que la machine en ce qui concerne la force physique, cela n’exclut pas les biais et les mésusages : cela ne fait qu’augmenter la force destructrice quand l’intention est destructrice. En outre, « augmenter » ne remplace pas. En ce sens, l’intelligence artificielle ne remplace pas l’intelligence humaine comme une prothèse remplace un membre. Elle tente de l’appareiller pour en augmenter la puissance ou pallier ses faiblesses, comme une orthèse.

Certes, une machine capable de gérer des milliards d’information représente un rêve de puissance. Mais réduire l’intelligence à notre capacité de gérer de l’information conduit à une conception mécaniste de l’intelligence. La puissance cognitive n’est un critère d’intelligence que dans les sociétés fascinée par le mental comme la notre. La puissance cognitive est au service de l’intelligence, mais elle n’est pas l’intelligence. Contrairement aux apparences, on ne pense pas avec sa tête (sa cognition). La cognition est un outil de formalisation qui sert à témoigner des résultats de la pratique de son intelligence d’une manière socialement communicable. Notre conception « mentale » de l’intelligence peut alors être vue comme une forme de perversion. Le moyen devient le but, l’instrument qu’est le mental n’est plus au service d’une intention, il porte la charge de l’intention : il prend le pouvoir. C’est ce qu’on observe dans l’usage des nouveaux outils comme les smartphones chez les plus immatures : le but devient l’outil, il n’y a plus d’autre but que d’utiliser l’outil.

Intelligence et conscience

Etre intelligent, c’est peut-être aussi « être en intelligence » avec son environnement humain et non humain. Mais c’est aussi être en intelligence avec soi-même. Avoir une conscience de soi et des autres telle qu’on est capable de percevoir les effets que l’on a sur les personnes et notre relation au monde avant que les conséquences nous reviennent en retour. Au-delà de la puissance cognitive qui peut en être l’instrument, l’intelligence est bien la capacité à être dans une interaction responsable avec soi-même et son environnement.

On peut être fasciné par le spectacle de ces robots humanoïdes capable d’interagir avec les humains en répondant à leur question. Ce qui est fascinant, c’est que nous avons l’impression qu’il répondent comme s’ils savaient que nous existions en tant qu’humain ; ce qui suppose qu’ils ont conscience qu’eux même existent. Mais le robot sait-il qu’il existe ?

Ce qui caractérise l’intelligence humaine, c’est la conscience que chacun d’entre nous a de sa propre existence, la capacité de chacun d’entre nous a être attentif aux autres, au monde et à lui-même. C’est cette attention qui va déterminer l’intelligence. Etre attentif, c’est faire le choix conscient de considérer tous les éléments de l’environnement, au-delà de ce que la situation me laisse voir, pour prendre une décision. Or on se souvient que le GAFI de Facebook a censuré le tableau de Courbet, « L’Origine du monde », ainsi que la photographie d’une fillette nue brûlée au napalm pendant la guerre du Vietnam. Cette censure est liée au fait que le GAFI répond à une règle antipédopornographie et supprime ce qu’il reconnaît comme y ressemblant. En ce sens, il n’est pas capable d’être attentif au contexte, de considérer l’environnement, l’intention du message et le projet du messager. Pour ce faire, il faudrait qu’il soit capable d’un regard critique sur sa perception, ce qui supposerait une conscience qu’il est un sujet regardant dont la perception pourrait être critiquée.

La question que nous pourrions poser à l’intelligence artificielle, si on la rencontre un jour dans la rue, pourrait être : « Comment sais-tu que tu existes ? » Tant que celle-ci ne pourra y répondre (sans avoir été programmée pour cela), nous pourrons nous demander s’il est vraiment question d’intelligence.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Résoudre : *
4 + 22 =


Post Navigation