L’émergence des technologies cognitives interroge la notion même d’intelligence.

L’intelligence artificielle (IA) fait partie de ces concepts mobilisateurs dont la fonction, purement commerciale, est de répondre par un rêve à un désir ou à une peur. Peur ou désir, cela revient au même, car l’un et l’autre sont un discours sur un manque. Comme disait Jacques Lacan : « Le désir naît du manque et pas l’inverse. » Ce manque, nous l’avons tous en commun : c’est le sentiment de ne pas être assez puissant et de ne pas pouvoir contrôler notre environnement. Et c’est ce manque qui nous fait nous précipiter sur le premier rêve qui passe comme un papillon sur une lampe.

On ne peut en effet qu’être fasciné quand on assiste aux prouesses de systèmes comme Deep Blue ou Watson, capables de battre les meilleurs aux échecs ou au jeu de Go. Il y a dans ces performances une part importante de mise en scène qui a comme fonction de faire rêver. L’intelligence artificielle suscite un désir de puissance tout autant qu’une peur de sa propre puissance, tel que l’illustre le mythe du golem. Pour mémoire, ce mythe raconte comment un homme a réussi à donner vie à une statue d’argile et comment sa création, dépourvue de conscience, lui a échappé et a commencé à détruire le monde.

Intelligence et puissance cognitive

L’émergence du concept d’intelligence artificielle a ceci de positif qu’il nous oblige à réfléchir a ce qu’on met derrière le mot intelligence. Si l’intelligence est réduite à la puissance cognitive, alors on peut effectivement affirmer qu’il peut exister une intelligence artificielle. Dans ce cas, on peut parler – plus modestement et moins commercialement – d’un système de gestion automatisée des flux d’information (GAFI).

Mais l’intelligence humaine ne se limite pas à la puissance cognitive. L’intelligence est aussi une capacité à s’adapter en apprenant (lire aussi l’article : « Apprendre à apprendre »), c’est-à-dire être capable de modifier ses processus de gestion de l’information pour modifier les prises de décision. Là encore, la machine a conquis un espace jusque-là réservé à l’homme avec le « deep learning », un système capable de modifier ses propres processus d’une manière autonome. Mais il y a toujours quelque part un homme caché derrière la machine (lire aussi l’article : « Comment les machines apprennent (et pourquoi vous y gagnez) »). Même si le public est hypnotisé, il y a toujours, comme dans le « Turc mécanique » (un prétendu automate du XVIIIe siècle, doté de la faculté de jouer aux échecs, dans lequel était en réalité caché un joueur humain, NDLR), une intention humaine qui ne se montre pas.

Si la machine paraît autonome, elle ne s’autodétermine pas pour autant : l’autonomie de la machine est, quoi qu’il arrive, déterminée par la volonté d’un être humain. Autrement dit, le processus ne peut exister sans qu’un être humain ne le mette en marche par son intention. Une intention qui est déterminée par une certaine conscience de soi dans un environnement précis et par l’imagination d’une solution pour modifier la relation que l’individu entretient avec son environnement. C’est en partie ce qui fait la différence entre la machine et l’homme : si la machine sait gérer des flux d’information et modifier ses propres processus, elle dépend largement de l’être humain dans sa capacité réflexive et dans sa capacité à imaginer quelque chose, à le rendre cohérent avec le réel par confrontation à ce réel et par le biais d’ajustements successif. C’est sans doute cela qui caractérise l’intelligence humaine : la capacité à imaginer un réel et à produire les ajustements nécessaires à sa réalisation (lire aussi la chronique : « L’homme et l’intelligence artificielle : rivalité ou romance ? »).

Intelligence et biais

En outre, la notion d’intelligence artificielle sous-entend une forme d’objectivité rationnelle qu’il est nécessaire d’interroger. Par exemple, les systèmes de reconnaissance faciale sont très performants pour reconnaître les hommes blancs mais beaucoup moins pour reconnaître les femmes noires. La raison est simple : la programmation de la machine se fait en lui faisant avaler une quantité astronomique de données (des milliers de photos) et en laissant le système de deep learning généraliser des caractéristiques et produire des catégories. La façon dont on nourrit la machine influence donc ses modes de généralisation et de catégorisation. Si on ne lui montre que des hommes blancs, elle caractérisera à partir de ce qu’elle a appris. Aussi le fonctionnement de la gestion automatisée des flux d’information sera-t-il largement déterminé par l’intention (consciente ou non) de celui qui programmera la machine (lire aussi l’article : « Lutter contre la discrimination sur les plateformes »). L’objectivité n’est qu’illusion dès que l’humain introduit un biais.

A l’instar des machines de l’ère industrielle qui démultipliaient la force physique des hommes en l’augmentant par l’insertion d’un appareillage entre l’intention de l’homme et le réel, l’intelligence artificielle augmente la force intellectuelle et en démultiplie la puissance par l’insertion d’un appareillage entre l’intention de l’homme et le réel. Mais, de même que la machine en ce qui concerne la force physique, cela n’exclut pas les biais et les mésusages : cela ne fait qu’augmenter la force destructrice quand l’intention est destructrice. En outre, « augmenter » ne remplace pas. En ce sens, l’intelligence artificielle ne remplace pas l’intelligence humaine comme une prothèse remplace un membre. Elle tente de l’appareiller pour en augmenter la puissance ou pallier ses faiblesses, comme une orthèse.

Certes, une machine capable de gérer des milliards d’information représente un rêve de puissance. Mais réduire l’intelligence à notre capacité de gérer de l’information conduit à une conception mécaniste de l’intelligence. La puissance cognitive n’est un critère d’intelligence que dans les sociétés fascinée par le mental comme la notre. La puissance cognitive est au service de l’intelligence, mais elle n’est pas l’intelligence. Contrairement aux apparences, on ne pense pas avec sa tête (sa cognition). La cognition est un outil de formalisation qui sert à témoigner des résultats de la pratique de son intelligence d’une manière socialement communicable. Notre conception « mentale » de l’intelligence peut alors être vue comme une forme de perversion. Le moyen devient le but, l’instrument qu’est le mental n’est plus au service d’une intention, il porte la charge de l’intention : il prend le pouvoir. C’est ce qu’on observe dans l’usage des nouveaux outils comme les smartphones chez les plus immatures : le but devient l’outil, il n’y a plus d’autre but que d’utiliser l’outil.

Intelligence et conscience

Etre intelligent, c’est peut-être aussi « être en intelligence » avec son environnement humain et non humain. Mais c’est aussi être en intelligence avec soi-même. Avoir une conscience de soi et des autres telle qu’on est capable de percevoir les effets que l’on a sur les personnes et notre relation au monde avant que les conséquences nous reviennent en retour. Au-delà de la puissance cognitive qui peut en être l’instrument, l’intelligence est bien la capacité à être dans une interaction responsable avec soi-même et son environnement.

On peut être fasciné par le spectacle de ces robots humanoïdes capable d’interagir avec les humains en répondant à leur question. Ce qui est fascinant, c’est que nous avons l’impression qu’il répondent comme s’ils savaient que nous existions en tant qu’humain ; ce qui suppose qu’ils ont conscience qu’eux même existent. Mais le robot sait-il qu’il existe ?

Ce qui caractérise l’intelligence humaine, c’est la conscience que chacun d’entre nous a de sa propre existence, la capacité de chacun d’entre nous a être attentif aux autres, au monde et à lui-même. C’est cette attention qui va déterminer l’intelligence. Etre attentif, c’est faire le choix conscient de considérer tous les éléments de l’environnement, au-delà de ce que la situation me laisse voir, pour prendre une décision. Or on se souvient que le GAFI de Facebook a censuré le tableau de Courbet, « L’Origine du monde », ainsi que la photographie d’une fillette nue brûlée au napalm pendant la guerre du Vietnam. Cette censure est liée au fait que le GAFI répond à une règle antipédopornographie et supprime ce qu’il reconnaît comme y ressemblant. En ce sens, il n’est pas capable d’être attentif au contexte, de considérer l’environnement, l’intention du message et le projet du messager. Pour ce faire, il faudrait qu’il soit capable d’un regard critique sur sa perception, ce qui supposerait une conscience qu’il est un sujet regardant dont la perception pourrait être critiquée.

La question que nous pourrions poser à l’intelligence artificielle, si on la rencontre un jour dans la rue, pourrait être : « Comment sais-tu que tu existes ? » Tant que celle-ci ne pourra y répondre (sans avoir été programmée pour cela), nous pourrons nous demander s’il est vraiment question d’intelligence.

Même si l’offre et le contenu sont les mêmes, les consommateurs accordent plus de valeur aux produits physiques que numériques. Ce qui fait la différence : le sentiment de propriété.

Chaque jour, nous interagissons avec deux types de produits. Le premier est acquis et partagé instantanément, il est impalpable, résiste aux dégradations, il est facile à personnaliser et impossible à perdre. Même un enfant peut en porter des milliers à lui tout seul. Le deuxième nécessite qu’on se déplace pour l’acheter ou le partager, il est difficile à modifier, encombrant, on l’égare aisément et il peut être endommagé de plusieurs façons. Seuls quelques exemplaires de ce type de bien peuvent être rangés dans un seul sac. Malgré les nombreux avantages du premier type de biens – les produits numériques -, les entreprises constatent de façon répétée que les individus apprécient et sont prêts à payer beaucoup plus cher pour leurs équivalents physiques. Notre recherche vise à expliquer les raisons de ce comportement déroutant. La vie moderne a été transformée par la numérisation généralisée de nombreux biens de consommation, qu’il s’agisse de livres, de magazines, de journaux, de musiques, de films, de billets d’avion ou de calculatrices. Les photographies numériques, commercialisées pour la première fois en 1990, sont maintenant prises plus souvent que les tirages sur papier. Pourtant, malgré les nombreux avantages des biens numériques, leurs alternatives physiques semblent garder une plus grande force d’attraction. Les livres imprimés sont toujours le format prédominant, les ventes de Blu-ray et de DVD continuent de croître, tout comme la demande des tirages sur papier des photographies numériques que les gens possèdent déjà.
Nous avons commencé à explorer ce paradoxe par une belle journée d’été à Boston, en offrant aux touristes sur le Freedom Trail (« chemin de la Liberté ») une photo souvenir avec un acteur costumé en Paul Revere. Nous n’avons pas fait payer pour la photo, mais nous avons demandé à chaque touriste de faire, en échange, un don à l’association historique qui assure l’entretien d’Old North Church. Les participants ont été répartis à leur insu et de façon aléatoire entre deux groupes. Le premier a reçu une photo numérique instantanée immédiatement par e-mail, tandis que l’autre a reçu une image Polaroid encore en cours de développement. Alors que les touristes du premier groupe ont choisi de donner en moyenne 2,29 dollars, ceux du deuxième groupe ont, de façon surprenante, donné 3,39 dollars, soit 48 % de plus pour le Polaroid qu’ils pouvaient tenir entre leurs mains.

Les biens numériques ne favorisent pas l’appropriation

Notre recherche nous permet de constater que ces touristes ne sont pas des cas isolés. Malgré les nombreux avantages des biens numériques, la valeur attribuée à leurs équivalents physiques est plus importante. Lorsqu’un bien physique tel qu’un livre ou une photographie imprimé(e) ou encore un DVD est numérisé, il perd une partie de sa valeur aux yeux des acheteurs. Les expériences que nous avons menées suggèrent que le facteur clé de cette dépréciation n’est pas la valeur de revente du bien, ni combien il coûte, ni combien de temps il peut être utilisé, ou s’il est unique ou très répandu. Nous constatons que la principale différence réside dans le fait que les biens numériques ne favorisent pas le même sentiment de propriété que les biens physiques.

La caractéristique intrinsèque et unique des biens numériques, c’est-à-dire leur immatérialité, est aussi ce qui nuit à notre propension à nous les approprier. Comme nous ne pouvons pas les toucher, les posséder et les contrôler de la même manière que nous interagissons avec les biens physiques, notre instinct de propriété vis-à-vis des biens numériques est altéré. On n’a jamais vraiment l’impression de les posséder, et quand nous sentons que nous sommes propriétaires de quelque chose, nous en gonflons psychologiquement la valeur. Par conséquent, nous n’accordons pas aux produits numériques ce supplément de valeur que nous reconnaissons aux biens qui font partie de notre patrimoine.

L’Empire contre-attaque

Dans le cadre des expériences complémentaires que nous avons menées auprès de cobayes en ligne et d’étudiants en commerce, nous avons constaté que la tendance à moins valoriser les biens numériques par rapport aux biens physiques s’étend à une variété de produits, des films populaires aux romans en passant par les manuels scolaires. Nous avons observé le même effet, que nous mesurions la valeur en permettant aux participants de payer ce qu’ils voulaient pour les biens, en leur demandant de déclarer le maximum qu’ils étaient prêts à payer ou en mesurant la probabilité qu’ils achètent la version numérique ou physique d’un bien, quand les deux sont vendus au même prix. Une plus grande valeur a continué d’être attribuée aux biens physiques par rapport aux biens numériques, même lorsqu’on donnait aux individus des éléments sur les coûts de production estimés et les prix de vente au détail. La tendance s’est maintenue même dans le cas de marchandises n’ayant aucune valeur de revente. Des explications alternatives plausibles, comme le fait que les biens physiques durent plus longtemps ou sont plus agréables à utiliser que des biens numériques, ont également échoué à expliquer cette différence.

Seule une différence d’intensité du sentiment de propriété vis-à-vis des biens numériques et des biens physiques explique cette préférence pour le format physique. En effet, l’écart de valeur s’est amenuisé pour les biens que les participants louaient et avaient prévu de rendre. Les étudiants n’étaient pas disposés à payer un manuel sur papier, qu’ils redonneraient à la fin d’un cours, plus cher que sa version digitale.
Cette variation du sentiment de propriété nous permet également de savoir quand les gens attribueront autant de valeur aux biens numériques qu’aux biens physiques. Etant donné que la propriété implique un lien entre une personne et un objet, nous avons constaté que l’écart de valeur se creusait lorsque ce lien s’établissait facilement et qu’il disparaissait quand ce lien se formait avec difficulté. Les participants ont, par exemple, accordé à l’exemplaire physique de L’Empire contre-attaque une valeur supérieure à celle qu’ils ont attribuée à sa version numérique, seulement s’ils considéraient que la série Star Wars était une œuvre cinématographique avec laquelle ils s’identifiaient fortement. Les participants qui n’étaient pas des fans de Star Wars ont apprécié les copies physiques et numériques de la même façon.

Question de besoin de contrôle sur l’environnement

Nous pensons que la différence de sentiment de propriété que les gens ont vis-à-vis des biens numériques et des biens physiques peut être liée à l’impression qu’ils ont d’avoir un contrôle plus diffus sur les objets numériques. Les gens se sentent propriétaires d’un bien, dans la mesure où ils peuvent le toucher et le contrôler. Nous avons en effet constaté que les personnes qui n’ont que faiblement besoin de maîtriser leur environnement ne montraient aucune préférence pour les biens physiques par rapport aux biens numériques, alors que les personnes qui, au contraire, ont un fort besoin de contrôle déclaraient qu’ils préféraient nettement les biens physiques à leur version digitale. Les participants à l’une de nos expériences nous ont même expliqué combien ils seraient prêts à payer pour acquérir un livre de leur auteur favori, à quel point ils avaient hâte d’en devenir propriétaires et leur besoin de possession – ce qui donne une idée du degré de contrôle qu’une personne veut avoir sur son environnement. Nous avons constaté que les participants éprouvant un plus grand besoin de contrôle ont tendance à penser avoir un sentiment de propriété psychologique plus étendu sur des exemplaires physiques que numériques d’un livre, ce qui les amène naturellement à accorder plus de valeur au livre papier plutôt qu’à sa version numérique, y compris lorsque les estimations du prix de vente et des coûts de production ont été incluses dans le modèle statistique. Alors que le sentiment de propriété et l’évaluation des ouvrages physiques et numériques ne varient pas autant dans le cas des participants ayant moins un besoin de contrôle sur leur environnement.

Nos résultats permettent d’identifier la source de dépréciation due à la numérisation, et comment les biens peuvent être conçus pour récupérer cette valeur perdue. Les produits numériques peuvent être faits pour ressembler visuellement à leurs homologues physiques – en utilisant le skeuomorphisme – comme Apple qui offre la possibilité, dans son application iBooks, de présenter ses livres numériques sur une étagère en bois virtuelle.

La valeur d’un vol

Le sentiment de propriété peut être obtenu en augmentant le sentiment de contrôle des utilisateurs grâce aux interfaces tactiles et aux possibilités de personnalisation qui font des utilisateurs des acteurs de la production ou de la conception du produit. A cet égard, les conclusions auxquelles nous sommes parvenus laissent craindre des risques de friction dans l’adoption de dispositifs autonomes tels que les voitures sans chauffeur. Tout comme les puristes automobiles modernes rejettent les transmissions automatiques, qui sont techniquement supérieures mais leur offrent moins de contrôle que les transmissions manuelles, les gens peuvent accorder une valeur moindre aux voitures sans chauffeur, qui nécessitent peu ou pas d’implication de leur part. Ce manque d’interaction physique est susceptible d’atténuer leur sentiment de contrôle sur ces véhicules autonomes. Par conséquent, ils devraient être moins enclins à développer un sentiment de propriété vis-à-vis de ces machines autonomes, lesquelles ne bénéficieront pas de ce surplus de valeur accordé aux biens vis-à-vis desquels les gens ont développé un sentiment d’appropriation psychologique.

Enfin, nos résultats donnent matière à réfléchir en ce qui concerne la vision qu’ont les gens du vol de biens physiques et numériques. Comme la propriété perçue est altérée pour les biens numériques, ils peuvent ne pas penser que s’ils piratent un bien, ils causent le même dommage à leurs propriétaires que s’ils leur volaient des biens physiques comparables.
La numérisation du contenu nous libère – ainsi que l’environnement – du fardeau de l’accumulation d’objets matériels destinés à nous former et à nous divertir. Malgré le bien-être fortement accru que les biens numériques apportent aux consommateurs, nos préférences ne sont pas uniquement déterminées par l’utilité ou la pertinence de ces innovations. Notre recherche montre comment les nouvelles technologies peuvent ébranler l’architecture de la connaissance, et quels arrangements cognitifs l’esprit peut introduire au passage.