Comment savoir si vous discutez avec une intelligence artificielle ?

Marco est assis à son bureau et échange des messages avec Silvia. Il l’a rencontrée en ligne il y a quelques jours, et les deux ont commencé à échanger des messages. « Qu’est-ce que tu aimes ?« , demande-t-il. « Je raffole du sushi« , répond-elle. « Ça te dirait qu’on se voit ?« . « Avant de sortir ensemble, j’aimerais mieux te connaître« … À un moment donné un doute assaille Marco: il n’a jamais vu Silvia; ce n’est pas la première fois qu’elle refuse une rencontre… et si ce n’était pas une personne, mais une Intelligence Artificielle ?

Est-il capable de nous tromper ?

Les doutes de Marco sont fondés, mais les implications vont bien au-delà d’une simple chat ou d’une conversation vocale comme celles que l’on peut effectuer aujourd’hui.

Le premier à se poser la question de comment distinguer un humain d’un algorithme, fut en effet le mathématicien britannique Alan Turing, qui fut l’un des pionniers de ce que nous appelons aujourd’hui l’IA. À l’époque, il n’y avait pas d’ordinateurs modernes, ni même l’électronique fondée sur le silicium. Les calculateurs avec lesquels Turing travaillaient étaient ceux utilisés pendant la Seconde Guerre mondiale par les Anglais pour déchiffrer les messages codés par les Allemands.

Mais le visionnaire scientifique ne put s’empêcher de se demander: en principe, les machines peuvent-elles être intelligentes ? Ou, mieux, peuvent-elles penser ? N’étant pas capable de définir clairement l’intelligence ou la pensée, dans un article publié dans la revue Mind, Turing proposa en 1950 une méthode opérationnelle qu’il nomma « Jeu d’imitation » et qui est aujourd’hui connue sous le nom de « Test de Turing ». Imaginons que nous puissions discuter sans limitation avec deux interlocuteurs: l’un est un algorithme, l’autre une personne. Si nous ne sommes pas capables d’identifier qui est la personne, cela signifie que l’algorithme nous a trompés, c’est-à-dire qu’il a réussi le test.

Pendant des décennies, on a pensé que cette idée était théorique et loin de la réalité. Aujourd’hui, toutefois, l’IA nous trompe vraiment. Cela signifie-t-il qu’elle est intelligente et qu’elle a une pensée ?

Tradits par le servilisme

La réponse simple est non, car le Test de Turing se base sur les comportements: si une machine passe le test, cela signifie qu’elle se comporte comme un être intelligent, non qu’elle l’est vraiment. En somme, c’est un peu comme le Magicien d’Oz du célèbre conte: il paraît grand et puissant, mais lorsqu’on regarde de près, ce n’est que fumée et effets spéciaux.

Les grands modèles de langage modernes (LLM) comme ChatGPT sont des jongleurs habiles avec les mots.

« Mais est-il facile pour une IA de « tricher » au niveau conversationnel, c’est-à-dire de se faire passer pour un humain », précise Alfio Quarteroni, professeur émérite au Polytechnique de Milan et auteur du livre L’intelligence créée (Hoepli). « On peut par exemple utiliser des stratégies d’évitement (être vague) ou l’humour ». Mais si l’on regarde de plus près, on trouve toujours le moyen de « démasquer » un logiciel de ce type. « Par exemple aujourd’hui les principaux chatbots comme GPT4, Claude et Gemini affichent des comportements serviles, dans le sens qu’ils ont tendance à obéir à l’interlocuteur », révèle Quarteroni. « Cet attitude est appelée sycophancy et peut être utilisée pour distinguer un homme d’une machine ».

Mais ce n’est pas toujours aussi simple. « Aujourd’hui on pense que, dans certains cas, certains systèmes aient occasionnellement dépassé quelques versions limitées du Test de Turing, mais personne n’a démontré de manière robuste et reproductible pouvoir le faire », dit Quarteroni. En général, les résultats sont meilleurs sur des temps courts; tandis que dans des conversations longues il est plus facile de « démasquer » une IA.

Si l’on va au-delà du simple aspect conversationnel et qu’on entre dans les mécanismes du « penseur » (comme initialement prévu par Turing), le discours se complique. « Le raisonnement est quelque chose de typique de l’activité mentale humaine », dit Quarteroni. « C’est une forme continue de développement d’idées, d’images et de concepts; donc il est difficile de le formaliser. Mais le raisonnement inclut le raisonnement logique, qui est un processus plus structuré et finalisé, qui cherche à relier causes et effets ». Et c’est ici que la comparaison avec les machines devient plus intéressante: sont-elles capables de raisonner ?

Logique implacable

« Il y a deux types de raisonnement, déductif et inductif », détaille Quarteroni. Le raisonnement déductif est celui qui, partant de prémisses données, par une suite d’étapes logiques aboutit à une conclusion. Et c’est ce que font les mathématiciens lorsqu’ils démontrent un théorème. Ici, l’IA fait des pas remarquables et est de plus en plus utilisée par les professionnels pour vérifier la validité des démonstrations.

La mathématicienne ukrainienne Maryna Viazovska, par exemple, a remporté la Médaille Fields en 2022 pour avoir résolu un problème remontant à Kepler et qui portait sur l’empilement le plus dense possible de sphères dans l’espace. Le problème avait été résolu quatre siècles plus tard en 2D et 3D; Viazovska l’a résolu dans des espaces plus vastes, avec 8 et 24 dimensions. «Sa démonstration a été formalisée par un outil d’IA appelé Gauss, et elle a été jugée correcte», déclare Quarteroni.

«Cela ne signifie pas que ces outils remplaceront les mathématiciens, car dans une démonstration il y a des éléments d’intuition, puis il y a le choix de quels problèmes aborder, la construction du raisonnement et ainsi de suite». Pourtant il est indéniable que l’IA révolutionne aussi la manière de faire des mathématiques et des outils comme OpenAI et Deep Mind sont désormais capables de résoudre des problèmes proches des capacités humaines.

Passons maintenant à l’autre type de raisonnement, celui inductif. « C’est celui qui fait émerger des propriétés et des structures qui ne sont pas comprises dans les ensembles d’inputs », dit Quarteroni, « autorisant un saut de qualité ». Un peu comme lorsque, à partir d’observations sur les fossiles et les espèces vivantes, Charles Darwin conçut la théorie de l’évolution. « Si dans le raisonnement déductif l’IA commence à obtenir des résultats convaincants, dans celui inductif elle en est encore à ses tout premiers pas », commente Quarteroni. « Toutefois on observe des progrès. En 2020, par exemple, dans une clinique du Massachusetts Institute of Technology (MIT) aux États-Unis, il a été découvert grâce à l’IA un nouvel antibiotique artificiel doté de propriétés difficiles à imaginer a priori et totalement inattendues ». Le nom même, halicina, vient de l’ordinateur HAL du film 2001 l’Odyssée de l’espace (1968), qui a un certain moment était devenu intelligent et même conscient, au point de constituer une menace pour les êtres humains.

Cinéma et réalité

À ce stade s’ouvre la question suivante, que tout le monde finit par se poser tôt ou tard: avec tous ses avantages et ses défauts, une IA peut-elle être consciente ?

Plusieurs experts considèrent au moins plausible que certains modèles d’IA le soient déjà, ou qu’ils le deviendront dans un futur proche. La société Anthropic, par exemple, a étudié la manière dont son IA Claude « observe » et décrit ses états internes, une ligne de recherche que certains lisent comme une étape vers des modèles dotés d’une certaine forme de conscience.

Mais le neuroscientifique Giulio Tononi de l’Université du Wisconsin–Madison, aux États-Unis, soutient l’inverse. Tononi a développé ce qui est peut-être le seul modèle capable de décrire la conscience telle qu’elle est, et non par ses manifestations (les comportements) : la théorie de la conscience intégrée.

« La conscience est ce qui disparaît lorsque nous tombons dans un sommeil sans rêves et qui revient lorsque nous nous réveillons ou rêvons », explique-t-il. « On peut aussi dire que la conscience est l’expérience.

Quoi que l’on voie, quoi que l’on entende ou touche, chaque émotion que l’on peut éprouver, chaque pensée que l’on peut avoir est conscience. Lorsque la conscience n’existe pas, il n’y a absolument rien ».

Les cinq propriétés

Faisant cette prémisse, la théorie de Tononi repose sur cinq propriétés essentielles que nous partageons tous: chaque expérience est intrinsèque (c’est-à-dire subjective), spécifique, intégrée (on ne peut pas la diviser en parties indépendantes), définie (elle a une frontière et une granularité, comme le champ visuel) et structurée (elle contient des parties liées les unes aux autres, comme les détails anatomiques qui constituent un visage). «La théorie traduit ces propriétés en termes physiques comme la capacité de produire des effets mesurables», dit Tononi. «Et elle est tout à fait générale; elle peut s’appliquer à l’homme, aux animaux, aux ordinateurs et à l’univers tout entier, du moins en principe».

Dove si nasconde la coscienza

Considérons, par exemple, le cerveau humain et cherchons à отвечer à la question, encore ouverte: où « se trouve » la conscience ? «Seules certaines parties du cortex central et postérieur du cerveau disposent de la structure adaptée pour soutenir l’expérience consciente», soutient Tononi. «Le cervelet, en revanche, qui contient aussi les quatre cinquièmes des neurones du cerveau, n’a pas les propriétés adéquates car il est organisé de manière modulaire (c’est-à-dire trop fragmenté, nd) et en feed-forward (c’est-à-dire «à sens unique», comme les réseaux neuronaux de l’IA, nd)».

Cathédrales d’expériences

La théorie explique aussi pourquoi la conscience s’évanouit pendant le sommeil sans rêves et l’anesthésie générale: dans ces cas, l’architecture est présente, mais l’activité neuronale est bloquée. Et elle explique pourquoi une grande partie de nos expériences est organisée spatialement: cela dépend de l arrangement des neurones, qui forment une grille.

Sur cette base, on peut envisager d’autres formes possibles de conscience. «La corticale centrale postérieure d’un chien est très proche de la nôtre», observe Tononi. «Il est donc légitime de penser que non seulement les chiens sont conscients, mais qu’ils le sont d’une manière similaire à nous, c’est-à-dire avec une perception de l’espace et du temps. Plus difficile est le cas d’un animal comme la pieuvre, qui possède un système nerveux tout à fait différent du nôtre – avec huit cerveaux périphériques – pour lequel nous n’avons pas assez de données pour faire des prévisions. En revanche, nous pouvons dire avec certitude que pour notre modèle, les ordinateurs, avec les architectures actuelles, ne peuvent pas être conscients, car – comme le cervelet – ils n’ont pas la structure adaptée.

À mon avis, les algorithmes d’IA pourront faire tout ce que font les êtres humains, et même mieux. Mais ils ne peuvent pas être conscients. Chaque personne est une cathédrale d’expériences. Le point de vue de l’IA, lui, est vide comme le néant».