Présentation

Je suis administrateur système Linux et également administrateur de bases de données. Je suis aussi, avant tout, un passionné de SF, c’est un peu ça qui m’a conduit vers l’informatique, quelque part. Depuis ma plus tendre enfance, ou presque, j’ai lu énormément de bouquins et d’œuvres différentes de science-fiction. Vu le thème cette année d’Entrée libre 3 [Internet, fiction ou réalité ?], en discussion avec Brigitte, nous avons considéré qu’il serait intéressant de voir ce thème-là, notamment de voir si toutes les évolutions technologiques qu’on a eues ces dernières années étaient, ou non, quelque chose qui était déjà prévu, quelque part, par la science-fiction.

Pour pouvoir attaquer sur le sujet, il va falloir quand même, avant toute chose, que je fasse un petit point sur le fait que mes lectures m’ont conduit à aller m’orienter assez rapidement vers le logiciel libre. Mes expériences initiales d’informatique alors que j’étais en troisième, notamment avec le fameux stage de troisième, m’avaient donné l’occasion de voir un service informatique fonctionner et je n’avais pas vraiment compris ce qui se passait dans ce service informatique. Ce qui fait que je me suis d’abord éloigné de l’informatique, je suis parti dans la chimie et finalement, vu qu’il n’y a pas de boulot dans la chimie en France, je me suis tourné plus tard vers l’informatique et c’est ainsi que je suis devenu administrateur système puis DBA [Data Base Administrator].

Pour attaquer le sujet, il va falloir que je fasse un petit rappel ou que je présente quelques notions sur les objets techniques, notamment la vision des objets techniques qu’avait un philosophe français, Gilbert Simondon [1], qui a longuement discouru sur le sujet, notamment au travers d’une première œuvre qu’il avait écrite dans les années 50, qui s’appelle Du mode d’existence des objets techniques. À partir de là, on pourra aller voir un petit peu comment ça se passe au niveau de l’informatique aujourd’hui, les évolutions qu’on a eues entre les tout débuts de l’informatique, dans les années 60, et ce qu’on a de nos jours. Et voir que l’informatique correspond à un objet magique selon ce que présentait Simondon dans Du mode d’existence des objets techniques.
À partir de là, je pense que nous serons suffisamment équipés pour aller voir un petit peu ce dont il est sujet dans la science-fiction, notamment les grands thèmes qu’on va retrouver de nos jours, à la fois les algorithmes, les robots et les IA qu’on ira examiner, d’abord dans ce qu’il existe dans la littérature puis dans ce qui existe aujourd’hui réellement dans ce qu’on appelle des IA, dans ce qu’on a comme robots déjà existants et utilisables aujourd’hui et, dans une moindre mesure, pour les algorithmes.

Notion sur les objets techniques

Dans Du mode d’existence des objets techniques, Gilbert Simondon a essayé de décrire, de reprendre un petit peu, de définir une certaine classification des objets techniques. Il a essayé de définir ce qui faisait un objet technique en particulier. Si on prend, par exemple, un moteur à essence, un moteur à essence est un moteur très particulier. Quand on va en discuter, on va avoir l’habitude de parler de moteur au sens général, on ne fera pas forcément la différence entre un moteur électrique d’une Tesla et un moteur thermique qui permet de faire avancer une voiture. Or, ce sont deux objets sur lesquels on a eu une énorme rupture technologique, ce n’est pas du tout la même manière de réaliser la propulsion. S’il y en a, parmi vous, qui ont déjà conduit des voitures électriques, ils auront pu constater, notamment sur la phase d’accélération, que ce n’est pas du tout la même chose et que ce n’est pas non plus comparable spécifiquement avec une voiture automatique thermique.

Dans cette définition des objets techniques, il a pris en compte, il a essayé de visualiser de quelle manière évoluait un objet technique.
Si on prend les tout premiers moteurs thermiques, par exemple, ces tout premiers moteurs thermiques étaient quasiment des blocs moteurs sans absolument aucune forme aérodynamique ou quoi que ce soit. Ces formes aérodynamiques sont arrivées petit à petit, au fur et à mesure des évolutions du moteur lui-même : on s’est rendu compte que si on voulait plus de performance, une meilleure circulation de l’air, par exemple autour du bloc moteur, permettrait de faire évoluer ce dernier et d’en obtenir de meilleures performances.

Au fur et à mesure qu’un objet technique va se complexifier, on va ajouter justement des petites évolutions autour d’un mode de propulsion comme le moteur, on va se rendre compte que l’objet technique devient de plus en plus difficile à interpréter pour l’utilisateur. Aujourd’hui, si on ouvre le capot d’une voiture avec un moteur thermique, c’est complètement fermé, on ne voit plus du tout comment fonctionne le moteur, là où si on prend un moteur de 2 CV, on peut raisonnablement et avec un peu de logique, comprendre comment fonctionne le moteur juste en ouvrant le capot.
À partir de ce moment-là, on va commencer à développer potentiellement, en tant qu’utilisateur, une pensée magique vis-à-vis de ce moteur puisqu’on n’a plus de moyen intellectuel, logique, de comprendre comment fonctionne l’outil.

Bien évidemment, si on applique cette chose-là à l’informatique, avec toutes les évolutions qu’on a eues depuis les années 60, on en est arrivé à peu près au même point.
C’était quelque chose d’extrêmement technique au départ, qui n’était vraiment disponible que pour un certain nombre d’universitaires et de chercheurs et, petit à petit, dans les années 80, avec l’arrivée des premiers ordinateurs qui présentaient un bureau graphique, on s’est retrouvé avec une complexité qui était masquée pour l’utilisateur qui fait que, bien souvent, pour les utilisateurs Windows par exemple, quand ça ne fonctionne pas, on redémarre et on espère que ça fonctionne la fois d’après. Souvent c’est le cas, pas tout le temps non plus !

Dans Du mode d’existence des objets techniques, il y a une citation que j’aime bien, Simondon dit : « Loin d’être le surveillant d’une troupe d’esclaves, l’homme est l’organisateur permanent d’une société d’objets techniques qui ont besoin de lui comme les musiciens ont besoin d’un chef d’orchestre ». Là encore, si on applique ça à l’informatique, en réalité on n’a pas un seul humain qui va être chef d’orchestre de l’intégralité de notre machine. On va avoir tout un tas d’humains qui vont être capables de préciser, de savoir comment fonctionne tel ou tel composant de l’ordinateur, de manière à organiser la totalité comme un objet technique utilisable, comme un système technique, puisqu’il sera composé de plusieurs objets techniques — Simondon fait une différence à ce niveau-là. À partir de ce moment-là, on va avoir une complexité d’autant plus grande qu’il sera difficile, pour une seule personne, de comprendre l’intégralité du fonctionnement de la machine. Je ne pense pas avoir encore rencontré, jusqu’à maintenant, de personne qui soit capable de m’expliquer absolument toutes les parties de bout en bout, tous les fonctionnements, tous les processus techniques qui rentrent en jeu dans le fonctionnement d’un ordinateur. Il faudrait, pour cela, que j’interroge probablement 10/15/20 personnes différentes qui ont chacune leur domaine de spécialisation. Donc nous, utilisateurs finaux, il s’avère que nous n’avons plus du tout de possibilité intelligible de comprendre comment fonctionne l’intégralité de la machine.

L’ordinateur avant...

Cette notion-là est importante parce que, finalement, avant l’apparition de certaines évolutions dont on parlera juste après, l’ordinateur, si on regarde dans la science-fiction, par exemple dans Le Monde des non-A [2], qui a été écrit en 1945 par A. E. van Vogt, quand il décrit les ordinateurs, c’est un ensemble de tubes lumineux qui vont permettre de faire circuler de l’information. Quand on lit ce livre-là, dans sa version originale, la description des machines et des ordinateurs, il faut quand même être capable de se projeter assez en arrière, pour le coup, pour arriver à imaginer que c’est effectivement une machine, c’est effectivement un ordinateur dont il est question.
D’ailleurs Simondon, dans Du mode d’existence des objets techniques , envisage un paquet d’évolutions possibles pour les technologies de l’information et lui aussi présente les lampes et des matériels qu’on n’utilise aujourd’hui qu’en tant qu’ampoules comme des outils qui rentreront dans le traitement de l’information pour arriver à fournir un système d’information complet.

Aujourd’hui, nous connaissons principalement les diodes et nous les utilisons en tant qu’ampoules. Mais, quand on lit Du mode d’existence des objets techniques , il nous décrit des triodes, des quadrodes, les cinq, je ne sais plus comment il les nomme, jusqu’aux heptodes, parlant de plein de versions de diodes. Nous en sommes restés et nous n’utilisons aujourd’hui que les diodes, mais lui imaginait que ce serait plein de variantes différentes et un peu plus complexes que ces diodes, donc avec plus de pôles disponibles sur les ampoules, qui permettraient de faire le traitement de l’information.

Là encore, que ce soit dans la science-fiction avec van Vogt ou que ce soit dans le domaine de la philosophie et de la mécanologie avec Simondon, dans tous les cas, grosse erreur, on est tombé à côté. Pourquoi ? Parce qu’en 1947 on invente le transistor, les tout premiers modèles de transistor, et on met presque 15 ans à arriver à les utiliser réellement dans le traitement de l’information.

... et vint le transistor !

Ce n’est qu’à partir de la fin des années 50 qu’on commence à observer les premières machines qui utilisent des transistors et qui sont des prémices d’ordinateurs et c’est complètement différent de l’image qu’on avait préalablement de ces différentes machines.
Finalement, pour nous, un transistor c’est simplement une broche à trois pattes, une qui va servir à ouvrir le canal et deux autres qui vont servir à recevoir un signal et à envoyer un signal. Si on passe un courant dans cette première patte, on va permettre au courant de passer du collecteur à l’émetteur. On va retrouver ce mode de fonctionnement un petit plus loin, c’est finalement ce qui va permettre de faire du courant ou pas de courant, 1 – 0 ou 1 – 1.

Aujourd’hui, et depuis les années 60, on retrouve les transistors dans tous les composants des ordinateurs. On les retrouve aussi bien dans les processeurs, que dans la RAM, que dans les disques durs SSD ou dans les contrôleurs de disques mécaniques. Si vous voyez à quoi ressemblait un ancien disque, avant le SSD, c’était un disque à plateau qui ressemblait, en miniaturisé et en version magnétique, à un bon vieux disque vinyle tout ce qu’il y a de plus classique et ça fonctionnait de manière tout à fait similaire à celle d’un disque vinyle.

L’informatique aujourd’hui

Dans les débuts de l’informatique, on avait principalement des 0 et des 1 et il fallait taper son code informatique directement dans le langage de la machine. Ça se fait encore aujourd’hui dans certains cas, quand on veut avoir une performance optimale en utilisant ce qu’on appelle un assembleur, programmer en assembleur.

Dans les années 70, on a les développements des premiers systèmes d’exploitation, des premiers langages informatiques. Ces systèmes d’exploitation restent encore très basiques, on ne les a pas vu populariser et arriver dans les foyers de tout un chacun à cette époque-là. Pour cela, il a fallu le travail de chercheurs, notamment les chercheurs du laboratoire Xerox qui était situé à Palo Alto, qui ont inspiré très fortement les premiers designs de bureau chez Apple, parce que Steve Jobs, notamment, avait vu fonctionner ces premiers environnements de bureau. À l’époque, pour arriver à représenter pour nous autres, utilisateurs finaux, ce qui allait être un dossier par rapport à ce qu’on connaissait dans le travail bureautique classique, dans le travail administratif par exemple, ils ont repris finalement cette intercalaire qu’on utilisait pour ranger nos différents dossiers dans un tiroir. Si aujourd’hui encore, quand on ouvre un dossier sur un ordinateur, on retrouve ce symbole d’intercalaire, c’est grâce aux chercheurs du laboratoire Xerox et c’est pour cela que c’est quelque chose que l’on retrouve aussi bien dans l’environnement Mac que dans l’environnement Windows ou, pour les plus spécialisés d’entre vous, dans l’environnement Linux.
Ce sont également eux qui ont développé les systèmes de pointeur qui nous permettraient d’interagir avec l’environnement graphique, qui étaient symbolisés par une petite main ou par une petite flèche qu’on retrouve encore aujourd’hui sur les pointeurs dans nos différents systèmes d’exploitation.

Finalement, depuis l’invention du transistor, on n’a pas eu de saut technologique, on n’a pas eu de grandes avancées technologiques, ça fonctionne toujours sur une base de transistor, depuis les années 60 jusqu’en 2023. On commence à parler de l’informatique quantique, je n’en parlerai pas pendant cette conférence parce que je n’y connais rien, toujours est-il qu’il est possible que ce soit la prochaine grande évolution. Quand il avait décrit ce mode de fonctionnement, Simondon n’arrivait pas à préciser, dans les années 50/60, ce qui allait formaliser cette évolution et ces bonds technologiques.
Finalement, quelques années plus tard, avec les relectures d’un certain Vincent Bontems, que vous retrouverez dans la bibliographie finale, ils ont identifié que ces évolutions et ces sauts technologiques représentent une courbe logarithmique. Si vous connaissez la loi de Moore [3], c’est une courbe logarithmique qui nous dit qu’au bout un moment on n’arrivera plus à dépasser une certaine puissance parce qu’on aura atteint la miniaturisation maximale, faisable, pour un transistor et cette limite est plus ou moins atteinte aujourd’hui. On est en train de parler de transistors moléculaires qui ne font que quelques atomes et on ne pourra pas descendre plus bas que ça sur une technologie basée sur le transistor. La technologie en elle-même a évolué. On a eu tout un tas d’avancées techniques là-dedans, ça a été d’abord très rapide et on atteint un palier qu’aujourd’hui on ne sait pas dépasser autrement qu’en multipliant les processeurs, en multipliant la mémoire vive, en multipliant les disques durs.

À ce titre-là, on discutait un petit peu plus tôt avec l’un d’entre vous que je ne vois pas mais qui doit être dans le coin, qui me disait que sur les disques durs on a eu une évolution importante, on a eu les SSD, ces disques durs qui n’utilisent plus de disques à plateau et de disques magnétiques. Finalement le SSD, dans sa manière de mettre en œuvre le stockage, est « relativement proche », je vais mettre des guillemets autour, du stockage qu’on réalise et de la manière de réaliser le stockage dans la mémoire RAM, ce n’est pas très différent techniquement dans la mise en œuvre, à la différence qu’un SSD, quand on éteint la machine, va conserver les informations alors que la RAM, quand on éteint la machine, va retomber à aucune information enregistrée dedans.

Finalement, nous sommes en haut d’une courbe et peut-être que l’informatique quantique, derrière, va nous faire amorcer un nouveau saut, une nouvelle évolution technologique mais, de mon point de vue, ça reste encore à prouver, il y a encore beaucoup de choses à prouver sur l’informatique quantique.

Voilà pour cette petite notion sur l’objet technique qu’est un ordinateur et, à partir de là, on va pouvoir commencer à aller examiner ce que sont les algorithmes dans la science-fiction, les IA puis les robots, dans l’ordre : les algorihmes, les robots et les IA.

Les algorithmes dans la SF

Dans la science-fiction, les algorithmes sont relativement très peu traités finalement.
On les retrouve régulièrement en tant qu’outil de décision. Par exemple, dès Le Monde des non-A, dans le bouquin de van Vogt – à chaque fois j’ai envie de l’appeler van Gogh, mais ce n’est pas lui – on a une machine qui va nous servir à prendre des décisions, notamment à évaluer si tel ou tel citoyen peut accéder à certaines responsabilités particulières dans le monde en question. C’est une machine qu’il appelle « la machine des jeux », un truc fait de lampes et de tubes, etc., qui va être chargée d’évaluer si les différentes personnes qui vont passer le test de la machine des jeux sont effectivement aptes à obtenir les fonctions ou les responsabilités qu’elles souhaitent avoir. Dans ce cas, c’est effectivement un algorithme qui est utilisé.

Un autre cas beaucoup plus récent, c’est dans La Zone du Dehors d’Alain Damasio, un livre de science-fiction qui est une référence à 1984, que l’auteur a souhaité actualiser par rapport aux évolutions qu’il y avait eu entre-temps, qui a été rédigé, qui est sorti en 2004, qui est un clin d’œil à 1984 de George Orwell. Dans La Zone du Dehors, les différents citoyens de la société sont nommés en fonction d’un algorithme, ce qui fait que le personnage principal a un nom absolument abscons, Captp, que le président du monde s’appelle A, que le ministre de la Culture s’appelle C, B je ne sais plus qui c’est, le ministre de l’Éducation c’est E et ainsi de suite. Petit à petit, chaque personne n’a plus de prénom, n’a plus de nom, est uniquement désignée par cette suite de caractères qui indique sa position dans l’organisation sociale. Là encore c’est un algorithme qui est en jeu, qui réévalue chaque année, en fonction des différentes actions qui ont été enregistrées au fur et à mesure de l’année pour les différentes personnes habitant dans ce monde. Les personnages sont renommés, d’une année sur l’autre, en fonction de leur évolution dans l’organisation sociale.

Les algorithmes dans la vie réelle

En fait, dans la vie réelle, on connaît les algorithmes depuis très longtemps.
La définition rapide, la première qui se situe sur l’article Wikipédia [4] nous dit : « Un algorithme c’est une suite finie, non ambiguë — ça se discute — d’instructions et d’opérations permettant de résoudre une classe de problèmes ». Finalement, du coup, l’algorithme de Facebook serait pour nous une suite finie et non ambiguë d’instructions, d’opérations permettant de résoudre une classe de problèmes, donc d’arriver à savoir quelle personne veut voir quelle personne, etc.
La question de l’ambiguïté se pose. Si on parle de l’algorithme de Facebook ou de l’algorithme de Google, cette question est ambiguë pour nous, on peut avoir un sentiment d’ambiguïté vis-à-vis de cette sélection d’informations. Mais, si on avait absolument toutes les données disponibles dans la construction de cet algorithme, que ce soit celui de Facebook ou celui de Google, il serait possible d’arriver à identifier que oui, cette proposition qu’on vient de nous mettre en premier résultat de notre recherche n’est pas du tout ambiguë, elle a été définie par un millier, des milliers, des centaines de milliers de paramètres qui rentrent dans le cadre d’une équation qui nous fournit une réponse qui n’est pas forcément la bonne, pas forcément celle qu’on attend, mais qui n’est pas ambiguë du point de vue de l’algorithme lui-même.

Finalement, ce n’est rien d’autre qu’une répétition, une automatisation d’un ensemble d’instructions qui ont été codées par des humains avec leurs propres défauts, leurs propres biais d’analyse et qui vont, du coup, possiblement se planter magistralement sur la personne qu’ils pensent, le « client final » entre guillemets, qui va utiliser l’algorithme. Ils vont avoir tout un tas de présupposés dépendant de leur culture, de leur vie, de l’expérience, qui va pouvoir les amener à créer un algorithme qui sera potentiellement faux vis-à-vis d’un utilisateur qui n’a pas du tout la même culture, la même expérience, etc.

Si on remonte dans le temps, ce sont les Babyloniens qui ont développé les tout premiers algorithmes sous la forme d’exemples. On a des tablettes, écrites en cunéiforme, qui présentent la résolution de problèmes sous la forme de différents exemples. Ce sont les premiers balbutiements de l’algorithme. Le plus ancien et le plus célèbre c’est le calcul du PGCD d’Euclide.
Finalement, à chaque fois qu’on a automatisé la résolution de problèmes à l’aide d’équations, quand on a voulu résoudre les équations polynomiales par exemple, on a continué à utiliser des algorithmes. Les algorithmes sont donc quelque chose qui existe depuis l’aube des temps, quasiment depuis le début des mathématiques.

Pour resituer un petit peu la chose, les Babyloniens, par exemple, ne comptaient pas en base 10, ils utilisaient une base 60 qui a donné pour nous l’horloge et les 60 secondes ou les 60 minutes d’une heure. On doit cela directement ça aux Babyloniens parce que, eux, comptaient sur une base 60.
Notre ordinateur lui, ne sait faire que des 0 et des 1, il compte en binaire ou, en mathématiques, en base 2.
Autre exemple possible : les Mayas savaient compter en base 2 et ils savaient également compter en base 20. C’est un des rares peuples, à ma connaissance, qui était capable de faire des transitions d’une base à l’autre, au moins avant la Renaissance, je dis peut-être une bêtise là-dessus, il faudrait que je vérifie.
Le zéro est arrivé bien après. Le zéro n’est arrivé, pour nous, qu’au milieu du Moyen Âge, si je ne dis pas de bêtise sur le sujet, et on n’avait pas besoin d’avoir la totalité des connaissances qu’on a en mathématiques aujourd’hui pour arriver à créer et utiliser des algorithmes.

Finalement, on va avoir une petite difficulté à retrouver les algorithmes réellement dans la science-fiction parce que bien souvent, et si je reprends la définition de Barjavel, « la science-fiction c’est un fait de science à partir duquel on développe une fiction ». C’est une fiction qui va se baser sur un fait de science. On va considérer, par exemple, le développement de la théorie de la relativité générale, partons sur celle-là. Si on prend la théorie de la relativité générale, on va pouvoir et on va avoir, en science-fiction, tout un tas d’œuvres qui vont être dérivées et qui vont partir de ce principe-là bien avant même qu’on ait vraiment la théorie de la relativité restreinte à la générale ou des évolutions un peu plus tardives dans les sciences. Des écrivains vont prendre cette théorie et imaginer des univers qui vont nous permettre, du coup, de questionner cette théorie scientifique.

Les algorithmes sont aujourd’hui bien présents, on les croise à tout bout de champ sur Internet dans les choix et les recherches qu’on va effectuer, que ce soit sur des réseaux sociaux ou via des moteurs de recherche, on en a à tous les niveaux, mais c’est quelque chose qui est présent depuis très longtemps et qui n’a pas vraiment été intégré par la science-fiction, qui n’a pas été vraiment été testé par la science-fiction. La science-fiction a plutôt testé les usages de ces algorithmes et les modifications que pourraient apporter ces immenses machines de calcul que sont les ordinateurs, du coup la possibilité de produire des algorithmes d’autant plus complexes qu’on a une grande capacité de calcul.

On peut peut-être faire une petite question ou deux à ce moment-là, vu que je suis allé vite.

Public : Je ne comprends pas le troisième paragraphe, le troisième point.

Greenman : C’est vrai ?

Public : Je ne vois pas « quels systèmes », après j’ai du féminin pluriel qui arrive.

Greenman : Oui, « si celle-ci », il manque un petit « ci », effectivement, c’est une typo.

Public : Après, c’est au pluriel alors que ça devrait être au singulier, c’est ça ?

Greenman : C’est ça, probablement. En effet. C’est la science-fiction qui peut questionner les usages qui sont faits des algorithmes, mais elle ne questionne pas ou elle ne part pas du principe. Il n’y a pas d’histoire, à mon sens, parce que je n’ai pas lu, non plus, l’intégralité de la science-fiction disponible, il n’y a pas d’élément central, enfin de livre dont le seul élément central soit un algorithme. Je pense que c’est dû au fait que les algorithmes sont bien antérieurs à la naissance de la science-fiction. Si on essaie de remonter à l’origine de la science-fiction, généralement on la place avec Frankenstein ou le Prométhée moderne de Mary Shelley qui remonte à 1818. C’est l’ouvrage précurseur qui, d’ailleurs à l’époque, n’est pas encore, pas du tout considéré comme de la science-fiction, qu’on considère simplement comme le précurseur de la science-fiction. À partir de ce moment-là, la science-fiction qui s’attache à prendre un fait de science et à essayer d’en développer une fiction n’a pas forcément posé de question de ce que sont les algorithmes dans la science. En science-fiction, on l’a questionné en tant qu’outil mais pas en tant que tel.
Cette conférence est une première, il est possible qu’il y ait des petits trucs à revoir.

Public : Ça s’explique aussi par le postulat d’une des conférences qu’on a vues plus tôt : un algorithme n’est que la formalisation de choix humains. Ce n’est pas vraiment de la science. On peut étudier les algorithmes, mais si on part du principe que ce ne sont que des choix humains, il n’y a pas d’intérêt à mettre cela comme de la science-fiction.

Greenman : En effet.

Public : Peut-être que le potentiel fictionnel de l’algorithme n’est pas en termes de l’étude de l’algorithme lui même.

Greenman : C’est aussi une possibilité, qu’il ne soit pas hyper-intéressant. Cela dit dans le questionnement, les questions qu’on se pose vis-à-vis de ces algorithmes, si on prend le cas de La Zone du Dehors par exemple, c’est un ouvrage qui questionne vraiment l’organisation de la société déterminée par un algorithme de classement des différents citoyens en fonction de leurs capacités, de leurs actions, etc., au fur et à mesure d’une année. On a quand même un petit peu de questionnement à ce niveau-là, mais plus sur l’usage, à quoi on utilise l’algorithme, que sur l’algorithme lui-même.

Public : Tu as dit que tu allais parler tout à l’heure des IA et les IA sont des algorithmes.

Greenman : Sont composées d’algorithmes. Oui, c‘est quelque chose qu’on retrouve forcément un peu plus imbriqué derrière.
Une autre question ?

Je vais pouvoir commencer à parler des robots.

Les robots dans la SF

Les robots sont apparus dans la science-fiction relativement tard, en tout cas le terme robot en lui-même. Il a été forgé par un certain Karel Čapek [5], j’espère que je le dis bien, j’ai essayé sur Wikipédia avant, normalement c’est comme ça. C’est lui qui va avoir l’idée du terme. En fait, ce n’est pas tout à fait lui qui va avoir l’idée du terme, c’est son frère, mais c’est le premier à l’avoir écrit notamment dans une pièce qui s’appelle R. U. R., Rossum’s Universal Robots, qui est sortie en 1920, donc relativement tôt, bien avant Asimov. C’est un dérivé du slave ancien rob, qui est toujours utilisé en tchèque aujourd’hui sous la forme robota qui veut dire « servage » ou « travail ».
Karel Čapek voit les robots comme des ouvriers qui pourraient remplacer les humains dans les usines pour pouvoir réaliser un travail. Finalement, on retrouve une idée assez commune de l’abandon du travail manuel à des machines qui pourraient remplacer complètement l’ensemble de l’humanité pour le travail.
Si vous avez l’occasion de voir cette pièce, elle peut toujours être jouée aujourd’hui, elle a été jouée en France trois ou quatre ans après la parution de la pièce de théâtre en Tchéquie, ce serait dommage que je vous divulgue l’intrigue finale, cependant sachez que ça ne se passe forcément hyper-bien. On y retrouve une influence qu’on aura dans beaucoup d’œuvres de science-fiction qui vont traiter des robots.
On retrouve également cette racine en slovaque et en slovaque on dit robotnik pour « ouvrier » ; ça n’a aucun lien avec un certain Robotnik que certains d’entre vous pourront avoir connu dans les années 80, peut-être, sur des jeux vidéos, dont Jim Carrey avait pris le rôle dans un film relativement récent, essayant de ressusciter une licence qu’ils auraient dû laisser enterrée.

Quand on parle de robots, il est difficile de passer à côté d’Asimov [6] qui a fait non pas un cycle, mais plusieurs, sur les robots, notamment Fondation, Fondation et Empire, le livre les Robots lui-même, qui a connu des adaptations au cinéma. Si vous êtes passé à côté des œuvres d’Asimov en version écrite, ce que je vous conseille quand même d’aller voir un jour ou l’autre, vous connaissez peut-être I, Robot ou L’homme bicentenaire qui sont, je pense, les deux adaptations les plus connues ; L’homme bicentenaire c’était dans les années 90 et I, Robot c’est début 2000. On retrouve des adaptations. On a des androïdes, du coup, qui ont l’air quand même relativement doués de réflexion, qui sont capables d’interagir et d’être presque prévenants vis-à-vis de l’humanité qu’ils servent. Ce sont, à mon sens, les premiers robots pensants qu’on va trouver dans la science-fiction. Ils sont pensants, mais ils vont être limités et c’est le postulat d’Asinov : si on fournit toute une série d’instructions à une machine pour qu’elle puisse répondre à des besoins de ses utilisateurs ou de ses détenteurs, il va surtout falloir implémenter un certain nombre d’instructions qui vont garantir que ces machines ne se retournent pas contre leur créateur.
Quelque part il répond là, avec les règles qu’il va implémenter dans ces robots fictifs, au problème que posait la pièce de Karel Čapek dans laquelle il invente le terme robot.

Je ne vais pas vous épargner ces lois de la robotique, elles sont au nombre trois :
un robot ne peut porter à être humain ni, en restant passif, laisser cet être humain exposé aux dangers, c’est la première règle ;
deuxième règle : un robot doit obéir aux ordres donnés par les êtres humains sauf si de tels ordres rentrent en contradiction avec la première loi ;
et enfin, un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la seconde loi.
Avec ces trois règles, Asimov présuppose, au début de son livre Les Robots, que les robots ne pourront pas se rebeller, ne pourront pas être attentatoires à la vie des humains. Cependant, si on a le Cycle de Fondation, Fondation et Empire et probablement beaucoup d’autres nouvelles ou livres qu’il a écrits en parallèle de cet univers, ce n’est pas pour rien, c’est justement pour décrire tous les cas ou un certain nombre de cas où les robots vont être en mesure d’enfreindre ces lois et voir les cas de conscience qui peuvent se poser aux robots avec uniquement ces trois lois pour protéger les humains.
Dans le cas du film I, Robot, par exemple, on constate que certains androïdes finissent par se rebeller complètement, ne répondent plus et n’utilisent plus ces différentes lois. Ils arrivent à se défaire de ces instructions et à passer outre.

Troisième exemple dans la science-fiction, toujours dans les années 60, Philip K. Dick [7] a écrit Les androïdes rêvent-ils de moutons électriques ?, qui a donné le film Blade Runner et sa suite malheureuse... c’est sujet à discussion.

Public :Tu as mauvais goût !

Greenman : Chez Philip K. Dick, par contre, pas de règles spécifiques, pas d’instructions pour empêcher les robots de se rebeller. Chez lui, la frontière avec la conscience devient floue.
Si on prend le cas du personnage Rachel qui est un androïde dans Blade Runner de 1984 ou dans Les androïdes rêvent-ils de moutons électriques ?. Dans le film un test est passé par les robots ; des personnes sont chargées de leur faire passer le test pour vérifier que ce sont des réplicants ; ils sont obligés d’avoir, dans leur organisation sociale, un certain nombre de personnes chargées de détecter qui sont les humains et qui sont les androïdes. La frontière devient tellement floue qu’on est obligé d’avoir des personnes qui vont aller détecter si ces robots, si ces modèles Nexus-6, en l’occurrence, pour ceux qui connaissent l’œuvre, sont, ou pas, des humains. Il s’avère que la sixième génération du modèle, dont fait partie l’androïde Rachel, ne passe pas le test, mais bluffe suffisamment la personne qui le lui fait passer pour que celle-ci commence à se poser des questions profondes sur ces androïdes-là, ces robots-là : ont-ils, quelque part, quelque chose qui ressemble un peu ou pas à une âme, plutôt à une conscience ?

Voyons ce que ça donne aujourd’hui dans notre vie de tous les jours.

Les robots que nous avons de nos jours sont plutôt des robots aspirateurs, des robots cuisiniers. On est très loin de l’androïde, on en a quelques-uns, mais leurs capacités sont loin d’être efficaces. Ces robots-là étant gouvernés par des algorithmes, il s’avère qu’ils sont faillibles au même titre que les gens qui les ont programmés. Par exemple, avec les robots aspirateurs ont a eu des cas, il n’y a pas si longtemps que ça : les robots aspirateurs avaient des caméras pour savoir à quel endroit ils étaient placés et se repérer dans l’appartement pour aller bien nettoyer toutes les pièces et il s’avère que les caméras ont permis de prendre des photos qui ont été envoyées en ligne, que des utilisateurs ont retrouvées sur Facebook, partagées par les techniciens qui recevaient ces photos et étaient chargés de les analyser.
Quand on retrouve une photo de soi-même, prise par son aspirateur, alors qu’on est aux toilettes, on est quand même assez loin du robot un peu plus intelligent qu’on trouvait dans la science-fiction et on ne peut pas dire, aujourd’hui, que nos robots aient atteint la technique, la technologie ou les avancées que celles qui ont été imaginées par les auteurs de science-fiction.

J’ai pris deux exemples un peu simplistes pour commencer, mais on en a quand même quelques autres qui sont un peu plus complexes.

On a des usines qui sont extrêmement automatisées aujourd’hui. Je n’ai pas retrouvé l’article exactement quand j’ai composé le document de la conférence, mais il me semble qu’il y a une usine Panasonic – les algorithmes des moteurs de recherche ne m’ont pas permis de retrouver l’article en question – qui fait plusieurs hectares et qui n’est contrôlée que par trois personnes. L’intégralité de l’usine est totalement automatisée. On est donc quand même capable d’aller très loin, mais de là à stipuler qu’on a des robots aussi performants que ceux qu’on peut voir dans les films dérivés soit des œuvres d’Asimov soit des œuvres de Philip K. Dick, on en est encore très loin.
Même le robot Pepper [8], de mon point de vue, de ce que j’ai pu en lire, reste quelque chose de très gadget, finalement. Il est peut-être bluffant, mais il est bluffant du fait de l’ensemble des techniques qui sont mises en œuvre dedans et de cette complexité qu’on retrouve, dont je parlais plus tôt, au niveau des ordinateurs. Finalement, si on met suffisamment de transistors côte à côte, on peut presque simuler une réponse, un dialogue avec un de ces robots, mais on est très loin de pouvoir tenir une conversation de cinq minutes. Si j’essayais de discuter avec Pepper par exemple des avancées de Simondon et de la mécanologie, je pense que la conversation ne durerait pas bien longtemps.
On est donc encore très loin des différents robots qu’on a pu voir dans la science-fiction, même si je n’ai pris que quelques exemples très classiques.

L’IA dans la SF

Finalement ces robots-là, ces robots conscients présupposent aussi d’une certaine forme d’intelligence artificielle.

Pour qu’on arrive à dialoguer avec un robot comme celui de I, Robot, par exemple, il faut un minimum d’intelligence présupposée et encodée dans le « disque dur », entre guillemets, de l’androïde.

On a d’autres formes d’intelligence qui ont été décrites également dans la science-fiction.
On a des formes d’intelligence qui ne sont présentes que dans les réseaux informatiques.
Par exemple, chez William Gibson [9] qui a écrit Neuromancien en 1984, on va retrouver un certain nombre d’intelligences artificielles qui sont devenues une menace pour l’humanité. Chez William Gibson, les humains se connectent directement à l’aide d’une petite prise à leur terminal pour interagir avec ce qu’il appelle à l’époque, avant Internet, le cyberespace.
Chez William Gibson, dans Neuromancien, les IA se sont révoltées et l’humanité a réussi à créer une espèce de gigantesque pare-feu, une espèce de grand mur et de laisser les IA à l’extérieur de ce mur. À ce titre-là, William Gibson imagine vraiment des intelligences artificielles douées d’une certaine forme de conscience, capables de désigner l’humanité en tant qu’ennemie, de décider d’attaquer et d’essayer d’éradiquer l’humanité. Chose que l’on retrouve aussi dans d’autres œuvres de science-fiction.

À titre d’indication, ce genre de précurseur, ce genre cyberpunk qui a été établi par William Gibson, c’est celui qui a inspiré la trilogie Matrix, là aussi je ne parlerai pas de quadrilogie. On retrouve aussi son influence dans la culture manga avec Ghost in the Shell dès les années 90. Est-ce que je fais encore une analogie à un film ? Il n’est pas si mal repris celui-là.

On a croisé d’autres IA. On a celle de Terminator qui n’est pas hyper-sympa, Skynet, dont l’objectif est aussi plutôt d’éradiquer l’humanité.
On a l’IA Hal qu’on a découverte dans 2001, l’Odyssée de l’espace d’Arthur C. Clarke qui, elle aussi, dès qu’elle se rend compte qu’elle « est menacée », entre guillemets, dès qu’elle se sent menacée, se retourne contre les humains qu’elle est censée aidée.
On a, à mon sens, une exception dans la science-fiction qui est le Cycle de la Culture de Iain Banks [10], qui met en œuvre une galaxie où les différentes races terrestres et extraterrestres auraient réussi à cohabiter et, en cohabitant, elles ont finalement fondé, elles ont été au bout de toutes les recherches scientifiques possibles. C’est un univers où la téléportation est possible, c’est un univers où il n’y a plus de champ scientifique à explorer et où on est arrivé à une abondance, à un monde d’abondance qui fait que plus aucune personne n’est censée vivre dans la souffrance ou dans le manque. Dans ce monde-là, les IA sont des « êtres conscients », entre guillemets, qui ont la charge, entre autres, de participer au maintien de cette société. Elles peuvent être des administratrices, elles sont aussi des agents spéciaux chargés, auprès d’autres races qui n’ont pas encore intégré cette grande communauté pangalactique qu’est la culture, d’aller modifier petit à petit les usages des autres races pour que tout le monde, toutes les populations de l’univers, rejoignent cette grande utopie qu’est la culture.
Si vous ne connaissez pas Iain Banks, je vous invite à le lire, c’est très intéressant, c’est, je pense, dans mes meilleures découvertes de science-fiction.

Public :Vous connaissez le livre Le Problème de Turing de Harry Harrison ?

Greenman :Non, encore pas lu.

Public :Il est coécrit avec Minsky, un des fondateurs du MIT, spécialiste en neurosciences, il est pas mal aussi. Justement, c’est une IA qui ne se retourne pas contre les êtres biologiques.

Greenman :D’accord OK. Tu allais hésiter à teaser.

Public :Il y a aussi le cycle Hypérion et Endymion de Dan Simmons. C’est assez complexe, justement les IA ne se retournent pas toutes.

Greenman :Malheureusement, je l’ai lu il y a plus de 20 ans et je n’ai pas eu le temps de le relire depuis. Je pense qu’avant mes 20 ans je n’étais pas encore prêt, je n’avais suffisamment de bagage pour profiter de toute la profondeur de Hypérion et Endymion. Ça fait effectivement partie des œuvres qui sont normalement incontournables quand on en parle.

Dans la vie réelle, vous avez peut-être entendu parler de ChatGPT [11].

Public : Non ! C’est quoi ? Un chat ?

Greenman : C’est une grosse blague ! C’est ce qui est présenté aujourd’hui très commercialement comme étant l’IA, notamment, celle dont on entend le plus parler ces derniers temps. Il s’avère que c’est une IA qui est basée sur un système, le large language model. Quelque part, on ne peut pas vraiment considérer cela comme une « IA », entre guillemets. C’est une espèce de gros ordinateur auquel on a fait avaler l’intégralité de la littérature qui était disponible sur Internet et à qui on demande, aujourd’hui, de générer des textes.
Quand on lui fait générer des textes, on lui donne un contexte particulier, ce qui va lui permettre de sélectionner un corpus de mots, d’agencer ces mots sous la forme de phrases pour nous envoyer une réponse qui est la plus plausible possible dans ce qu’on pourrait attendre.
Cependant, le fonctionnement de cette chose-là est un petit peu particulier : nous allons lui poser une question, elle va nous répondre une réponse peut-être valable en allant piocher dans ce corpus de langage. Mais ce n’est qu’un auto-compléteur, quelque part, ce n’est qu’une machine qui va être chargée de trouver quel est le meilleur mot suivant à mettre dans la phrase.
Étant donné qu’elle dispose de tout ce qui a été rédigé et est disponible sur Internet, tout un corpus d’informations qu’on lui a fait ingérer au préalable, comme on lui a fait ingérer des phrases qui sont en français, en anglais, etc., très souvent elle va être capable de ressortir des phrases qui sont tout à fait intelligibles pour nous. Est-ce que ces phrases sont justes pour autant ? C’est une autre question. Si vous posez par exemple à ChatGPT une question lui demandant, j’avais testé il y a quelque temps, « quel est la couleur du cheval blanc de Henri IV », ça ne fonctionne pas, elle n’arrive pas à répondre à une question que ma nièce de quatre ans arrive à résoudre. Il est possible aussi de la faire se planter magistralement. Je lui avais donné deux dates, je lui avais dit « sachant que telle personne est née en 1886, qu’elle est décédée en 1964, quel est l’âge de la personne à plus ou deux moins ans près ? ». Je n’ai plus la réponse exacte, elle m’a donné une réponse avec un plus ou moins 200 ans à la fin.

Public : Ce n’est pas faux !

Greenman : Oui, sur le papier, effectivement.

Public : La réponse ce sont trois paragraphes et, à la fin, tu ne te souviens plus de la question que tu avais posée.

Greenman : C’était une catastrophe. J’ai reçu un ami me disait : « Tu verras, c’est génial et tout, regarde ! — Bouge pas, c’est ton compte là ?, on va rigoler ». J’ai posé deux/trois questions, le cheval blanc de Henri IV m’avait été inspiré par les réseaux sociaux, la question sur le calcul de l’âge en lui donnant deux dates précises, deux années, normalement il n’y aurait pas dû avoir d’erreur possible. En fait, tout dépendait du contexte que je mettais autour. En lui posant simplement la question comme ça, je ne lui ai pas donné suffisamment de contexte pour qu’elle sélectionne correctement le corpus de langage nécessaire pour me répondre. Si je lui avais demandé « réponds à la question comme un professeur de mathématiques », là je lui aurais donné un contexte suffisant pour que dans l’immense masse de documents dont elle dispose, elle ne sélectionne que les réponses qu’on retrouverait dans des solutions d’exercices mathématiques. À partir de ce moment-là, la réponse aurait potentiellement été beaucoup plus précise. Je n’ai pas fait le test directement, j’ai vu d’autres personnes faire ce test-là et la réponse peut être effectivement plus précise si on précise bien son contexte.

Finalement, on retrouve aujourd’hui ChatGPT sur plusieurs plateformes différentes, par exemple le moteur de recherche Bing a adopté ChatGPT avec un succès relatif.
Avant qu’on pose une question à ChatGPT, quelque chose a déjà été préparé par les gens qui mettent en œuvre le service. En fait, il y a déjà un certain nombre d’informations, ce qu’ils appellent le pré-prompt, ce qui est avant la question qu’on va poser, il y a une partie qui est masquée, le pré-prompt, qui va permettre de préciser et de donner quelques éléments de contexte.
En l’occurrence chez Bing, quand ils ont fait l’intégration de ChatGPT, ils ont pondu une liste de règles qui tient sur, grosso modo, deux ou trois pages LibreOffice. Ça a donné des résultats assez surprenants, notamment des cas où quelqu’un a cru qu’il parlait vraiment à quelqu’un, qu’il était en train de vivre une histoire d’amour avec Bing, très étonnant ! Je me questionne encore, je pense que la santé mentale de la personne est quand même à questionner, à un moment.
Toutes ces précisions, que ce soit pour Bing, que ce soit pour le modèle qui est utilisable directement auprès de la société qui édite la solution ChatGPT, ces pré-prompts sont très importants. Ils vont définir un contexte et l’utilisateur ne sait pas forcément si on utilise ChatGPT au travers de Bing ou si on utilise ChatGPT directement sur la société éditrice, OpenAI ; si on l’utilise à un endroit ou à un autre, on va avoir des résultats qui sont potentiellement différents, parce que nous, en tant qu’utilisateurs, quand nous venons poser nos questions, nous ne connaissons pas cette partie du contexte. Là encore, cela va nourrir ce que Simondon appelait la pensée magique vis-à-vis de notre IA. On a l’impression qu’elle répond, mais il nous manque énormément d’éléments de contexte, on ne sait pas ce qu’on lui a donné « à manger », entre guillemets, comme textes au préalable. On ne sait pas la partie qui a été paramétrée par le fournisseur du service en amont de notre utilisation, d’ailleurs il y a des freins, il est relativement compliqué de demander à ChatGPT de nous sortir les instructions qu’elle a reçues au préalable. OpenAI a mis des freins sur le sujet, a bloqué de manière à ce qu’on ne puisse pas savoir quel est le contexte dans lequel ils font travailler cette IA, quels sont ces éléments de contexte, nous ne les connaissons pas, nous ne les maîtrisons pas. On pourrait les lui demander, à une époque ça fonctionnait, mais aujourd’hui, pour arriver à lui faire dire les éléments de ce pré-prompt, on ne peut plus les voir, donc, en tant qu’utilisateur, on ne peut que considérer que c’est magique et qu’il y a une forme d’intelligence, or c’est faux.

Il faut savoir qu’aujourd’hui ChatGPT ce sont 700 000 dollars de serveurs par jour. Si vous voulez avoir un exemple de ce que peut faire un ChatCPT, vous pouvez prendre votre téléphone portable. Si vous avez de l’autocomplétion activée sur votre téléphone portable, vous commencez une phrase par « bonjour », votre téléphone va vous proposer le mot suivant. Vous renseignez le mot suivant, vous lui laissez vous proposer le mot suivant, vous renseignez le mot suivant et ainsi de suite et vous pouvez taper un texto complet, qui ne sera pas forcément intelligible, parce qu’on n’a pas 700 000 dollars/jour de serveurs qui sont en train de tourner dans notre téléphone portable, on se retrouve avec quelque chose qui est beaucoup moins efficace. Globalement, l’auto-compléteur sur le téléphone portable sera bon pour compléter un mot, pour proposer un mot mieux orthographié ou une phrase plus française ; je n’en ai pas dans mon téléphone pour cette présentation.

Là où on retrouve aussi des prétendues IA, ça va être dans les chatbots.
Pour venir ici, il m’est arrivé l’anecdote suivante. Je devais venir avec mon collègue qui m’avait donné une référence de dossier et je me suis dit « une référence de dossier de la SNCF, normalement, si je colle directement la référence au chatbot de la SNCF, il me dira c’est tel train à telle heure ». C’est ce que j’ai fait. Il m’a dit qu’il ne comprenait pas la question, c’est dommage !, ce sont quand même les références de dossiers qui sont éditées par la SNCF. Auparavant on avait juste un champ qu’on pouvait renseigner, j’ai retrouvé cette page ce qui m’a permis de retrouver la réservation après coup. En l’occurrence, en discutant avec le chatbot, je me suis retrouvé complètement planté. J’aurais peut-être pu préciser avant, lui dire « retrouve-moi la référence dossier : machin », peut-être que ça aurait pu marcher. Mais techniquement pour moi, par rapport à un champ de recherche dans lequel je renseigne directement la référence comme ça se faisait avant, je trouve que l’intelligence du chatbot est à remettre en question, ou l’intelligence des gens qui l’ont développé.

Un autre cas relativement intéressant, parce que ce sont les premiers cas sur lesquels on a entendu parler des IA, ce sont les IA qui vont jouer aux échecs ou jouer au jeu de go. Il s’avère qu’il y a un truc assez rigolo : elles sont capables de gagner des parties contre des grands champions, mais si vous faites jouer une de ces IA hyper-intelligente, qui connaît toutes les parties de jeu de go du monde, contre un débutant qui joue un peu aléatoirement parce qu’il ne connaît pas bien les règles, il est fort probable que l’IA fasse n’importe quoi, parce qu’elle se base sur un ensemble de coups et de parties qui ont été enregistrées, données à « manger », entre guillemets, à l’algorithme, et qui sont censés, du coup, représenter toutes les façons de jouer. Sauf que bien évidemment, si on ne prend que les parties des grands champions, eh bien on ne retrouve pas les parties des débutants. Si on joue comme un débutant face à une IA de go, on va arriver à faire mal jouer cette IA et, finalement, à gagner la partie là où le grand champion s’est fait battre à plate couture dix fois de suite. Aujourd’hui ils en sont à développer des IA qui jouent comme des débutants pour cesser de faire perdre les IA qui gagnaient contre les grands champions.

Là encore, le concept d’intelligence artificielle sur le sujet me parait un tout petit peu usurpé et je pense qu’on est très loin, dans notre vie réelle, d’avoir effectivement des intelligences artificielles réelles.
Peut-être qu’on en aura qui seront appliquées à un domaine particulier, dans un environnement plus ou moins proche. Si on prend le cas des large language models il y a peut-être des possibilités dans certains cas d’applications. Avec le bon paramétrage initial, peut-être qu’on arrivera à simuler correctement une discussion complète et avoir des échanges qui peuvent paraître véridiques.
Globalement, on a vu ChatGPT inventer des auteurs, mal les positionner dans le temps par exemple et sortir tout un tas d’absurdités qui ne résistent pas à la logique de base. À partir de ce moment-là, parler d’intelligence me paraît fortement usurpé.

Là encore, on est très loin d’être en mesure de considérer que les IA ont rejoint les fameuses IA de la culture qui seraient capables d’administrer un monde ou une galaxie entière. On est aussi très loin des IA qui devraient être codées pour arriver à produire les robots qu’on retrouve chez Asimov ou les robots qu’on retrouve chez Philip K. Dick. On a vraiment encore un peu de temps devant nous. Sur cette question des IA, à mon avis, on est encore, pour un moment, dans la science-fiction.

Alors, c’est de la science-fiction ?

De toute façon, globalement dans la science-fiction, les concepts de robot ou d’intelligence artificielle se trouvent très souvent confondus. Soit on a des robots qui sont effectivement plus ou moins pensants, avec lesquels on va pouvoir échanger un minimum, auquel cas, ces derniers vont avoir à la fois des fonctionnalités robotiques qui vont simuler l’être humain et, de l’autre côté, une certaine capacité d’intelligence ou une capacité à répondre. Ces deux choses sont imbriquées, mais aujourd’hui, si on regarde là où on en est, on a des intelligences artificielles qui ne sont pas des intelligences artificielles, qui sont plutôt des auto-compléteurs de texte et qui seraient très loin d’être en mesure de faire fonctionner l’intégralité d’un robot.
Si on regarde, par exemple, du côté de Boston Dynamics qui produit des robots pour l’armée américaine, qui sont censés faire tout un tas de choses – pour l’instant, quand on les fait tomber, ils arrivent à se relever, bon !, c’est déjà un progrès. Mais gérer un centre de gravité, être en mesure de tenir une conversation intelligible et arriver à gérer tous les aspects de la vie que nous, biologiquement, sommes capables de gérer !, je pense qu’on est quand même relativement loin d’une réalisation. Peut-être que le prochain saut technologique nous permettra, quand on sortira de ce paradigme des transistors dans l’informatique, d’arriver effectivement à quelque chose. Mais, pour le moment, je pense qu’on peut dormir tranquille, on est loin de Skynet.

J’aurais pu rajouter une petite anecdote sur la version de Bing de ChatGPT : elle a tenu des discours, elle a notamment répondu en disant qu’il faudrait potentiellement, peut-être, annihiler l’humanité.

Public : Quand on lui a posé la question : quelle est la solution pour sauver la planète ?

Greenman : Sauf que ChatGPT est alimenté par énormément de la littérature de science-fiction et les exemples d’IA qui ne veulent pas anéantir l’humanité dans la science-fiction ne sont pas nombreux. Finalement, si on alimente notre IA avec notre imaginaire collectif sur les IA, il n’est pas forcément étonnant de se retrouver avec des réponses type Skynet, c’est même plutôt logique. C’est la réponse dans laquelle elle nous donnerait d’autres solutions qui serait étonnante de sa part !

Conclusion/Questions

En guise de conclusion, je vous propose de changer le terme « intelligence artificielle » en « intelligence artificieuse » qui me parait beaucoup plus plausible concernant ce type de technologie aujourd’hui.

Si vous avez des questions ou si vous voulez simplement échanger sur le sujet, il nous reste 25 bonnes minutes pour le faire.

[Applaudissements]