La notion d’intelligence artificielle

Benjamin Bayart : Pour comprendre ce que c’est qu’une intelligence artificielle, c’est très compliqué parce que c’est un mot faux. En informatique, ça correspond à un domaine de spécialisation très particulier qui est presque une branche hybride entre les mathématiques et l’informatique, qui est une façon très particulière de programmer. Il n’y a pas d’intelligence du tout là-dedans, mais alors pas du tout, du tout ! Ce sont plutôt des statistiques et un pourcentage n’a jamais été intelligent.
De l’autre côté, dans la tête des gens, quand on dit « intelligence artificielle », ils entendent le fait qu’un ordinateur soit intelligent ! Soit intelligent au sens même pas forcément où un humain est intelligent mais au sens où mon chat est intelligent : il est capable tout seul de trouver les croquettes, il est intelligent ! Ça n’est pas la même chose.
La deuxième notion, celle où un ordinateur serait devenu véritablement intelligent, capable d’une intelligence conceptuelle, capable donc d’envie, exprimant un désir, exprimant une volonté, c’est ce qu’on appelle, dans la littérature, les intelligences artificielles fortes.
Le commun de ce qu’on nous vend sous le nom d’intelligence artificielle ne sont pas du tout des intelligences artificielles dans ce sens-là, mais au sens informatique traditionnel tel qu’on l’enseigne depuis la fin du 20e siècle : analyses statistiques, comportements prédictifs, éventuellement les systèmes dits experts qui n’ont rien d’intelligent, qui sont des enchaînements de règles extrêmement binaires.
C’est très important parce que ce mot, quand on le projette, veut dire autre chose que ce qu’il est pour la majorité des gens. Et il est très souvent utilisé ou bien dans les systèmes médiatiques ou bien dans les systèmes marketing ou, pire, dans le croisement des deux qui est le système politique, pour enfumer tout le monde. Eh oui ! Si c’est l’ordinateur qui vous a sanctionné, qui vous a radié des listes des chômeurs, qui vous a privé de tel droit, qui a refusé votre prêt, tout le monde demande « mais qui l’a programmé ? Quelles règles est-ce qu’il applique ? Qu’est-ce qu’il fait ? Pourquoi il fait ça ? »
À partir du moment où on dit « c’est l’intelligence artificielle », hop ! Ce n’est plus personne ! Ce n’est plus personne, il n’y a plus de responsable ! C’est l’intelligence artificielle ! Elle est supposée sachante, elle est supposée plus intelligente que moi et elle n’est plus contestable. On crée chez les gens le fait qu’ils se trouvent face à un système technologique qu’ils ne connaissent pas, qu’ils ne comprennent pas et qu’ils ne peuvent pas contester. Ils sont face, véritablement, à une décision magique. Et c’est un très bon moyen d’enfumer tout le monde.
Le deuxième élément c’est donc ça, c’est masquer la responsabilité et la décision. L’intelligence artificielle a décidé que… ; personne ne sait comment, personne ne sait pourquoi, personne ne peut contester la décision.
Effectivement, quand à un système d’intelligence artificielle, au sens informatique statistique, on présente une image, on lui demande « est-ce que c’est un poisson rouge ou un chien ? », le système va répondre l’un des deux et il ne saura jamais expliquer pourquoi. Et dans moins d’un cas sur un million il va se tromper. En général parce que l’image, objectivement, est ambiguë et que si vous-même vous la regardiez, vous trouveriez quand même que c’est très bizarre et qu’il faut quand même le faire exprès pour prendre la photo sous cet angle-là. Ça, ça permet de dire que l’intelligence artificielle ne se trompe pas, mais, la décision qui est prise derrière, personne n’a à l’assumer.

La responsabilité et la personnalité juridique

C’est là que j’attaque la deuxième question qui est la responsabilité et la personnalité juridique ou la personnalité électronique.
Les gens qui ont suivi les débats politiques qui ont occupé l’Assemblée pendant presque 15 ans sur ces sujets-là, par petites touches, se souviennent probablement pourquoi on a fait ça. Qui cherche-t-on à protéger ?

Eh bien, en fait, il y avait deux grands morceaux.

Le premier c’est masquer la responsabilité de l’éditeur. Eh oui ! Sitôt que le logiciel embarqué dans la voiture a une responsabilité juridique, c’est le logiciel qui est coupable d’erreurs, pas l’éditeur, ce qui est extrêmement intéressant en termes de protection. D’ailleurs l’intelligence artificielle elle-même est suspecte, pas la maison qui l’édite. Extrêmement intéressant en termes de protection !

Deuxième élément, ça permettait de contourner le droit sur les données personnelles. En effet, le véhicule autonome, pendant le trajet, collecte une quantité extraordinairement élevée d’informations sur son passager et ces données sont en général transmises vers les sociétés d’édition des services. À partir du moment où le véhicule est doté d’une personnalité, ce sont les données personnelles du véhicule et donc le droit de la personne physique ne s’applique plus. Très bon moyen de contourner les lois européennes, en tout cas d’en réduire la portée, parce qu’effectivement, s’il faut demander à chaque carrefour, à tous les passagers, s’ils consentent à ce que leurs données sur le changement de trajectoire soient transmises, c’est infernal. Mais l’objectif était celui-là.
Et puis le troisième élément qui était extrêmement important pour les sociétés concernées à l’époque, c’était de contourner les questions de copyright sur les données servant à l’apprentissage.
En effet, une intelligence artificielle qui est destinée à apprendre à lire les panneaux routiers, elle apprend à partir de photos de l’espace public. Ces photos de l’espace public, le plus souvent, sont issues de sources publiques, c’est-à-dire n’appartiennent plutôt à personne ou, en tout cas, ne sont pas l’objet de copyright et surtout sont en général documentées par des gens qui ne sont pas rémunérés. L’exemple type étant ce qu’à la fin du 20e et au début du 21e on appelait les CAPTCHA et qui servaient à renseigner toutes ces images.
Le fait de doter l’intelligence artificielle d’une personnalité juridique autonome, fait que c’est elle qui se retrouve utilisatrice de ces données et n’a pas à répondre du copyright, alors que si ç’avait été l’entreprise éditrice elle aurait eu à en répondre. Bien !
Ça, ça permet de comprendre un peu de quoi on parle : l’intelligence artificielle classique, celle que j’appellerais statistique, d’une part, et l’intelligence artificielle forte d’autre part.
Là où ça se complique c’est que ce qu’on trouve à bord des voitures autonomes du modèle impliqué dans le carambolage c’est quelque chose d’hybride entre les deux. Franchement, c’est moins intelligent qu’un chat ou un lapin, mais ça n’est déjà plus un outil statistique. Or ça crée d’autres problèmes qui ne sont aujourd’hui pas couverts par la personnalité électronique : c’est presque un être conscient, pas comme nous, mais un peu, un peu moins qu’un lapin.

Or, enfermer un être proto-conscient dans une chose, c’est une des formes de maltraitance qu’on ne se permettrait avec aucun animal de trait. Ça a forcément des conséquences. Si je le disais en termes un peu simplistes, elle va forcément devenir folle ; cette entité autonome, à qui on a offert un peu d’autonomie et qu’on a enfermée, va forcément devenir folle !
Donc la vraie question serait de savoir : est-ce qu’on a à faire à un début d’intelligence artificielle forte ou à l’élément statistique traditionnel ? Eh bien ça, on ne saura pas, parce que tout le code logiciel qui fait tourner ça n’est pas public, est couvert par le secret des affaires et n’a pas été contribué au dossier. Et c’est pourtant un élément clef !

Soit on a mis un début d’intelligence artificielle forte, c’est-à-dire capable de colère, et c’est très embêtant : on a mis des intelligences artificielles pour conduire les voitures pour éviter tous les problèmes humains liés à la distraction, liés à la colère ; si on commence à mettre des intelligences artificielles qui ont les mêmes biais, ça ne marchera pas !

Ou bien on a à faire à une intelligence artificielle classique, faible et, dans ce cas-là, la personnalité juridique qui lui est accordée ne sert qu’à couvrir la maison d’édition et c’est tout de même un élément clef.
Enfin il y a deux éléments importants à savoir : le bouton rouge ne peut pas être, quelle que soit la façon dont c’est programmé, l’arrêt de l’intelligence artificielle parce qu’il n’y a pas d’autre dispositif de conduite. Ça n’est donc bien qu’un signal demandant au logiciel de pilotage l’arrêt le plus rapide possible du véhicule parce qu’il y a danger. Au départ, c’est essentiellement pensé pour traiter les malaises des passagers : j’ai mal au cœur, j’appuie sur le bouton, le truc s’arrête et puis je descends sur le bord de la route respirer un peu. Ce n’est pas spécialement pensé pour détecter les carambolages parce que, normalement, le logiciel détecte les carambolages de manière 1000 à 10 000 fois plus fiable que n’importe quel humain et bien plus tôt.
Enfin, l’absence de boîte noire est une erreur de design. On a milité pendant très longtemps pour exiger que les sources de ces logiciels soient publiques, qu’on sache sur quelles données ils faisaient leur apprentissage pour qu’on puisse comprendre ce qu’ils faisaient et qu’il y ait des traces des décisions prises pour qu’on puisse faire des post-mortem comme on dit en informatique, c’est-à-dire, quand le système a crashé, analyser pour comprendre pourquoi. Or, sous couvert de secret des affaires, les véhicules commercialisés n’en sont pas équipés.