La face sombre de l’IA  : exploitation et inégalités

Cyrille Chaudoit : Allez, on va se lancer directement au cœur de la mine, donc, si vous êtes un peu claustro, accrochez-vous.
Tu as une approche très particulière de ton exercice, de la recherche, de la sociologie, très terrain. J’aimerais qu’on commence directement par une explication, de ta part, sur la façon dont tu procèdes, ta façon de conduire, justement, ces études pour nous ramener très vite vers ce que tu appelles l’extractivisme des matières premières, on comprend bien, et du travail humain, ce travail caché dont tu as fait ta spécialité. Antonio, est-ce que tu peux nous en dire un peu plus sur la manière dont tu conduis tes études ?

Antonio Casilli : Tout à fait. D’abord, il faut préciser que lorsqu’on pense à un sociologue de l’intelligence artificielle, on pense toujours à quelqu’un qui, tout au plus, passe son temps dans des entreprises ou dans des foyers de particuliers pour étudier comment les gens l’utilisent. Moi, je ne m’intéresse pas aux usages, je ne m’intéresse pas à la partie qui est la consommation de ces produits qu’on appelle intelligence artificielle. Je m’intéresse à la production et je dirais plutôt, nous nous intéressons à la production, parce que nous c’est moi et mon équipe avec laquelle je travaille depuis déjà cinq ans.
Qu’est-ce que veut dire étudier la production ? Il y a plusieurs angles.
Certains d’entre nous s’occupent d’étudier comment, par exemple, les data scientists ou les développeurs travaillent vraiment sur le code d’un algorithme d’une intelligence artificielle, d’un modèle. Désormais « l’intelligence artificielle est un modèle », ce terme, cette manière de dire s’est installée, mais c’est réducteur de regarder seulement le modèle, parce que nous allons regarder aussi les data, les données, les données sont le cœur d’un modèle d’intelligence artificielle.

Cyrille Chaudoit : Celles qui ont été utilisées pour entraîner le modèle justement, c’est ça ?

Antonio Casilli : Oui, celles qui sont utilisées pour l’entraîner, c’est-à-dire pour apprendre à la machine à faire ce qu’elle fait, c’est pour cela qu’on l’appelle machine learning, donc l’apprentissage machine [2] mais il y a aussi des données qui sont utilisées pour renforcer ce que la machine sait, on appelle cela plutôt reinforcement work [3].

Mick Levy : Quand tu vas sur le terrain, tu vas même jusque dans les mines, tu vas même jusque sur les plateaux où travaillent les click-workers finalement.

Antonio Casilli : Oui, en effet. À mon grand âge, j’ai désormais pris cette mauvaise habitude, alors que la plupart de mes collègues, passée la quarantaine, ont tendance à s’installer. Moi, par contre, je suis assez allergique à mon bureau et je pars très vite et très souvent pour aller dans des endroits dans lesquels j’interviewe d’abord des personnes qui s’occupent de produire la data, parce que la data, malgré le nom et l’étymologie latine qui fait penser à quelque chose qui tombe du ciel, qui est donné, qui est presque spontané, elle n’est pas spontanée du tout, il faut vraiment la produire, la manufacturer, la fabriquer comme si c’était un objet, donc qui la produit ? Eh bien, ce sont des personnes souvent très mal payées, souvent à des endroits insoupçonnables et souvent insoupçonnés. Ce n’est pas dans la Silicon Valley, ce n’est pas dans les technopoles, c’est dans les pays du Sud du monde, des pays à faible revenu, dans lesquels des personnes très faiblement rémunérées, et je vais vous donner aussi des chiffres, sont payées pour faire un travail qui consiste, je vais vous donner quelques exemples : lorsqu’il s’agit d’entraîner un chatbot comme ChatGPT, il faut, par exemple, reconnaître des bouts de texte ou retranscrire des bouts de texte ou traduire des bouts de texte. Ce sont toujours des petites tâches, des micro-tâches qui durent quelques secondes, quelques minutes, qui sont payées très peu, quelques centimes tout au plus. Après, si ce n’est pas lié au langage, il y a aussi des intelligences artificielles qui reconnaissent par exemple des vidéos ou qui reconnaissent des images. Ce sont donc des travailleurs du clic, des travailleurs de la donnée, qui apprennent à l’intelligence artificielle par exemple à reconnaître des images et comment font-ils ? Ils prennent des images brutes, pour ainsi dire, et ils les taguent, les étiquettent, les labellisent.

Cyrille Chaudoit : Le terme c’est labelliser, tiré de l’anglais. Est-ce qu’on peut juste rentrer un tout petit peu dans le détail de la façon dont ça fonctionne ? À nous, ça parle, mais je suis pas sûr que toutes celles et ceux qui nous écoutent comprennent bien comment ça fonctionne. C’est vrai qu’on a cette idée, on sait à peu près tous que pour entraîner le machine learning il faut d’abord lui avoir donné énormément de quantités d’informations et de données. J’utilise souvent l’image du petit chat pour dire « ça c’est un petit chat ou c’est un petit chien » puis on l’entraîne, etc. Là, c’est quoi concrètement ? Ces gens-là vont dire, sur chacune des dizaines de millions de photos, « c’est un petit chat, c’est un petit chien, c’est un petit écureuil ou je ne sais quoi ». C’est valable pour des images, c’est valable aussi pour des bouts de texte, tu nous le disais tout à l’heure, est-ce que c’est valable aussi pour aller labelliser des contenus qui relèveraient plus de la modération ? On a aussi souvent cet exemple de choses horribles qui passent entre les mains et devant les yeux de ces gens-là, qui sont non seulement payés une misère, mais, en plus, qui tombent en dépression parce qu’ils voient des choses atroces. Est-ce que tu peux nous expliquer un petit peu ça ?

Antonio Casilli : Tout à fait. Ce qu’on appelle aujourd’hui la modération de contenu est une forme de travail du clic, du travail de la donnée. Finalement, si certains travailleurs sont payés mal, on l’a dit, pour apprendre à la machine à faire certaines choses, par exemple reconnaître x ou y, il y a aussi les personnes qui sont payées pour désapprendre, c’est-à-dire pour enseigner à la machine à ne pas faire. En l’occurrence, une intelligence artificielle doit éviter d’avoir, que sais-je, des propos toxiques, imaginons. ChatGPT est censé ne pas m’insulter ou me proposer mille méthodes pour massacrer mes voisins, etc. Pour ce faire, il faut apprendre à ChatGPT, aux modèles sous-jacents, les comportements et les propos à ne pas tenir. Donc on les modère, c’est-à-dire que, des bases de données, on filtre ces contenus qui sont considérés comme problématiques. Pour vous donner vraiment un aperçu, même pour vous laisser imaginer ce qu’on voit lorsqu’on visite les endroits dans lesquels on fait ce type de travail, il y a plusieurs endroits.
Parfois, nous rencontrons des travailleurs chez eux, carrément dans leur chambre à coucher où il y a une petite table avec un vieil ordinateur et c’est là que ces personnes reçoivent, par exemple, des images ou des bouts de texte ou regardent des vidéos et doivent les annoter, les étiqueter, par exemple marquer des objets sur les images, c’est ce qu’on appelle le box-in, c’est-à-dire mettre en boîte certains objets pour que la machine puissent les reconnaître.
Parfois, ce n’est pas dans leur chambre à coucher, c’est dans des endroits semi-publics. Par exemple, j’ai rencontré des personnes qui faisaient ce type de travail dans des cybercafés. Il y a encore pas mal de cybercafés dans plusieurs parties du monde, du Sud global, dans lesquels les personnes s’adonnent à ce type d’activité pour gagner, par exemple, quelques dollars.
Après, vous avez aussi des situations un peu plus structurées. Là, parfois, on pénètre dans de véritables fermes à clics ou fermes à données, c’est-à-dire qu’on rentre dans des endroits qui sont des maisons dans lesquelles, dans chaque chambre, il y a une vingtaine de postes et une vingtaine de personnes qui, à longueur de journée, regardent des images ou transcrivent du texte ou écoutent de l’audio.

Cyrille Chaudoit : Au moment où on enregistre cet épisode on est début février, on sort de la grosse vague de buzz de DeepSeek [4] et on sait qu’il y a des endroits, des provinces en Chine en particulier, où ce travail de labellisation de données pour entraîner les IA est totalement organisé. Tu penses justement à ces endroits-là qui sont un peu les nouveaux sweatshops, en quelque sorte, des temps modernes, mais adaptés au digital et à l’IA ?

Antonio Casilli : Au cas de la Chine, certainement. On a affaire à un pays, à un écosystème industriel et aussi à un gouvernement central qui a beaucoup investi sur ce type d’activité d’annotation des données, d’entraînement de l’intelligence artificielle, donc, finalement, qui a créé des endroits spécialisés où accueillir ces travailleurs publics. On les appelle les bases d’annotation de données. Ce sont des lieux qui peuvent, parfois, être carrément des anciennes usines désaffectées et transformées en usines à clics. Ce sont finalement des entreprises, en réalité des plateformes, qui portent des programmes, par exemple, d’aide aux personnes en très grande précarité. Encore une fois, il s’agit de personnes qui sont vraiment à un niveau de rémunération à peine de survie. Aujourd’hui, avec mon groupe de travail qui s’appelle DiPLab, on a carrément sorti un rapport pour dire « là, il y a quelque chose qui cloche, qui est très bizarre dans les allégations de DeepSeek, qui dit non seulement avoir entraîné à 1 % du prix de ChatGPT le même type de produit, qui, en plus, dit que ça ne coûte rien en termes d’énergie et, en plus, dit qu’il n’y a pas d’annotateurs, ou presque ». Il cite exactement 32 annotateurs dans les documents que l’on a consultés, on a fait tout un rapport. Il donne le nom de 32 personnes, ce sont tous des Chinois. On se dit « c’est vraiment bizarre. Dans un contexte comme celui de la Chine dans laquelle le gouvernement central a vraiment mis le paquet pour des politiques d’incitation à la création de ces usines à clic que ces gens-là déclarent à peine 32 personnes. Peut-être que là on a affaire à une énorme armée de personnes qui font du travail du clic au noir. »

Mick Levy : D’ailleurs, il y a les mêmes doutes vis-à-vis de DeepSeek sur la capacité réelle de calcul dont ils ont disposé pour entraîner DeepSeek. Il y a beaucoup de choses ! Bref ! C’est un peu un sujet à part.
Tu es sociologue.

Antonio Casilli : Chacun sa croix !

Mick Levy : Chacun sa croix, toi c’est celle-là. Quelle est la sociologie de ces click workers ? Qui sont-ils ? Est-ce qu’on peut en faire un profil un peu général ? Tu nous dis que c’est dans le Sud global. Que peux-tu nous dire de leur profil ?

Antonio Casilli : Je vais te taquiner un peu. Seulement les non-sociologues disent quelle est leur sociologie pour dire quelle est la composition démographique, socio-démographique. Mais je te comprends !

Mick Levy : Tu vois où je veux en venir.

Antonio Casilli : Bien sûr. Grosso modo, au bout de plusieurs années d’enquêtes, les nôtres, celles aussi de nos collègues d’Oxford, de nos collègues de l’OIT, l’Organisation internationale du travail, on commence effectivement à avoir des données, même si, comme vous pouvez l’imaginer, les entreprises du numérique ne nous laissent pas vraiment explorer leurs véritables registres ou bases de données.
Maintenant, d’abord, on sait que ces personnes-là ont tendance à être des personnes dans la fleur de l’âge, c’est-à-dire des personnes qui ont, normalement, entre 20 et 35 ans, jusqu’à 40 ans, 44 ans, dans des pays du Nord comme la France, parce qu’il y a aussi des travailleurs du clic en France ou en Espagne ou en Allemagne, etc. Donc dans les pays du Nord, ça peut être des personnes un peu plus âgées et, en général, dans les pays du Sud, ce sont des personnes très éduquées, c’est-à-dire avec un niveau d’études très élevé, jeunes et, en plus, des personnes qui « choisissent » ça, choisissent entre guillemets, comme activité principale.

Mick Levy : Qu’est-ce qui les pousse à le faire ? Si elles ont un bon niveau d’études, que tu dis que c’est leur choix, en même temps tu nous as expliqué, avant, que c’était juste un métier de survie dans des conditions de travail qui ne sont absolument pas favorables, qu’est-ce qui les pousse à faire ce choix-là, du coup ?

Antonio Casilli : Les perversions du marché du travail, mon cher ! C’est-à-dire que si tu vas dans un pays comme le Kenya ou Madagascar ou l’Égypte, même des personnes qui devraient représenter le fleuron de la force du travail, les personnes effectivement les plus convoitées par les entreprises-mêmes ne trouvent pas un travail, un métier ou un emploi adapté à leurs compétences.

Mick Levy : Ça reste quand même un choix par dépit.

Cyrille Chaudoit : Contextuel.

Antonio Casilli : Quand je dis « un choix », ce n’est pas du tout un choix, c’est tout simplement l’option qui se présente. Par ailleurs, si vous voulez parler comme le font les économistes du capital humain, ces personnes qui semblent bien éduquées devraient être bien placées sur le marché du travail et, là, on est en train de vivre l’un des plus grands gâchis du capital humain de notre histoire, parce que ce sont les personnes qui devraient être the best and brightest comme diraient les Anglais, les plus brillantes, et qui sont réduites à faire un travail qui est franchement abrutissant, un travail qui consiste à regarder les mêmes objets, les mêmes images ou à taguer les mêmes données à répétition. C’est un travail non seulement répétitif, extrêmement usant, pénible, mais, en plus, c’est un travail qui n’a pas vraiment d’issue en termes de carrière et certaines personnes, pour des motifs de besoins économiques, de nécessité économique, se trouvent à le faire pendant plusieurs années.

Cyrille Chaudoit : En termes de métier abrutissant, usant, pénible au sens auquel on l’entend aussi quand on parle du débat sur la retraite, mais c’est un autre sujet, ça me fait penser à l’industrie textile dont on sait qu’il y a une exploitation, une surexploitation d’une main-d’œuvre dans des pays relativement pauvres, avec un chômage très important, où, là aussi, il faut bien manger donc on va le faire. Les scandales à répétition de cette industrie ont fait qu’un certain nombre de lois, de normes, ont été imposées aux grandes enseignes internationales pour les obliger à aller vérifier la façon dont leurs fournisseurs organisent ce travail, les traitent, etc., et je laisse de côté les aspects environnementaux mais ça va souvent de pair. Qu’en est-il aujourd’hui ? On vient de parler de DeepSeek, on sait qu’en Chine c’est un système différent, pour le dire simplement, mais on sait aussi que OpenAI paye à peu près deux euros par mois les gens qui vont faire ce type de travail. Qu’en est-il dans les grandes entreprises de l’industrie de la tech cette fois-ci en la matière ? Est-ce que c’est suivi ? Est-ce que des normes sont imposées ou tout le monde s’en fout ?

Antonio Casilli : Petite précision. OpenAI, c’est paru dans la presse il y a deux ans, a la mauvaise réputation de payer ces personnes, ces travailleurs de la donnée qui entraînent ChatGPT, à peine deux dollars de l’heure. Nous sommes allés interviewer ces personnes au Kenya et je serai au Kenya le mois prochain, par ailleurs, pour continuer, et c’est moins que ça, c’est 1,5 dollar, ce qui fait quand même une différence importante.

Cyrille Chaudoit : Ils ont arrondi. Antonio, tu chipotes !

Antonio Casilli : C’est important de bien préciser parce que dans le contrat que nous avons pu consulter, qu’OpenAI a passé avec la plateforme qui a recruté ces personnes, il était marqué que c’est chaque personne devait être payée 12 dollars, pas 1,5 dollar.

Cyrille Chaudoit : Pardon de te couper, tu mentionnes un truc important. Bien souvent, ces boîtes qui font appel aux travailleurs du clic passent par de multiples plateformes, pas tout à fait des sociétés écrans mais presque, elles ne les embauchent jamais en direct, histoire de noyer le poisson en plus.

Antonio Casilli : C’est certainement ça, faire perdre leurs traces et, surtout, ne pas s’exposer à des actions en justice, auxquelles, par ailleurs, elles sont carrément exposées pour requalification en tant qu’employeur de ces personnes.

Cyrille Chaudoit : Revenons aux normes et au suivi. Est-ce que c’est cadré, ou pas, aujourd’hui ?

Antonio Casilli : Non, ce n’est pas cadré surtout parce que c’est un travail qui est nié, dont l’existence est niée ou minimisée. Si tu parles comme le font systématiquement IBM, Meta et compagnie, ils minimisent en disant que ce sont des personnes qui font un travail complètement accessoire, c’est pour cela qu’on l’externalise, ce sont des tâches à faible valeur ajoutée, alors que, franchement, ce n’est pas possible de déclarer un truc comme ça dans la mesure où, sans ce travail-là, il n’y a pas d’intelligence artificielle, il n’y a pas d’entraînement, de pré-entraînement, il n’y a pas de performance de l’intelligence artificielle.

Mick Levy : Il ne faut pas cesser de le rappeler. On croit tous que l’intelligence artificielle ce ne sont que des données, mais, en fait, il y a un travail humain qui est assez masqué.

Antonio Casilli : Je continue. Ils nient, ils minimisent en disant « OK, il y en a, mais ils ne sont pas si nombreux que ça », alors que les estimations de mes collègues commencent à parler de plusieurs dizaines, voire de centaines de millions de personnes qui font ça dans le monde.

Cyrille Chaudoit : Des centaines de millions !

Antonio Casilli : Oui ! La banque mondiale a sorti des estimations qui sont franchement ahurissantes, j’ai des doutes sur la méthode, mais quand même, on observe, depuis le Covid surtout, à cause du Covid, bien sûr, qu’énormément de personnes se sont mises à ça et des entreprises, des plateformes qui, auparavant, faisaient, que sais-je, 500 000 travailleurs se retrouvent avec 2 à 4 millions aujourd’hui, y compris en Europe, je le répète. Après, surtout, ils nous disent « de toute façon ce n’est pas la peine de réguler ce secteur, de réglementer ce secteur », et là on vient effectivement au guide de régulation, « parce que, de toute façon, ce travail est destiné à disparaître, parce que, finalement, une fois qu’on aura entraîné toutes les intelligences du monde, ce sera fait et on pourra se passer de ces travailleurs. »

Cyrille Chaudoit : C’est le but ultime.

Mick Levy : Rien n’est moins sûr !

Cyrille Chaudoit : Rien n’est moins sûr, mais c’est vrai qu’on nous parle quand même depuis longtemps de cette intelligence artificielle qui est supposée être capable de s’entraîner d’elle-même. On voit bien qu’il faut un input au départ et le storytelling c’est « un jour ça va disparaître ». J’imagine que dans le storytelling, en tout cas les bonnes excuses, il y a aussi « si on ne donne pas ça comme boulot à ces gens-là, ils n’ont rien, donc c’est encore pire. »

Antonio Casilli : Ça c’est le point, l’élément de langage qui m’insupporte au plus haut degré. Il y a quand même un fond colonial dans cette histoire du type « les Britanniques ont colonisé, ravagé l’Inde et le Zimbabwe, mais à la fin ils sont partis, il y avait des infrastructures et ils leur ont appris à jouer au cricket. » Non, ce n’est pas comme ça ! C’est parce que ces grandes entreprises ravagent les économies du Sud du monde que des personnes dans des pays à faible revenu, ravagés par les mêmes capitalistes du Nord, se retrouvent à devoir accepter des conditions de travail et des conditions de vie qui sont extrêmement basses, qui relèvent, finalement, de l’exploitation.

Mick Levy : Sur ces conditions de vie, Antonio, j’avais lu une enquête dans laquelle des travailleurs du clic disaient qu’ils étaient face à une véritable torture psychologique. Certains expliquaient qu’ils devaient effectivement annoter des images insoutenables de viols, de viols d’enfants, de décapitations, qu’ils étaient soumis toute la journée à ce type d’images-là, qu’ils devaient annoter pour dire si c’était du contenu terroriste, du contenu choquant, du contenu désolant. C’est ça leur réalité, pour beaucoup, effectivement et est-ce qu’ils ont du soutien psychologique ou pas ?

Antonio Casilli : La réponse est que le soutien psychologique n’est pas vraiment toujours au rendez-vous. Dans notre documentaire Les sacrifiés de l’IA, on en parle, il y a une partie centrale dans laquelle on rentre vraiment dans le ventre de la baleine de l’intelligence artificielle et on donne la parole à ces personnes-là qui sont surtout des annotateurs–modérateurs de contenu. Ce sont surtout les gens qui doivent, encore une fois, apprendre à la machine à ne pas faire ou à ne pas regarder ou à ne pas prendre en compte. J’ai travaillé avec ces personnes-là, je les ai rencontrées, je les ai accueillies en l’Europe, je les ai vues chez elles, etc., elles portent effectivement les stigmates de ce travail. Ces personnes, parfois, étaient déjà fragiles à cause des traumatismes de leur propre vie et ce travail-là exposait vraiment ces personnes-là a une succession très serrée d’images extrêmement violentes.
Après, il est vrai que même les personnes qui ne doivent pas traiter des images de, que sais-je, crimes de guerre ou suicides, etc., même les personnes qui ne doivent pas traiter ces contenus-là subissent des conséquences psycho-professionnelles, finalement des risques liés à leur travail, dus, par exemple, à la répétitivité des tâches, à la pénibilité des tâches et, à ne pas sous-estimer, à l’isolement. L’isolement est vraiment le cœur de ce métier. Même si ces personnes sont en train de travailler ensemble, dans le même lieu de vie, le même lieu de travail, elles sont liées, par des contrats, à une obligation de ne pas parler de ça avec leurs propres collègues ou à leur propre famille et c’est quelque chose qui peut vraiment créer des formes d’aliénation extrême.

Cyrille Chaudoit : Complètement ! Et en termes d’aliénation à titre individuel, avec un impact sur la vie de ces gens-là, mais aussi l’aliénation de l’ensemble de la société, il y a une autre forme d’extractivisme dont il faut parler quand même dans cette séquence, celle des matières premières. Tu vas aussi sur le terrain pour cela. Dis-nous concrètement comment ça se passe, ce que tu as observé, parce qu’on sait qu’on va aller chercher ces fameuses terres rares ? Éclaire-nous, s’il te plaît, de la réalité sur le terrain.

Antonio Casilli : C’est vrai que les terres rares sont devenues presque des chimères, des trucs mythiques, on ne pense qu’à ça. Il y a aussi des matières premières beaucoup plus terre-à-terre, pour ainsi dire, comme le cuivre, l’étain, le lithium. Je ne vais pas faire tout le tableau périodique, mais, en même temps, il y a effectivement des matières qui sont stratégiques et qui constituent la base du fonctionnement de cette intelligence artificielle. Si on a ChatGPT sur son smartphone, ce smartphone a besoin, par exemple, d’une batterie au lithium et il faut extraire le lithium quelque part. Ce n’est pas la même chose, mais relativement tôt, dans notre travail, nous nous sommes rendu compte qu’il y avait une superposition géographique entre des lieux dans lesquels on trouvait des travailleurs du clic et des lieux dans lesquels on assistait à des formes d’extraction minière. Je vous donne un exemple : en 2018 j’étais en Bolivie. En Bolivie, j’ai effectivement interviewé un certain nombre de personnes qui entraînaient des intelligences artificielles, qui faisaient surtout des tâches de traduction, mais après, si vous vous déplacez de quelques centaines de kilomètres vers le sud, vous avez le plus grand lac salé du monde, qui s’appelle le Salar d’Uyuni, dans lequel on a l’extraction de lithium pour les batteries, encore une fois.
Si vous voulez rendre la chose encore plus métaphorique et montrer la superposition du travail de la donnée, ce que tu disais Cyrille à propos du textile et ce qu’on dit aujourd’hui à propos du lithium ou des matières premières pour la partie extractive de l’intelligence artificielle, on peut se déplacer encore de quelques centaines de kilomètres au sud du Salar d’Uyuni, là on tombe dans un autre pays, le Chili. Dans le nord du Chili, dans le désert d’Atacama, vous avez en même temps les plus grandes décharges de vêtements jetés par des gens du Nord du monde, surtout des États-Unis, mais vous avez aussi d’énormes centres de données, parce qu’il y a aussi des activités scientifiques qui se déroulent là-bas, et vous avez aussi d’énormes lacs salés et, à côté de ça, on a des usines de production de lithium.
Vous disiez au début, d’une manière un peu évocatrice, « tu rentres dans les mines », non ! En réalité, elles sont à ciel ouvert. Par exemple, on a passé pas mal de temps à Madagascar, on a interviewé des personnes à Tananarive, la capitale, des centaines de personnes à Tananarive faisaient ce travail du clic. Vous vous déplacez de 90 kilomètres et vous avez une mine de nickel et de cobalt. Donc qu’est-ce qu’on est en train de dire ? Est-ce qu’on est en train de dire qu’il y aurait des superpositions magiques ? Non, au contraire. Ce sont tout simplement des politiques industrielles de ces pays — le Chili, la Bolivie d’un certain point de vue et aussi Madagascar —, qui choisissent de créer des zones d’incitation pour certaines formes d’industrie, donc des industries à fort potentiel, des industries stratégiques comme toute l’industrie de la tech. Donc ils favorisent la création de plateformes ou de petites usines à clic par exemple par des politiques fiscales avantageuses, par des politiques de gestion du travail très avantageuses, en fermant un œil sur les ravages sur l’environnement.

Cyrille Chaudoit : Il y a une responsabilité de ceux qui vont aller chercher ce travail du clic, mais il y a la responsabilité des États qui acceptent bien souvent au nom d’un développement économique.

Mick Levy : Qui encouragent, c’est une stratégie économique, dans ces États-là, d’exploitation de leurs ressources naturelles. Je ne suis pas sûr que ce soient eux qui en profitent le plus à la fin, on connaît l’histoire là-dessus.
Rappelons un petit truc quand même, Antonio, on fait porter le chapeau à l’IA, mais, en vérité, c’est tout le numérique. En tout cas, pour la partie extractive des ressources naturelles, c’est tout le numérique : le moindre serveur pour diffuser des vidéos de petits chats sur YouTube, pour écouter ce podcast, la moindre dalle de l’écran, etc., c’est dans tout cela qu’il y a des minerais. Peut-être que c’est pire avec l’IA, mais, en fait, c’est tout le numérique, finalement, qui est concerné.

Antonio Casilli : C’est ça. On enregistre ce podcast en 2025 et quelque chose s’est passé entre-temps : le changement de paradigme dû effectivement à la généralisation des grands modèles à la ChatGPT. Grosso modo, ça veut dire que tout ce qui, auparavant, était le numérique, est devenu aujourd’hui l’IA. Et ce n’est pas seulement une question de langage, de stratégie de langage ou de stratégie marketing. On est en train de fourrer de l’IA dans n’importe quel produit informatique, pour faire court, et c’est effectivement difficile, aujourd’hui, de ne pas avoir une solution numérique qui, comme on faisait dans le temps, soit basée sur, que sais-je, des règles. Non, aujourd’hui c’est basé sur des données et quelle est la différence ? La différence c’est qu’auparavant un logiciel apprenait à faire sur la base d’un certain nombre de règles qui étaient codées et aujourd’hui, par contre, il apprend à force de regarder des données et à force d’apprendre des données qui sont des exemples qui sont considérés comme la réalité du terrain, la réalité des usages. Donc, de ce point de vue-là, désormais les deux choses sont en train de converger.

Mick Levy : Une toute dernière question sur cette partie-là : est-ce que le caractère extractif, dans les mines, des ressources naturelles de la terre a quelque chose de propre au numérique et à l’IA ou, après tout, je vais le dire de façon un peu directe, c’est la marche industrielle du monde qui se poursuit et puis, depuis qu’il y a l’industrie, oui, on exploite des ressources minières et on extrait des ressources de la terre ? Qu’est-ce qu’il y a de spécifique au numérique, finalement, dans cette extraction ?

Antonio Casilli : Certains collègues, surtout d’Amérique latine où la notion de l’extractivisme a été développée déjà au siècle passé, diraient qu’en effet c’est toujours la même histoire et que, finalement, c’est aussi la même histoire depuis cinq siècles. C’est-à-dire que dans leur cas, depuis les grands voyages d’exploration et la colonisation occidentale, on se retrouve, finalement, dans la continuité de cette logique.

Mick Levy : La ruée vers l’or !

Antonio Casilli : Je pense qu’il y a effectivement énormément de continuité. Par contre, je suis un peu prudent lorsqu’on utilise des notions si chargées du point de vue historique, parce que, d’une part, on a tendance à les utiliser un peu comme des métaphores et, quand on les utilise comme des métaphores, on n’a plus le contrôle sur qui utilise ces notions-là. Par exemple, le truc qui m’insupporte au plus haut degré, c’est d’entendre des Français qui se la jouent « on est colonisés », alors qu’historiquement la France a colonisé la moitié du monde ! Attention, ce n’est pas une métaphore, pour certaines personnes, pour certains pans de la population mondiale, des centaines de millions voire des milliards de personnes, c’est vraiment une réalité qui est la même depuis des siècles. Donc, de point de vue-là, oui, il y a de la continuité.

Cyrille Chaudoit : Cette discussion sur la continuité des précédentes révolutions industrielles me fait penser à quelque chose. Au fond, avec la pollution à l’ancienne, on n’était peut-être pas si mal, et ça me donne envie de passer la parole à Laurent Guérin, tu vas voir pourquoi, celle-là vint de loin. Connais-tu Laurent Guérin et son « moment d’égarement », Antonio ? Il va nous parler de la DeLorean et vous allez voir pourquoi je fais référence à la pollution façon old school.

« Un moment d’égarement » – La DeLorean – Laurent Guérin

Cyrille Chaudoit : Aujourd’hui, Laurent, je le disais, tu nous parles d’une voiture mythique et attention, pas n’importe quelle voiture, un objet culte, Mesdames et Messieurs, du cinéma hollywoodien, une icône pop, que dis-je, qui a pourtant fait un flop, la DeLorean DMC-12 [5].

Laurent Guérin : Eh oui, même les moins de 20 ans connaissent la DeLorean DMC-12. Il s’agit, en effet, de la machine à remonter le temps de la trilogie culte Retour vers le futur, des films sortis en 1985, 1989 et 1990 avec Michael J. Fox et Christopher Lloyd. Je te rappelle l’intrigue. Non ? Je ne te rappelle pas l’intrigue. Si ! OK.
Marty joue de la guitare, il est pote avec un savant fou qui a inventé une machine à remonter le temps. Voilà ! Trois personnages centraux se partagent donc les affiches des trois films, Marty McFly, Emmett Brown dit "Doc" et la DeLorean DMC-12. Peu de gens savent cependant que cet objet pointu, aux allures de suppositoire, cette fusée kitsch se situant au croisement d’une Renault 20 et d’une Simca 1307, a été une vraie voiture, avec des vraies roues et un vrai moteur, disponible à la vente.

Cyrille Chaudoit : Attends, elle a vraiment roulé ? Là, j’avoue que tu m’apprends un truc et c’est qui déjà le fabricant ?

Laurent Guérin : C’est John DeLorean, un ingénieur américain qui a connu un grand succès chez General Motors dans les années 60, qui crée sa propre marque et qui, à l’instar de Marcel, Louis et Fernand Renault, André Citroën, Ferdinand Porsche, Enzo Ferrari, Henry Ford, Walter Chrysler, j’en passe et des meilleurs, lui donne son nom la DeLorean Motor Company ou DMC qui voit le jour en 1975. « La bagnole, c’est l’opium du peuple » disait le chanteur Renaud. Le branding, ce n’est pas le nirvana des ingénieurs, zéro créativité. Je te rappelle quand même que Volkswagen signifie « voiture du peuple » en allemand et que Audi a pour logo quatre cercles qui représentent des roues. Eh oui, quatre roues, quatre cercles, je n’avais pas capté. J’ai aussi le logo de Toyota pour toi, cette espèce d’insigne qui ressemble à un taureau mais qui, en fait, incorpore toutes les lettres de Toyota, soit six lettres, enfin quatre puisqu’il y a deux « t » et deux « o », tata yoyo.
Mais revenons à ce bon vieux John, notre cadre jeune, connu pour sa capacité à innover, lève beaucoup d’argent, installe son usine en Irlande et commence la production de son unique véhicule en 1981 : carrosserie en métal inoxydable, porte à ouverture papillon, design futuriste réalisé par l’immense designer Giorgetto Giugiaro à qui on doit notamment la Fiat Panda mais aussi la Ferrari 250 GT et l’Audi 80, la légendaire Golf d’origine, celle de 1974 et la Renault 21. En fait, le mec devait travailler un jour sur deux. En tout cas, pour la Renault 21, il a dû s’inspirer de la DeLorean mais c’est un four.

Cyrille Chaudoit : Mais what ? La Renault 21 !

Laurent Guérin : Non, la DeLorean. Les premiers véhicules sortent de l’usine avec des défauts importants. Les journalistes automobiles n’apprécient guère cette voiture de sport lourde, aux performances limitées et à la consommation élevée et seuls 3000 véhicules des 9000 produits par la marque se vendent. DMC fait faillite en un battement d’ailes de papillon en 1982. Son fondateur s’est planté sur toute la ligne. Il a misé sur un véhicule seulement, il a embauché des ouvriers inexpérimentés afin de toucher des subventions, il n’a pas tenu compte de la compétition et, pour finir, il a été arrêté pour trafic de cocaïne sur un deal qui lui aurait permis de récupérer 24 patates alors que sa boîte en devait 17. Chacun sa méthode pour lever des fonds, n’est-ce pas Elon ! Et, dans un univers parallèle, Emmett Brown, dit Doc, achète une DeLorean DMC-12 à réparer et un flipper hors service en septembre 1984 par l’intermédiaire des petites annonces du Hill Valley Telegraf. Grâce à de nombreux ajouts, et surtout du plutonium, il transforme la DMC-12 en machine à remonter le temps avant d’être assassiné par les Libyens qui lui avaient fourni le plutonium. La légende peut alors commencer. À défaut d’avoir connu le succès dans la vraie vie, la DeLorean DMC-12 de John DeLorean devient une icône de la culture populaire.

Voix off : Trench Tech – Esprits critiques pour Tech Éthique.

Réinventer l’IA pour protéger les travailleurs et préserver l’environnement

Mick Levy : Je ne sais pas vous, mais ça fait du bien de rire un petit peu de temps en temps.

Cyrille Chaudoit : Je confirme, on ne s’en lasse pas.

Mick Levy : Petite nostalgie sur la DeLorean. En effet, ce n’est pas mal.

Antonio Casilli : La DeLorean qui était le super truck des années 80, soyons clairs.

Mick Levy : C’est quelque chose comme ça, qui, effectivement, ne s’est pas beaucoup vendu.
Antonio, en plus d’être un sociologue de terrain, tu es un véritable militant et tu as des solutions concrètes à nous proposer pour rendre l’IA plus éthique et finalement plus durable.
Avant d’explorer ces solutions, je voudrais bien comprendre où sont placées les responsabilités. J’ai rencontré, il y a à peine quelques semaines, une personne qui travaille dans une des entreprises sous-traitantes de Meta, de TikTok, d’OpenAI, qui, donc, sous-traite à des travailleurs du clic en Afrique.

Cyrille Chaudoit : Un nom, peut-être ? L’entreprise, pas la personne.

Mick Levy : Non, je ne dirai pas de nom, ni l’un ni l’autre. Pas ici.
Lui me disait, de manière assez cynique, « en même temps, il faut bien que quelqu’un le fasse, tant la modération sur les réseaux sociaux que sur l’IA ». Soit on se dit « on arrête tout ça », pourquoi pas, c’est peut-être ton opinion, c’est ce que je veux savoir, qui n’est pas complètement fausse. Qu’est-ce qu’on fait avec ça ? Il faut bien le faire en effet.

Antonio Casilli : Le grand informaticien Joseph Weizenbaum [6], qui a inventé le premier chatbot de l’histoire dans les années 60, Eliza exactement, lorsqu’on lui balançait des énormités comme ça, il faisait ce parallèle : si on disait la même chose sur les viols, c’est-à-dire « il faut bien que quelqu’un le fasse », vous vous rendez compte que c’est une logique complètement aberrante, que c’est une logique qui ne marche pas, qui est complètement surréelle. La réalité est que, par cela, cette personne voulait indiquer et même mettre un peu en valeur le travail de ces personnes, le travail des travailleurs du clic, en disant qu’il s’agit effectivement d’une fonction cruciale pour développer l’intelligence artificielle, je veux bien le croire. Après, « il faut bien que quelqu’un le fasse » ne veut pas dire « il faut bien qu’ils soient exploités » et là, je ne parle pas forcément comme un sociologue ni comme un militant comme vous m’avez décrit. À la base, figurez-vous, je suis un économiste, je suis un économiste défroqué et je considère qu’il y a un enjeu qui, finalement, est enjeu de ce qu’on appelle la part du travail, c’est-à-dire la part qu’on donne par exemple sur les bénéfices ou les profits d’une entreprise au travail, qu’on reverse au travail. Là, on a un problème. Si on considère que OpenAI ou Meta ne sont pas seulement des entreprises installées dans la Silicon Valley qui ont quelques milliers, dans le cas de Meta, de centaines, dans le cas de OpenAI, d’employés, de personnes employées officiellement, payées très cher, reconnues, etc., mais si on considère que ces entreprises-là, dans la réalité, sont des longues, très longues chaînes de sous-traitance globale, il faut vraiment s’imaginer quelque chose qui commence quelque part dans la Silicon Valley ou au Texas et qui se poursuit au Venezuela, à Madagascar, au Kenya, en Inde. Si on considère ces entreprises de cette manière-là, il faut considérer combien les travailleurs, pour ces entreprises, sont payés tout au long de la chaîne de production, donc on pourrait carrément poser une règle de base, comme on la pose dans certaines entreprises et dire « entre le salaire le plus élevé de cette entreprise et le moins élevé, il doit y avoir un coefficient fixe. Par exemple si quelqu’un est payé 200 000 euros par an, ce qui est un peu le salaire d’entrée dans la Silicon Valley pour un data scientist, on ne puisse pas se retrouver avec son collègue qui est au Kenya qui est payé tout au plus 3 000 euros, 4 000 euros par an.

Mick Levy : Je vais me faire l’avocat du diable deux secondes, Antonio. C’est le genre de discussion que j’ai eue toujours avec cette même personne et là il me répond « oui, mais c’est rapport au niveau de vie ! Tu comprends. Si tu habites dans la Silicon Valley, tu payes ton loyer 5 000 balles minimum, tandis que si tu es au Kenya ton loyer est de quelques centimes !, c’est de cet ordre-là. »

Cyrille Chaudoit : En fait, tu as parlé avec Sam Altman, c’est ça ?

Mick Levy : Ce n’était pas Sam Altman.

Antonio Casilli : Cette personne-là était conne parce que, franchement, soyons clairs, il y a un problème. Si on a eu une différence de niveau de vie et que, par exemple, vivre dans la Silicon Valley est un truc hors du monde parce que les prix de n’importe quoi sont vraiment exagérés, de la bouffe au logement, et, au contraire, si dans des pays du Sud on vit dans des conditions extrêmes, c’est encore la faute de ces mêmes entreprises et de ce même système, finalement, de redistribution capitaliste de la richesse.

Mick Levy : En fait, ça crée un cercle vicieux qui ne fait qu’amplifier les inégalités. Ce que tu dis est intéressant parce qu’on parle souvent des inégalités dans chacun des pays. Tu montres, par ce raisonnement, que les inégalités se creusent même au niveau mondial du coup.

Antonio Casilli : Oui, dans les deux cas. Il y a un niveau d’inégalités micro, c’est-à-dire au niveau d’une ville, au niveau des régions, au niveau d’un pays, on le voit, dans un pays comme la France, on est bien placé pour le savoir ! Mais, en même temps, les inégalités se creusent d’autant plus au niveau mondial et ça devient carrément paradoxal lorsqu’on considère que ces personnes-là, qui font du travail du clic dans leur pays d’origine, sont considérées un peu comme des personnes qui sont dans une position de privilège relatif. Et même à l’intérieur des travailleurs du clic, il y a des différences importantes entre ceux qui, par exemple, créent des groupes Facebook dans lesquels ils font un peu de crypto, donc revendent des services à leurs propres collègues, et ceux qui sont vraiment en bas de l’échelle. Au Venezuela, en particulier, on rencontre des cas extrêmes d’inégalités à l’intérieur de la force de travail des travailleurs du clic, parce qu’on retrouve, que sais-je, des enfants, des vieux hommes, des vieilles femmes qui font ce travail tard tard, la nuit ou le matin, etc., et qui sont payés quelques centimes, ce qui, dans un pays comme cela, constitue quand même quelque chose d’intéressant à la fin du mois. Après vous en avez certains, plutôt des mecs, la quarantaine, avec une formation d’ingénieur, qui se positionnent et qui deviennent des intermédiaires ou qui deviennent finalement des dispatchers, qui centralisent les meilleures tâches et les dispatchent aux autres.

Cyrille Chaudoit : Ils essaient de se greffer au système et d’en tirer parti à leur manière.
En tout cas, je retiens que de la même manière qu’on parle de l’analyse du cycle de vie d’un produit technique, en particulier pour pouvoir bien mesurer son impact environnemental, là il faut raisonner en analyse de cycle de production de ce type de technologie parce que, effectivement, des boîtes qui sont valorisées pour certaines 150 milliards de dollars, comme OpenAI, ou plus de 3 000, comme Nvidia, eh bien, finalement, payent quelques centimes d’euros des personnes à l’autre bout du monde qui, pour autant, sont considérées comme des sous-traitants mais qui devraient être considérées, d’une manière ou d’une autre, un peu plus comme des salariés un peu déguisés, on va dire, de cette entreprise. Il y a un écart, une élasticité, qui est beaucoup trop forte.

Antonio Casilli : Tu as mis sur le tapis la question de la sous-traitance, parlons effectivement des politiques pour expliquer aussi comment je travaille. Il y a plusieurs politiques possibles. J’y travaille aussi en tant que citoyen, parce que ça fait partie de mon métier d’accompagner les décideurs, les législateurs dans certains cas. Historiquement, je suis à l’Institut Polytechnique de Paris et, de temps à autre, je travaille dans le contexte du Conseil d’État en France et d’autres instances nationales ou internationales. Dernièrement, c’est surtout avec le Parlement européen qu’on a fait, avec mon groupe de recherche DiPLab, tout un travail de cartographie par exemple des travailleurs du clic et des données en Europe, mais aussi d’accompagnement de la mise en place, plutôt de l’adoption, de certaines directives européennes qui sont plus ou moins liées à la question de l’intelligence artificielle et qui sont plutôt au croisement entre intelligence artificielle et travail et en particulier deux. Ce n’est pas le AI Act.

Mick Levy : C’est ça. On n’est pas du tout dans ces questions-là. Pour le coup l’AI Act traite des usages. Tu nous disais que tu ne traites pas des usages, l’AI Act, c’est sur les usages. Quel est le règlement auquel tu fais référence ?

Antonio Casilli : Il y en a deux qui sont passés l’année passée, deux grandes victoires.
Le premier c’est la directive européenne sur les travailleurs des plateformes [7]. Même si, quand on pense aux travailleurs des plateformes, on pense aux chauffeurs Uber ou aux livreurs Deliveroo, en réalité, même les personnes qui font du travail du clic sont largement des travailleurs de plateformes, elles passent par des plateformes, même si elles font ça dans un cybercafé, elles doivent se connecter à une plateforme, le contrat qu’elles ont c’est souvent avec une plateforme et pas avec une personne ou une entreprise locale.

Cyrille Chaudoit : Y compris avant l’IA. On pense par exemple à Mechanical Turk de Amazon [8], ce genre de chose.

Antonio Casilli : C’est un exemple historique parce que Amazon Mechanical Turk a été créé en 2005, donc 20 ans avant l’époque dans laquelle nous sommes au moment de cette conversation. En même temps, c’est un paradigme de la façon dont cela se passe. Je suis une entreprise, je veux externaliser une tâche ou automatiser une tâche, je me rends sur Amazon Mechanical Turk, je trouve 100 000 personnes qui font ce travail d’entraîner la machine à faire cette tâche ou qui, parfois, simulent carrément la machine, c’est une longue histoire.

Mick Levy : Tu avais une deuxième directive.

Antonio Casilli : La deuxième directive, c’est celle sur le devoir de vigilance des entreprises [9], donc le fait que les entreprises qui ont une certaine taille, quelques centaines de personnes employées dans un pays ou quelques milliers au niveau mondial, soient obligées à produire chaque année un rapport, un plan de vigilance qui montre, par exemple, comment elles ont respecté non seulement certaines lois qui sont relatives au respect de l’environnement, mais aussi des droits humains, mais aussi des droits du travail. Or, la question est que les entreprises européennes et du Nord du monde sont en train de se soustraire systématiquement à ce devoir de vigilance parce qu’elles se disent « c’est tout au fond de la chaîne de production, je ne vois même pas que c’est comme ça » et moi je n’ai pas de doutes qu’elles ne voient pas. C’est d’ailleurs ça le problème.

Mick Levy : Ce sont des entreprises qui font écran avec ces systèmes de sous-traitance du coup.

Antonio Casilli : Exactement. Donc, la question est : est-ce que dans la transposition que les États membres de la Communauté européenne vont faire de cette directive, il y aura de la place, et c’est le combat qui commence aujourd’hui, pour dire que c’est effectivement vraiment toute la chaîne de production qu’il faut prendre en compte, donc, si on est un producteur d’intelligence artificielle, imaginons Mistral en France, ou même quelqu’un qui achète des solutions d’intelligence artificielle, toutes les entreprises du CAC 40, on soit obligé à bien payer et bien respecter les droits du travail des personnes qui se trouvent au Kenya ou aux Philippines.

Cyrille Chaudoit : Du coup, j’ai deux questions pour toi, deux questions qui me brûlent les lèvres.

Mick Levy : Commençons par la deuxième !

Cyrille Chaudoit : Je vais commencer par la première parce qu’effectivement la deuxième c’était la première que je voulais poser, mais, finalement, je vais poser la deuxième en premier. Tu vas comprendre.
Par rapport à ce rôle que joue l’Europe, par rapport à ce rôle que jouent plus globalement les directives, les réglementations, les lois, les normes, j’ai une question qui va porter plus sur nous, les usagers, aussi bien B to C que B to B, puisque tu parles les entreprises qui achètent ces solutions-là. Mais d’abord, je vais enchaîner sur cette notion de directives qui peuvent peut-être, finalement, depuis quelques semaines à peine, quelques mois, passer désormais sous les radars. J’ai lu il y a quelques semaines de cela à peine, depuis l’arrivée de Trump au pouvoir, qu’un certain nombre de politiques, notamment français, sont les premiers à aller demander à l’Europe stop, il faut arrêter au nom de la compétitivité sur tout un tas de directives portant sur la DEI Équité et Inclusion, portant sur la préservation de l’environnement et qui devaient enjoindre les entreprises à suivre ces sujets-là de façon sérieuse, qu’on a mis des temps des temps immémoriaux, incroyablement longs, à tricoter. Est-ce que tu crois encore aux directives pour lesquelles tu t’es battu et que tu as conseillées ? Est-ce que tu y crois sur les quatre ans à venir et plus encore ? Ou est-ce que tu as l’impression que tout cela va être un stop and go, voire un stop tout court ?

Antonio Casilli : Je pense qu’on a un problème, en France, et ce problème s’appelle Macron. Ce n’est pas l’homme politique auquel je pense, c’est la France qui est représentée par son élu le plus haut placé. L’administration actuelle française a vraiment joué contre, ramé contre tout ce travail collectif que l’Europe a fait et, quand je dis travail collectif, c’est aussi un travail sur une période relativement importante. C’est autour de 2020, déjà, que l’Europe a commencé à se doter de tout un paquet de règles et de nouvelles lois relatives à la régulation de l’intelligence artificielle. Et, dans ce contexte-là, la France a eu vraiment un rôle de saboteur : le retard, les coups tordus sont des choses qui sont largement documentées dans la presse.

Mick Levy : Pour quelles raisons ? C’est au nom de la compétitivité française ? Et pourquoi la France serait particulièrement à ce point-là par rapport à l’Allemagne, par exemple, ou l’Italie ?

Antonio Casilli : Laissons l’Italie tomber, c’est un pays qui a quelques problèmes, on va le dire comme ça, ça fait 25 ans que je l’ai quittée, il y a des raisons.

Mick Levy : Antonio, ton accent te trahit.

Antonio Casilli : C’est vrai. Ce petit accent du pays de Galles !
Le problème de la France, la posture de la politique industrielle française : lorsqu’on parle de technologies, celles qui furent, à une époque, les nouvelles technologies de l’information et de la communication et qui, désormais, sont transformées en intelligence artificielle, la France a deux préoccupations principales qu’on peut résumer par deux slogans. Le premier : il faut rattraper le retard vis-à-vis des Américains, donc si les Américains ont viré fascistes, il faut rattraper le retard et devenir fascistes comme les Américains !

Mick Levy : On veut les rattraper et on se dit qu’il faut appliquer les mêmes recettes. On pourrait les rattraper en se disant qu’on va faire autrement.

Antonio Casilli : Les mêmes recettes, dans le contexte américain, signifient désormais techno-autoritarisme, techno-totalitarisme, ce que fait Musk. Lorsqu’on enregistre, Elon Musk est encore considéré comme un être humain, il ne s’est pas encore dévoilé en tant qu’alien extraterrestre en enlevant son masque. On est en février 2025.

Mick Levy : Ça me rappelle des mauvaises séries.

Antonio Casilli : Surtout si on regarde ce que Trump, Altman, Zuckerberg et Musk ont fait au début de 2025, eh bien c’est clair, c’est vraiment déclaré, c’est fort. Il y a vraiment des gens qui font des saluts nazis.

Cyrille Chaudoit : Mais clairement, du coup, pour pouvoir faire comme les États-Unis et se battre en termes de compétitivité, l’idée c’est qu’on peut le faire en suivant le même modèle, et c’est plutôt ce qui semble arriver en ce moment ou poindre son nez, et on peut le faire différemment.

Antonio Casilli : Il faut le faire différemment, c’est toujours la question : si c’est nous qui faisons cela, alors c’est éthique, parce qu’on le fait à la française. J’ai souvent affaire à des personnes qui ont des discours complètement débiles du type « faire des drones assassins qui tuent les enfants, c’est mal, par contre, si c’est notre armée et qu’ils tuent les enfants des autres, alors c’est dans le cadre de la bonne guerre », comme on dit.
Il ne faut pas sous-estimer le fait, je l’ai dit au début, qu’il y a deux slogans : le premier c’est effectivement qu’il faut rattraper le retard par rapport aux Américains et l’autre c’est : « si ce n’est pas nous, les Chinois vont le faire. » Vous voyez, la France se représente toujours comme prise en sandwich entre deux superpuissances, ce qui était historiquement son rôle à l’époque de la guerre froide et ell a tout simplement remplacé les Russes par les Chinois. Par contre, je trouve vraiment malsaine l’attitude qui consiste à dire « on va être très branché surveillance », surveillance de notre propre population, d’abord, et après les autres, colonialisme technologique, c’est-à-dire qu’on va vendre des armes et des technologies d’intelligence artificielle dans tous les pays du Sud du monde, parce que, grosso modo, il faut faire comme font les Chinois. C’est complètement débile !

Cyrille Chaudoit : Pas de troisième voie à l’indienne.

Antonio Casilli : Malheureusement, la troisième voie, on la voit. La troisième voie c’est la France qui est en train de saboter cet effort collectif représenté par l’Europe. Et après, soyons clairs, je ne suis pas en train d’angéliser, d’ireniser la vision de l’Europe. L’Europe est un enfer de bureaucrates et de lobbyistes, mais, en même temps, c’est aussi un ensemble d’institutions qui est redevable, d’un certain point de vue, à 350 millions de personnes, je ne sais plus combien on est. Elle doit effectivement répondre aussi aux citoyens. Donc, de ce point de vue-là, on ne peut pas faire chevalier seul dans ce contexte.

Cyrille Chaudoit : Justement, avec cette mention du citoyen, on arrive à ma deuxième question. Si je veux, moi-même, ne pas être hypocrite, j’utilise l’intelligence artificielle, générative entre autres, ça m’arrive, oui, et puis j’utilise probablement de l’IA sans même le savoir, avec tous les devices que j’utilise, etc., et je suis des millions de personnes, en l’occurrence des Français, des Européens tout ça. En plus, j’ai une entreprise, donc je suis tenté d’utiliser ces intelligences artificielles pour tout un tas de bonnes choses, notamment les fameux gains de productivité, mais on n’a pas le temps de débattre de ce sujet-là. Du coup, tout ce que l’on se dit depuis tout à l’heure, c’est un brin culpabilisant. De fait, comment fait-on, quelles sont les solutions pour non pas se déculpabiliser ou laver son amour-propre ou son orgueil, mais comment fait-on pour utiliser néanmoins les bienfaits de ces outils sans pour autant contribuer, malgré soi, malgré ses convictions, à tout ce que l’on vient de décrire en matière d’extractivisme, que ce soit le travail, que ce soit les minerais ?

Antonio Casilli : Disons que ton dilemme moral est celui qui traverse la plupart des personnes qui nous écoutent parce que, effectivement, on est confronté à une question de responsabilité individuelle.
Soyons un peu provocs, je pense que la responsabilisation des individus face à ces problèmes qui sont des problèmes systémiques, qui sont finalement des problèmes globaux, est un piège dans lequel on nous fait tomber, on nous pousse systématiquement en disant « on a créé cet énorme bordel, cet énorme système d’exploitation, mais toi, dans ton coin, tu dois être responsable, tu dois tout simplement refuser d’utiliser. » En même temps, tu t’occupes du monde et tu perds tout un tas d’occasions.

Mick Levy : Tu dis, finalement, que la responsabilité doit porter sur les entreprises et sur les gouvernements pour prendre les bonnes directives pour les entreprises.

Antonio Casilli : Je dis deux choses : il ne faut pas se tromper de combat. Le combat est effectivement au niveau macro et pas au niveau individuel. Par contre, je dis aussi qu’il y a une légitimité des stratégies individuelles à considérer comme un complément, comme le miroir des politiques et des réformes qui doivent se faire au niveau structurel. Il faut aborder le problème qu’est aujourd’hui l’intelligence artificielle du point de vue social, du point de vue économique, du point de vue humain, pourquoi pas, des deux côtés, du côté macro et du côté micro. Au niveau macro, il y a effectivement des réformes importantes à faire et on y travaille. Au niveau micro, il y a effectivement des alternatives qui sont moins demandeuses en termes de données par exemple, donc, par conséquent, qui sont moins demandeuses en termes de travail.
Après, il y a aussi des questions qui ont affaire avec certains réflexes qu’on a dans le Nord du monde en particulier et, si vous voulez, le problème principal que j’ai c’est avec la gratuité, la logique de la gratuité, la double gratuité. C’est-à-dire, d’une part, qu’on s’imagine que parce que nous ne payons pas, le prix est zéro. Non, le coût et le prix n’est pas zéro.
La deuxième chose, je parlais d’une double gratuité, c’est le fait qu’on considère que tout un effort, toute une quantité énorme de contributions qu’on donne à ces systèmes lorsqu’on les utilise, par le fait même de les utiliser, ne mérite pas lui-même une forme de rémunération. Et là, on rentre dans un débat beaucoup plus vaste qui, par ailleurs, pourrit ma vie depuis, je pense, au moins 15 ans, la question de ce qu’on appelle le digital labor ou le travail gratuit qui consiste, grosso modo, à dire chaque fois que j’utilise ChatGPT, OK, j’en obtiens un avantage de compétitivité si je suis une entreprise, en même temps je suis pratiquement obligé de réapprendre à cette satanée machine à se comporter selon mes propres attentes, d’où, par exemple, le fait que dans l’interface même de ChatGPT, on ait mis un « pouce levé, pouce baissé » pour indiquer qu’il faut donner ce qu’on appelle du renforcement, du reinforcement learning dont on parlait tout à l’heure.

Cyrille Chaudoit : Nous sommes des travailleurs du clic au quotidien quand on les utilise.

Mick Levy : Nous sommes un peu tous des travailleurs du clic. On peut penser aussi aux captchas : quand tu vas sur un site web, on te demande de reconnaître où sont les passages piétons sur des photos qui deviennent de plus en plus floues au fur et à mesure que les intelligences apprennent, tout ça pour prouver à un robot que soi-même on n’est pas un robot, un truc de malade !

Cyrille Chaudoit : On peut appeler ça clairement par son nom : c’est du gros foutage de gueule. Merci Messieurs.

Mick Levy : Ça me rappelle une phrase de Louis de Diesbach, d’ailleurs coucou Louis, « si c’est gratuit c’est que quelqu’un en paye le prix », finalement.
Antonio un grand merci. Cette petite heure est passée beaucoup trop vite. On a encore une tonne de questions, je te propose de revenir peut-être dans 15 ans puisque cela fait déjà 15 ans que tu as du recul sur ces questions-là. On refait le point dans 15 ans, j’aurai encore plus de cheveux gris.

Cyrille Chaudoit : Antonio, de toute façon, a déjà annoncé la couleur, il a mis une espèce de petite pierre blanche dans l’émission pour ceux qui nous écouteront en 2030, 2040, 2045, quand Musk et ses copains seront effectivement partis sur Mars.

Mick Levy : Pas sûr qu’ils y arrivent !

Antonio Casilli : Le scénario, pour moi, c’est qu’à un certain moment, lors d’un discours public, il enlève son masque comme dans la série Visitors.

Cyrille Chaudoit : Oui, c’est ça, c’est un lézard en fait.

Antonio Casilli : Et là on tombe dans le complotisme à fond.

Cyrille Chaudoit : Si peu.

Mick Levy : Je vous propose qu’on reste sur cette belle perspective. Un grand merci Antonio pour cette heure passée avec nous et pour les enseignements que tu as partagés. C’était hyper-intéressant, merci beaucoup.

Cyrille Chaudoit : Merci Antonio.

Mick Levy : Et pour vous qui nous écoutez, restez bien avec nous, c’est l’heure du debrief.

Voix off : Trench Tech – Esprits critiques pour Tech Éthique.

Le Debrief

Mick Levy : On avait promis un épisode qui allait secouer, je n’ai pas été déçu.

Cyrille Chaudoit : Peut-être juste sur un point, c’est-à-dire que les mines étaient quand même un tout petit peu moins en dessous de la terre qu’à ciel ouvert, vue la métaphore, il fallait rester à ciel ouvert.

Mick Levy : Le point assez incroyable, j’avais lu que c’était effectivement des dizaines, des centaines de milliers de personnes, peut-être même des millions de personnes, qui sont des click workers, qui nourrissent la bête, dont le métier c’est de nourrir la bête, c’est-à-dire pas comme nous qui fournissons juste des données sans vraiment le savoir et sans vraiment le vouloir. Là c’est autre chose : ils donnent de leur travail pour nourrir l’IA.

Cyrille Chaudoit : C’est gigantesque. C’est leur boulot, très mal payé on le savait, on l’a déjà dit, je me souviens notamment d’un « Patch Tech » de Fabienne Billat sur le thème des click workers. C’est vrai qu’on sait que ces click workers vont labelliser des fichiers, des données, pour dire « ça c’est ceci, ça c’est cela, etc. ». Dns le principe de la modération, on sait aussi qu’ils sont exposés à des horreurs, on l’a rappelé deux fois dans cet épisode. J’ai bien aimé la phrase d’Antonio qui dit « oui, on a besoin de ces gens-là pour apprendre, ce qu’on oublie peut-être un petit peu ou ce que l’on ne sait pas, c’est aussi pour désapprendre à l’IA, pour éviter qu’elle nous insulte, pour éviter qu’elle nous donne la recette de la bombe agricole, pour éviter qu’elle nous montre des horreurs. » On l’a un petit peu oublié.

Mick Levy : D’ailleurs, il y avait une expérience de Microsoft, je crois que c’était en 2016, avec un chatbot qui s’appelait Tay [10], qu’ils avaient mis sur Twitter et qui était auto-apprenant, donc sans aucune modération. Il apprenait uniquement du dialogue et il était devenu complètement raciste en très peu de temps, je crois qu’ils avaient dû le couper au bout de deux heures parce que c’était devenu du grand n’importe quoi, du négationnisme, etc.

Cyrille Chaudoit : Une fois de plus, ça vient accréditer le fait que ça n’est que le reflet de ce que l’on fait, ce que l’on est, ce que l’on dit.

Mick Levy : Il a rappelé les conditions de travail effectivement abominables de ces click workers, psychologiquement ça conduit à une forme d’isolement psychologique qui est très dangereuse et puis un chiffre qui fait mal : 1,5 dollar de l’heure.

Cyrille Chaudoit : À peu près deux euros de l’heure.

Mick Levy : OpenAI annonce un chiffre qui est juste hyper-bas, l’assume et, en plus, c’est encore plus bas que ça. C’est incroyable quant à l’éthique, finalement, de ces entreprises.

Greg : Le plus grave c’est leur salaire ou les séquelles psychologiques qu’ils endurent ?

Cyrille Chaudoit : Salut Greg, tu étais là. Greg, le monteur, était parmi nous.
C’est une excellente question et justement, ce qui m’a marqué dans cet épisode, c’est que j’ai pris conscience d’un truc qui parait pourtant évident : ce cycle de production de l’IA et de l’information qui nous est donnée, un peu comme le cycle de vie, je le rappelle, d’un produit technique, dont on avait parlé notamment avec l’Adème de l’environnement et de la maîtrise de l’énergie qui calcule l’empreinte écologique au regard du cycle de vie, eh bien ce cycle de production a des impacts sociaux sur les salaires, on vient d’en parler, et un impact psychologique extrêmement fort avec des gens qui sont en souffrance psychologique. Et nous, finalement, quand nous utilisons ces outils, c’est très loin de notre esprit. Peut-être que d’y penser de temps en temps, se dire, la prochaine fois qu’on va prompter, qu’il y a des gens qui ont été derrière pour entraîner et également que ça pollue, on le dit à tous les épisodes.

Mick Levy : En même temps, il a dit qu’il faut arrêter avec cette responsabilisation des individus, j’ai beaucoup aimé sa phrase, il a dit « c’est un piège ». Je suis persuadé qu’il faille le faire en conscience ; quand on utilise de l’IA que ce soit en conscience. Je crois que c’est toi qui as fait le parallèle avec l’industrie textile, c’est exactement pareil, chaque fois que j’achète la moindre fringue, d’ailleurs je fais tout maintenant pour en acheter d’occasion, je m’imagine que ça peut être des enfants qui ont travaillé dessus dans des conditions terribles. On a tous vu les images des usines qui ont brûlé au Bangladesh ou des choses comme ça.

Cyrille Chaudoit : Donc tu fais quoi ? Tu achètes quand même la fringue ou tu vas vers des marques que tu sais plus responsables ?

Mick Levy : Exactement. Je fais de mon mieux pour acheter soit d’occasion soit pour aller vers des marques responsables. J’espère que ça va aussi ressortir sur la tech.

Cyrille Chaudoit : Ce sont notamment les logiciels open source pour certains de nos usages, pas tous. Je ne connais pas encore d’IA d’occase que l’on puisse trouver sur Vinted, mais il faut voir, on pourrait peut-être y penser.

Mick Levy : En tout cas, il donne aussi des solutions et les solutions, finalement, sont à la fois de responsabilisation des entreprises. Ces entreprises ne se responsabiliseront pas toutes seules, donc, il faut agir avec la loi.

Cyrille Chaudoit : La responsabilité des politiques. Là-dessus, il a quand même mis un énorme taquet à la France, je cite « qui aurait saboté les bonnes volontés longuement tricotées par l’Europe », la France en a pris là pour son grade.

Mick Levy : Là-dessus, je trouve qu’il y a un énorme débat dans la communauté tech entre l’envie de rattraper le retard d’un point de vue technologique et de la compétitivité nationale et européenne et de trouver la bonne voie pour le faire sans trahir les valeurs européennes.

Cyrille Chaudoit : C’est tout l’enjeu. Évidemment qu’on a envie d’être compétitifs, d’abord parce qu’on est dans un système où, économiquement, il faut quand même trouver sinon prendre sa place et, d’un autre côté, on ne peut pas systématiquement se retrancher derrière cette compétitivité pour laver tous nos soupçons de mal faire et faire comme les États-Unis ou, comme nous l’a rappelé Antonio, ne pas laisser la place aux Chinois. Ce n’est pas une raison suffisante pour ne pas prendre en considération tous les problèmes qu’on a évoqués dans cet épisode.

Mick Levy : Il faut trouver, on le disait, la troisième voie, mais, pour l’instant, elle n’est pas facile à trouver.

Cyrille Chaudoit : On dit ça, mais je n’ai pas forcément la troisième voie non plus.

Greg : C’est moi !

Mick Levy : C’est Greg, le monteur, la troisième voie.

Voix off : Trench Tech

Mick Levy : Et voilà, plus ou moins 60 minutes viennent de s’écouler et, normalement, votre regard sur cette face sombre de l’intelligence artificielle n’est maintenant plus tout à fait le même qu’au début de l’épisode. On espère que ça vous a plu et si c’est effectivement le cas, Trench Tech est 100 % bénévole, 100 % indépendant, a besoin de vous pour nous soutenir. Laissez-nous un avis sur Apple Podcasts, mettez cinq étoiles sur Spotify, levez un pouce sur YouTube ou un commentaire, parlez-en autour de vous, mais aidez-nous à propager l’esprit critique pour une tech éthique, car, comme le dit Antoine de Saint-Exupéry dans Pilote de guerre : « La grandeur de ma civilisation, c’est que cent mineurs s’y doivent de risquer leur vie pour le sauvetage d’un seul mineur enseveli. Ils sauvent l’Homme. »

Voix off : Trench Tech – Esprits critiques pour Tech Éthique.