Description

L’auteur de En attendant les robots fait apparaître la réalité du digital labor, l’exploitation des petites mains de l’intelligence artificielle.

Transcription

Voix off : Il est 9 heures 40 sur France Inter¯et L’instant M est de retour dans vos oreilles. Vous êtes en direct, allez-y
Sonia Devillers : Enquête et réflexion passionnante que celles du chercheur Antonio Casilli. Les plateformes du nouveau monde que sont par exemple Amazon, Facebook, YouTube ou Twitter nous feraient à dessein miroiter des algorithmes surpuissants, capables bientôt, on en a peur, de gouverner les envies et les opinions de sept milliards d’êtres humains. Mirage ! C’est sans compter une armée invisible d’hommes et de femmes qui travaillent de leurs doigts, oui de leurs doigts, à cliquer toute la journée. Des volontaires bienheureux de poster, de « liker » ou de partager, mais aussi des prolétaires sous-payés pour faire et défaire tout ce qui circule sur le Web. Les robots n’auront pas tôt fait de remplacer le travail des hommes. En revanche, et c’est une question sociale et politique brûlante, ils le transforment ce travail. À la manœuvre les grandes plateformes d’Internet qui mentent sur leur modèle économique pour mieux masquer ce qui les enrichit en réalité.
Voix off : L’instant M, Sonia Devillers sur France Inter.
Sonia Devillers : Bonjour Antonio Casilli.
Antonio Casilli : Bonjour.
Sonia Devillers : Vous êtes sociologue, vous êtes professeur à l’école Télécom Paris Tech. En attendant les robots c’est le titre de votre ouvrage, sous-titre Enquête sur le travail du clic. Il vient de paraître aux Éditions du Seuil, c’est un travail universitaire, c’est très dense, c’est très précis, mais ça se lit parce que c’est passionnant, donc je le dis. En plus, vous avez fait tout un travail introductif qui résume tous les arches, les axes et les sous-divisions de votre partie pour guider le lecteur dans votre publication.

Un mot sur l’information des médias et sur l’actualité des médias, pardon, et on y vient évidemment.
Une disparition pour démarrer cette émission, celle de Xavier Gouyou-Beauchamps. Il fut l’ancien patron de France Télévisions en 1996. Il avait commencé par servir l’État auprès de deux ministres, Edgar Faure d’abord puis Valéry Giscard d’Estaing, avant de devenir chef du service de presse à l’Élysée au mi-temps des années 1970. Il travailla à la privatisation de TF1 aux côtés de François Léotard. À la tête de France Télévisions il fut à l’origine de nombreux nouveaux programmes ; Des racines et des ailes, notamment, ce fut sous sa gouvernance. Il inaugura, entre autres, l’immense bâtiment qui réunit maintenant tous les salariés de la télévision publique. Auparavant ils étaient éparpillés en région parisienne ; ils sont aujourd’hui dans le 15e arrondissement.
Non ! La presse ne doit pas être un bouc émissaire. 34 sociétés de journalistes font entendre leurs voix dans une tribune après un nouveau week-end de violences contre des reporters – on vous en a beaucoup parlé ici dans L’instant M –, des sièges de journaux et des livreurs de journaux. La publication d’un texte commun qui précise ceci, je cite : « Dans un climat de défiance vis-à-vis des médias, la critique est nécessaire. La presse n’est pas exempte de reproches et les journalistes, sur le terrain, sont les premiers à s’interroger au quotidien sur la manière la plus juste et la plus honnête de couvrir l’actualité. » Bref, ça ne sert à rien de leur péter la gueule !
Voix off : L’instant M, c’est aussi en vidéo sur franceinter.fr
Sonia Devillers : L’invité du jour s’appelle Antonio Casilli, il est sociologue et chercheur. Antonio Casilli, le grand remplacement technologique n’aura pas lieu. En gros c’est ce que vous nous dites : les machines, les robots, l’intelligence artificielle, les algorithmes, appelons-les comme on veut finalement, ont besoin du travail des hommes. C’est ce qu’on apprend en vous lisant. Ils ont besoin du travail des hommes pourquoi ? Pour collecter des données, pour nourrir la machine, pour lui faire apprendre à reconnaître et à savoir quoi en faire de ces données. Bref, pour entraîner la machine.
Antonio Casilli : Oui, en effet. Évidemment si on dit comme ça « le grand remplacement ne va pas avoir lieu », disons qu’on donne presque l’impression que mon livre est iréniste, qu’il cherche à véhiculer un message de paix, amour et sérénité. Au contraire !
Sonia Devillers : Au contraire.
Antonio Casilli : J’insiste beaucoup sur le fait que même si les robots ne vont pas remplacer les êtres humains au travail et le travail ne va pas disparaître, ceci n’est pas une bonne nouvelle parce que l’intelligence artificielle, quoique largement fantasmée en tant que technologie, a des effets très concrets sur le travail et surtout sur l’emploi.
Sonia Devillers : Il faut expliquer ce que c’est que la digitalisation du travail. Et dans digital, on l’oublie souvent, il y a le mot « doigt ». « Seuls 9 % des emplois sont menacés de disparition – écrivez-vous – par l’automatisation. 50 %, en revanche, sont directement concernés par sa transformation. » Donc le problème ça n’est pas la disparition du travail, mais sa digitalisation, c’est-à-dire le travail de la main remplacé par celui du doigt ; le doigt qui clique, qui clique sur l’écran ou qui clique sur la souris, ça c’est une métamorphose.
Antonio Casilli : C’est une métamorphose surtout parce qu’on nous a habitués à concevoir la transformation du travail sous l’angle du numérique. Même si on veut faire un peu d’étymologie de base, en latin numerus renvoie évidemment à l’esprit qui calcule, donc évidemment à des technologies faites par des scientifiques, des algorithmiciens, des mathématiciens.

Au contraire les technologies sont régies par des armées, des armées de l’ombre ou des armées invisibles ou invisibilisées de personnes qui finalement font du digital, j’insiste encore une fois.
Sonia Devillers : Du doigt.
Antonio Casilli : Parce que digitus, en latin, c’est effectivement le doigt qui clique. Et c’est important pour pouvoir générer des données, pour pouvoir créer des données, pour pouvoir aussi faire tout ce qu’on fait chaque jour sur nos applications mobiles, sur nos écrans.
Sonia Devillers : Est-ce que vous reconnaissez cette musique ? Vous reconnaissez ?
Antonio Casilli : C’est le film de Walt Disney ?
[Musique du film Les Temps modernes.]
Sonia Devillers : Non, non ! C’est Charlie Chaplin. C’est Les Temps modernes. On l’écoute.

C’est le symbole au cinéma de ce qu’on a appelé la taylorisation c’est-à-dire la fragmentation du travail avec la révolution industrielle au 19e siècle.

Vous, vous expliquez que le travail de la digitalisation est différent. Néanmoins on fragmente les tâches. On les fragmente jusqu’à ce qu’elles deviennent minuscules parce que le clic c’est une tâche minuscule, c’est une tâche tellement fractionnée que c’est une tâche de tâcheron, finalement.
Antonio Casilli : Oui. En effet, la logique de la taylorisation, finalement de l’homogénéisation, de la fragmentation de l’activité humaine poussée à l’extrême. Parce que si les usines de l’époque de Chaplin pouvaient ressembler effectivement à des chaînes dans lesquelles on montait, on vissait, on faisait, on produisait des produits concrets, matériels, là, aujourd’hui, on a surtout besoin de produire des services, donc de passer par des activités qui sont encore plus fragmentées et encore plus homogénéisées. Parce que justement c’est ça l’idée de la remplaçabilité non par des robots, mais des êtres humains par d’autres humains qui sont moins payés, qui sont moins bien encadrés d’un point de vue formel, eh bien effectivement, il faut faire en sorte que n’importe qui puisse réaliser ces tâches.
Sonia Devillers : Alors vraiment n’importe qui ! On va en parler. On va commencer, Antonio Casilli, parce que c’est extrêmement troublant, ça nous concerne presque tous, par le travail heureux et volontaire que nous tous nous fournissons bénévolement, gratuitement, pour les plateformes que sont Twitter, YouTube et Facebook, nous les utilisateurs. « Nous travaillons — c’est ce que vous dites —, nous travaillons pour ces plateformes, nous travaillons sans nous en rendre compte. »

On va commencer par ces opportunités incroyables que nous offrent ces réseaux sociaux par exemple : se faire entendre, se faire connaître, entrer en contact. En ce moment les gilets jaunes, pour ne parler que d’eux, s’en saisissent avec joie : ils postent des photos, des vidéos, des textes ; ils sont contents de pouvoir répondre, de « liker », de partager, de créer des forums, des chats groups et des groupes. On en écoute un par exemple.
Voix off de Maxime Nicolle, gilet jaune : Salut à tous. Je ne ferai un live pas très long, je vais essayer de répondre à quelques questions juste pour vous expliquer comment ça va se passer après, un peu. On est en train de faire remonter tout ce qui peut se passer, toutes les réactions des gens par rapport à ce qui s’est passé ce week-end et par rapport à la lettre d’Emmanuel Macron de tout à l’heure.
Sonia Devillers : Voilà. On le sent bien, c’est une opportunité formidable, et voilà Maxime Nicolle, un des leaders des gilets jaunes, qui dit à quel point il est heureux de pouvoir participer à tout ce travail du doigt, du clic.
Antonio Casilli : N’importe quelle technologie, comme on le sait depuis longtemps, fait deux choses : d’une part c’est aider la circulation d’informations, les Anglais disent informate. Et l’autre, par contre, c’est aussi aider l’automatisation de certains processus métiers, automate on dirait en anglais. Du coup des technologies comme des plateformes sociales à la Facebook mais n’importe quelle autre plateforme sociale, YouTube, Instagram et ainsi de suite, d’une part cherchent à provoquer cette circulation de l’information et les usagers peuvent aussi en profiter. Les usagers peuvent en profiter de mille manières : d’une part pour s’enrichir du point de vue de leurs connaissances ou de leur sociabilité, mais aussi s’enrichir d’un point de vue matériel parce que certains sont bien capables de monétiser ce qu’ils font sur ces plateformes. Pensez aux influenceurs ou aux influenceuses d’Instagram, pensez aux vidéastes de YouTube.
Sonia Devillers : Ils sont rétribués.
Antonio Casilli : Ils arrivent à trouver des manières de…
Sonia Devillers : Certains sont rétribués. Pourquoi ? Parce que derrière ça peut rapporter énormément, énormément d’argent à YouTube et consorts. C’est extrêmement intéressant. Faut-il, par exemple, rétribuer tous les contributeurs bénévoles de Wikipédia alors que Wikipédia est une fondation à but non lucratif. Sauf que Wikipédia est associée à Google et à Facebook qui eux se font beaucoup d’argent avec le contenu de Wikipédia.
Antonio Casilli : J’insiste beaucoup sur le fait que Wikipédia est un cas un peu difficile à juger de ce point de vue-là.
Sonia Devillers : Oui, mais ça pose justement une bonne question.
Antonio Casilli : Wikipédia reste une encyclopédie libre et reste surtout une fondation no profit derrière. Après, la question est que Google s’approprie ou plutôt est capable de récupérer agressivement les données produites par les wikipédiens et de s’en servir typiquement pour nous donner des résultats de son moteur de recherche. Parce que quand vous cherchez n’importe quoi sur le moteur de recherche de Google, depuis quelques années, la première chose qui s’affiche c’est une petite fiche.
Sonia Devillers : Et Google n’est pas une entreprise à but non lucratif !
Antonio Casilli : Non. Voilà. Et c’est certainement ça le problème.
Sonia Devillers : Par ailleurs, vous parlez des data brokers, ces entreprises qui croisent des infos à partir des médias, à partir des agences de pub, des administrations publiques, des internets ; des infos sur notre santé, nos opinions publiques, nos orientations sexuelles, nos croyances religieuses, nos croyances politiques. Vous dites : « Facebook contribue au traçage des habitudes de 500 millions d’internautes ».
Antonio Casilli : Facebook n’est que l’un des problèmes qu’on peut avoir quand on parle de cette économie des données.

Les data brokers, donc ces intermédiaires, ces courtiers en données, sont des entreprises dont on commence à peine à deviner l’existence : il y a eu deux-trois rapports de différents gouvernements qui ont cherché à pointer du doigt la responsabilité, par exemple, de certains data brokers dans des scandales comme celui de Cambridge Analytica, parce que ces structures mettent en place des modèles d’affaires qui provoquent des incitations à avoir des pratiques abusives comme celle de collecter les données de millions de personnes, comme dans le cas de Cambridge Analytica encore une fois, pour les cibler avec de la communication politique biaisée.
Sonia Devillers : Politique ! De la propagande, absolument !
Antonio Casilli : Ce n’est pas seulement en politique qu’elles peuvent avoir un impact. Les habitudes de consommation et, en général, même d’accès à l’information, sont influencées par ces data brokers lesquels cherchent, grosso modo, à dresser, à créer des profils de chacun d’entre nous et, ainsi faisant, nous cantonner dans certaines visions qu’ils peuvent avoir de ce que nous allons faire.
Sonia Devillers : Bref ! Ce que je comprends c’est qu’on est tous des travailleurs bénévoles, on travaille tous gratuitement en postant, « likant », partageant, discutant sur les réseaux sociaux, etc. Mais que notre travail a beau être gratuit, il a beau être bénévole, il produit de la valeur et d’autres savent parfaitement capter cette valeur.

Ce que vous expliquez très bien c’est qu’il y a une forme de continuum, de continuité entre ce travail libre et bienheureux de gens qui ont le temps et les ressources, essentiellement dans les pays du Nord, et puis il y a aussi un travail qui n’est pas un travail libre, heureux et voulu : un travail externalisé, délocalisé, sous-payé dans l’hémisphère sud. Je vous fais écouter un extrait du JT de France 2 qui s’est rendu à New-Delhi. Un journaliste se faisait passer pour un entrepreneur qui lance un resto à Paris.
Journaliste de France 2 : En enfilade 150 ordinateurs et autant d’employés chargés de cliquer à longueur de journée sur les pages de leurs clients. C’est ce que l’on appelle une usine à clics. Ils utilisent des faux profils créés spécialement et c’est ce qu’ils proposent de faire pour nous.
Traducteur de l’interlocuteur de l’usine à clics : Nous allons créer des profils avec des noms français, de personnes françaises, et ensuite nous allons utiliser ces profils pour faire des commentaires sur votre page, pour que ça semble plus vrai.
Sonia Devillers : Voilà ! Les commanditaires, dites-vous, sont majoritairement aux États-Unis, au Canada, en Australie, en France, en Angleterre ou ailleurs en Grande-Bretagne ; les exécutants aux Philippines, au Pakistan, en Inde, en Indonésie, au Bangladesh, en Roumanie. Bref ! Même une start-up étudiante ! Là on ne parle plus de plateforme gigantesque, de plateforme monde, mais même une start-up étudiante peut délocaliser ses micros tâches, même pour quelques heures, dans les pays du Sud.

Il faut que vous nous expliquiez ce que sont les fermes à clics et les moulins à contenus.
Antonio Casilli : Les fermes à clics sont, comme le nom l’indique, des usines à viralité. C’est la première chose qu’elles font : elles provoquent de la fausse viralité, des faux visionnages sur YouTube, des faux « like » sur Facebook. Elles ressemblent à quoi ? Souvent elles ont pignon sur rue, c’est-à-dire qu’elles ont vraiment une structure physique. En Chine, par exemple, ce sont des anciennes usines désaffectées et recyclées, transformées. Imaginez-vous une salle énorme avec des centaines de postes, de PC, et des personnes qui, à longueur de journée, cliquent sur des images ou sur des contenus ou, même parfois, écrivent ces contenus.
Sonia Devillers : Et pourquoi elles écrivent ? C’est très intéressant parce que vous dites : « Elles sont rémunérées quand elles ont à écrire des contenus, entre 0,1 centime de dollar et 3 dollars le mot ». Pourquoi ? Ces mots ne sont pas destinés à être lus par des humains, ils sont destinés être reconnus par des robots pour faire monter le référencement de pages de manière totalement artificielle.
Antonio Casilli : C’est exactement ça et c’est aussi une manière de dire que quand on dit, par exemple, que Facebook ou YouTube c’est du travail gratuit, là, dans ce livre, je fais vraiment un effort supplémentaire pour montrer que ce n’est pas gratuit pour tout le monde et surtout qu’il n’y a pas que du plaisir, du partage pour tout le monde.

Nous vivons dans des pays où nous avons un revenu, souvent, qui nous permet de nous adonner à des loisirs ou au moins de percevoir ces activités de contribution comme du loisir, alors que d’autres personnes en font, effectivement, leur gagne-pain, leur revenu primaire. Il s’agit souvent de pays comme justement Les Philippines mais aussi, il ne faut pas l’oublier, pour la France c’est surtout l’Afrique, c’est Madagascar, c’est la Côte-d’Ivoire, c’est la Tunisie, des pays dans lesquels le revenu ou le salaire moyen est moins important qu’en France. Dans un pays comme Madagascar, par exemple, vous avez un salaire moyen mensuel de 40 euros, l’équivalent de 40 euros, et effectivement, si vous arrivez à gagner 20-30 euros par mois en faisant du clic, vous avez quelque chose qui est un bon complément de salaire voire, dans certains cas, un bon remplacement de votre salaire.
Sonia Devillers : Il faut parler aussi des modérateurs, parce qu’il y a ceux qui cliquent pour fabriquer de la donnée et pour faire advenir quelque chose, il y a aussi ceux qui sont payés pour supprimer ce qui circule sur Internet, quelques centimes le clic de suppression, avec parfois des conséquences désastreuses sur leur santé mentale. Il faut bien imaginer que nous nous délestons, écrivez-vous, de nos déchets technologiques : ces gens-là sont confrontés aux vidéos et aux photos d’une violence et d’une pornographie qu’on n’imagine pas et surtout, on n’imagine pas ce que c’est que d’y être soumis toute la journée.
Antonio Casilli : Oui. Et ça c’est un bel exemple d’à quel point cette économie des plateformes nous met face à une espèce de guerre entre prolétaires du clic. D’une part, des prolétaires qui provoquent ou qui créent des contenus qui ont une vocation virale et qui, donc, doivent être un peu choquants parfois – des fake news ou justement des images violentes – et, de l’autre côté par contre, des personnes qui sont micro payées, voire très faiblement payées pour regarder, pour modérer, pour filtrer ces images.

Deux choses à propos de cette modération sont importantes à souligner : la première est que ces modérateurs sont eux-mêmes en train d’entraîner des algorithmes de filtrage qui, par la suite, vont apprendre, justement, à départager les images qui ne sont pas appropriées par rapport à d’autres images qui peuvent, par contre, circuler. La deuxième question est que les modérateurs sont un bel exemple de la continuité entre notre travail à nous, d’usagers lambda, et le travail de personnes qui sont payées, parce que d’un certain point de vue, nous aussi, à chaque fois que nous bloquons quelqu’un sur Twitter, à chaque fois que nous signalons…
Sonia Devillers : On travaille à modérer le web, sauf que nous on travaille bénévolement, gratuitement, spontanément.
Antonio Casilli : Nous lançons une alerte et, par la suite, quelqu’un va s’occuper de modérer un contenu qui a été signalé. Donc il y a vraiment une continuité, une véritable chaîne de montage ou de démontage de certains contenus.
Sonia Devillers : Un tout dernier mot pour se résumer, Antonio Casilli. Les plateformes qu’on vient de citer, Google, Facebook, Twitter, etc., n’aiment pas parler du tout de ce rôle de l’homme ; elles font tout pour le masquer, surtout pour en masquer la pénibilité.
Antonio Casilli : Elles aiment mettre en évidence d’une part, évidemment, leurs prouesses technologiques. Donc elles parlent plutôt, évidemment, de leurs algorithmes, de leurs drones et ainsi de suite. De l’autre côté, elles insistent beaucoup sur le fait qu’il n’y a que du plaisir, il n’y a que de la bienveillance, il n’y a que de la participation d’intelligence collective. Elles estompent systématiquement tout élément de pénibilité que par contre d’autres personnes — de plus en plus de sociologues, psychologues — s’efforcent désormais de montrer que pour pas mal de personnes Facebook peut être aussi une lourde responsabilité à porter.
Sonia Devillers : Merci beaucoup Antonio Casilli. En attendant les robots vient de paraître au Seuil. On vous le recommande chaudement.