Chronique « On refait la tech » de Gérald Holubowicz. « Automatiser l’info »

Mick Levy : Restons déter. On connaît quelqu’un qui est bien déter, c’est Gérald Holubowicz qui va nous parler avec une nouvelle chronique « On refait la tech ».
Les IA génératives, avec ChatGPT [7] en tête de gondole, continuent de défrayer la chronique. La presse semble frappée de plein fouet et pourrait connaître une véritable révolution. Gérald, est-ce qu’on peut envisager que les journaux de demain seraient entièrement écrits par des IA ?

Gérald Holubowicz : Difficile, pour un journaliste, d’imaginer être remplacé par une IA. L’idée qu’un simple chatbot puisse écrire un article comme un pro de l’info sonnait encore, il y a quelques mois, comme un mauvais scénario de science-fiction.
Pourtant, ce n’est pas comme si l’idée était particulièrement nouvelle. Il faut savoir qu’un certain nombre de contenus sont déjà produits par des systèmes automatisés depuis de nombreuses années. ESPN, la chaîne de sport américaine, ou l’agence Associated Press, produisent depuis 2018 des compte-rendus sportifs automatisés et les premières études sur le sujet remontent au moins à une dizaine d’années. D’autres titres américains comme ProPublica, le Los Angeles Times ou Forbes ont également souscrit à des services de journalisme automatisé depuis quelques années.
En France Le Monde, L’Équipe ou d’autres journaux ont même expérimenté assez tôt cette automatisation pour certains types d’articles du type résultats d’élections ou les compte-rendus de matchs.
Ce qui se profile à l’horizon avec l’arrivée de ChatGPT est sans commune mesure avec les bouleversements que l’industrie a déjà connus. La santé économique des titres étant largement mise à mal depuis certaines années, certains groupes voient dans l’automatisation de certains articles des gains de productivité substantiels, une aubaine pour réduire la masse salariale des rédactions qui constitue souvent un des plus gros postes budgétaires après les achats de matière première pour les titres ayant encore, bien évidemment, une édition papier.

Mick Levy : Oui, mais le fantasme de la rédaction sans journalistes n’est-il pas aussi improbable que celui de l’industrie sans usines ou de la médecine sans médecins ?

Gérald Holubowicz : Faisons déjà un petit état des lieux. En quelques semaines, les annonces se sont multipliées. Le site d’info sur les technologies CNET a testé une IA de création de contenus qui a multiplié les erreurs et forcé l’éditeur à marquer une pause dans son implémentation. Dans le même temps, il aurait licencié un peu plus de 10 % de sa rédaction et placé l’ancienne rédactrice en chef à la tête d’un service dédié à la production de contenus par IA.
The WIRED, un autre magazine tech, propriété du groupe Condé Nast, a, quant à lui, annoncé l’introduction de ChatGPT dans ses contenus, mais à petite dose.
En Europe, c’est le groupe Axel Springer qui a annoncé des licenciements massifs pour pallier à la montée en puissance de l’IA dans le mix éditorial. Le patron du groupe, Mathias Döpfner, a souligné que la production journalistique est en train de devenir un sous-produit de plus en plus assisté et automatisé.
Enfin, c’est BuzzFeed qui a annoncé vouloir intégrer l’IA pour rédiger ses fameux quiz.
D’autres plans sont certainement à l’étude et c’est là que l’introduction de l’IA pose problème au secteur.

Mick Levy : Attends ? C’est-à-dire ? Si l’IA permet de faire des économies et de mieux informer, ça peut être intéressant de miser sur ces technologies quand même j’imagine ?

Gérald Holubowicz : Ça reste à voir. Si l’IA ne va pas remplacer les journalistes au sens strict, elle risque d’avoir un effet sur la façon dont on entre sur le marché et dont on apprend le métier. Si, comme les plans annoncés le suggèrent, ChatGPT est utilisé pour s’occuper des tâches de réécriture, jusque-là confiées aux stagiaires, aux étudiants ou à certains pigistes débutants, on comprend que pour ces jeunes journalistes le début de carrière, déjà précaire, va être encore plus incertain : sur le plan économique il y a aura moins d’opportunités ; sur le plan des savoir-faire, les tâches ingrates permettent d’apprendre les rouages de la fabrique de l’information et font gagner en expérience.
Autre point davantage lié à l’image véhiculée par l’IA, la confiance : peut-on faire confiance à une machine anonyme ? Si le texte est vérifié par un journaliste, pourquoi pas ! Mais va-t-on renforcer la confiance dans les médias en confiant une partie de la production de l’information à des robots ?
Bien sûr, l’IA peut amener à de nombreuses innovations, mais, pour le moment, les applications restent cantonnées à l’optimisation de la production d’articles ou à celle des tunnels d’abonnement. L’IA est davantage vu comme un outil d’optimisation de production qu’un moyen, pour les rédactions, de se rapprocher des citoyens, de faciliter l’accès à l’information et de mieux accompagner sa consommation.
C’est pourtant une demande forte du public, si on en croit The Reuters Institute qui publie les études de référence.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Cyrille Chaudoit : L’automatisation de l’information. Merci Gérald pour cette chronique.
Aujourd’hui la tech, à travers la data, semble modeler notre humanité, nos modes de pensée, relations sociales, identité et même la santé, on l’a vu tout à l’heure avec les nombreux NFT [Non-fungible token] qui nous entourent. Toutes ces informations sont détenues principalement par les Big Tech, ce qui nous amène à une question fondamentale : sommes-nous encore maîtres et possesseurs de nous-mêmes ? À l’hôpital en particulier et dans la santé en général, ce sont des humains qui prennent soin d’autres humains. C’est probablement l’endroit où les rapports humains sont les plus vrais et les plus intenses, nous l’avons vu aussi. C’est aussi l’endroit où la place pour innover est immense.
Là où nous pouvons croire que le numérique peut être une solution à l’univers de la santé, ne pourrait-on pas aussi dire qu’en venant au secours de la santé, le numérique se soignerait également de son mal le plus profond : son manque d’humanité ? Du coup si je peux permettre, Dominique, la question que je te pose : concrètement, comment arriverait-on à ramener de l’humain dans le numérique aujourd’hui ?

Dominique Pon : C’est la méga-question. C’est la clef de tout en fait. Comme tu le disais, c’est un secteur profondément humanisé, dont la vocation est humaniser. La technologie, notamment le numérique, doit être humaniste.
Le premier élément, c’est de définir ce que serait l’éthique du numérique dans la santé. Quand tu prends le concept d’éthique, en fait tu as une définition internationale avec quatre piliers : la bienfaisance, essayer de faire le bien ; la non-malfaisance, ce que tu as dit en introduction, le fameux primum non nocere, tu essayes de ne pas trop faire du mal avec des effets secondaires ; l’autonomie et la justice. Ce sont les quatre piliers.
Quand tu regardes ces piliers-là, si tu apportes des outils aux professionnels de santé – j’en ai dirigé pendant très longtemps et j’ai été à leurs côtés pendant deux décennies – qui leur font gagner du temps pour qu’ils passent plus de temps au contact du patient, tu fais du numérique humaniste.
Quand tu restitues au patient un papier, tu donnes accès à son ordonnance à une mamie au fin fond de l’Ariège sans qu’elle ait besoin de faire 200 kilomètres aller-retour, pour que ça soit plus simple pour qu’elle aille chercher ses médicaments en pharmacie, tu fais quelque chose qui est positif, qui est humaniste.
Si chaque fois qu’on construit des outils on se pose cette question de ces quatre piliers de l’éthique – et c’est un questionnement permanent, il n’y a jamais de vérité –, à ce moment-là, tu peux te servir du secteur de la santé pour vraiment impulser un numérique éthique et humaniste. En fait, on a même proposé le référentiel éthique [8] qu’on a construit en France dans le cadre de la mission que j’avais pour le gouvernement et il a été adopté en un mois par la totalité des pays européens. Ça veut dire que la santé et l’éthique du numérique c’est assez raccord.

Mick Levy : Redis-moi juste un truc, tu disais que le troisième pilier c’est le pilier de l’autonomie ? Que signifie l’autonomie en termes d’éthique pour la santé ?

Dominique Pon : Le principe d’autonomie c’est un critère éthique : plutôt que de lui filer un poisson apprends à quelqu’un à pêcher ; c’est le rendre autonome. Pour moi, le fond c’est que le numérique comme l’invention de l’écriture, comme l’invention de l’imprimerie, ça doit être un outil d’émancipation citoyenne pour que les gens puissent se prendre en main, être eux-mêmes autonomes et indépendants. C’est cela que permet le numérique.

Cyrille Chaudoit : En la matière, même si on s’écarte un tout petit peu du domaine exclusif de la santé, on sait qu’il y a ce phénomène, entre guillemets, « d’illectronisme » : toute une partie de la population, soit par sa condition sociale, soit par son âge, est assez coupée de l’accès à ces outils, soit parce que les gens sont mal équipés, soit parce qu’ils ne savent pas très bien s’en servir. Est-ce que, dans le domaine de la santé plus spécifiquement, tu sens les gens suffisamment autonomes sur l’appropriation des outils qui sont mis à leur disposition aujourd’hui ou est-ce qu’on en est encore assez loin ?

Dominique Pon : Sur ce truc-là, précis, je pense qu’il faut faire vachement gaffe à ne pas être dans les clichés. Je vais te donner un exemple concret. Dans mon établissement de santé, on a mis en place un portail patient pour que tu puisses faire ta pré-admission à distance, préparer ton hospitalisation, être suivi en post-opératoire. Moyenne d’âge 75 ans à peu près, 90 % d’adhésion et d’utilisation et le reste on a mis des gens, des infirmières, des aide-soignantes qui appellent et qui aident à faire les démarches. Mais 90 % sont autonomes parce qu’ils se font appel à la famille, donc il se crée une espèce de petite solidarité numérique et d’inclusion numérique.
Bien sûr qu’on dit à peu près 30 % d’illectronisme, mais ça a été la même chose au moment de l’imprimerie, tu avais aussi l’illettrisme. Je crois qu’il faut tirer vers le haut sans stigmatiser cela.

Cyrille Chaudoit : Ce n’était pas une façon de stigmatiser. Je trouve ta réponse intéressante. Effectivement, l’illectronisme peut être une réalité, mais il y a, je dirais, des stratégies adjacentes qui se mettent en place comme l’entraide. Probablement aussi que la conception des outils, comme le site que tu as mentionné, que vous aviez mis à disposition en post-opératoire, se doit d’être pensée un peu ethic by design avec cette fibre, en tout cas avec ce pilier de l’autonomie. C’est peut-être d’ailleurs pour ça que les gens savaient l’utiliser mieux que d’autres.

Dominique Pon : Pour moi, une autre condition de l’ethic by design dans le numérique, c’est que le numérique ne soit jamais la solution exclusive, qu’il y ait toujours un plan B non-numérique. C’est cela, pour moi, la base de l’éthique .

Mick Levy : Je vous rappelle que la SNCF en a fait les frais il y a quelques petits mois, mais on s’écarte un petit peu du sujet.
Dominique, au cœur de toutes ces questions-là il y a les données et les données de santé, en particulier, sont un peu l’objet de toutes les attentions de toutes parts. Tu as ce combat de vouloir, finalement, redonner la propriété des données de santé au patient lui-même, en même temps c’est souvent décrié parce que ça amène à faire des bases de données de santé plus ou moins centralisées, ce qui comporte d’autres risques. Quelle est la position à tenir sur ce sujet ? Quelle est ton expérience avec la mise en place de Mon espace santé [4] ?

Dominique Pon : Ça part d’une conviction, je ne dis pas que c’est la bonne, en tout cas c’est la mienne. On pense que le bazar, le bordel, l’anarchie sur les données, l’anarchie sur les logiciels, c’est protecteur, moi je pense que c’est l’inverse. Je pense que le fait de mal partager les données tue des gens aujourd’hui. Chaque fois qu’on n’est pas capable de se mettre en ordre de marche de façon collective pour faire un truc cohérent, in fine ça finit chez les Big Tech. Ça ne sera peut-être parfait, mais je milite plutôt pour dire qu’il faut chercher une voie de construction souveraine, de plateforme à nous, de cloud souverain européen d’entrepôt de données de santé. Mon espace santé [4] est un carnet de santé numérique hébergé en France. Je vais te dire un truc assez simple : un système n’est jamais infaillible, évidemment, mais le niveau de sécurité de Mon espace santé par rapport à ce que je connais aujourd’hui de la majorité des hôpitaux français, où on s’est mis ensemble collectivement pour faire une solution de stockage, c’est comme si tu passais de troisième division à Champions League en termes de sécurité. Ce n’est jamais parfait mais c’est beaucoup mieux qu’aujourd’hui.

Thibaut le Masne : Explique-nous, ce qu’est Mon espace santé ? Explique-le pour ceux qui nous écoutent.

Dominique Pon : Mon espace santé [4] c’est un carnet de santé numérique, proposé par la puissance publique, notamment porté par l’Assurance maladie, qui est ouvert gratuitement pour tous les Français, dans lequel tu peux toi-même stocker tes données de santé, prendre en photo une ordonnance, la partager avec un médecin. Petit à petit, au fur et à mesure où on va modifier tous les logiciels de santé des médecins, des biologistes, des radiologues, de tout le monde, pour qu’ils soient compatibles avec Mon espace santé, on va recevoir nos données automatiquement dedans et c’est nous qui donnerons le consentement pour le partage de nos données de santé. C’est ça le principe et c’est en voie de construction. Aujourd’hui, on a déjà multiplié pratiquement par 20 le nombre de données qui sont enfin redonnées aux citoyens, dans une vision souveraine, par rapport à ne serait-ce qu’un an.

Thibaut le Masne : As-tu eu des freins pour mettre en place ce carnet de santé numérique au niveau gouvernemental, au niveau des médecins ? Quelles ont été les craintes, peut-être, autour de cette solution qui semble effectivement excellente ?

Dominique Pon : J’y ai passé trois ans de ma vie et tout n’a pas été facile.

Thibaut le Masne : Sinon, ce n’est pas toi qu’ils auraient mis sur le dossier !

Dominique Pon : Il y a eu des batailles pour légiférer, des batailles politiques, par exemple pour le créer de façon automatique si tu ne t’y opposes pas, ça a créé plein de sujets de débat. Mais surtout, il fallait mettre de l’argent, concrètement deux milliards ont été mis pas pour fabriquer l’outil, mais pour connecter les logiciels, des dizaines de milliers de logiciels partout en France qui avaient été développés sans règles. C’est ça qui était coûteux, qui était long pour convaincre tout le monde. Mais le truc est en marche et ça va le faire.

Cyrille Chaudoit : J’ai une question, c’est probablement la question qui fâche, mais c’est dans ma compréhension parce que les deux solutions sont concomitantes : quel est le rapport entre Mon espace santé et le Health Data Hub [5] ?

Dominique Pon : En fait, ce sont deux trucs qui n’ont rien à voir.
Mon espace santé est un carnet de santé numérique nominatif, comme le carnet de santé de ton enfant quand il était petit. En fait, tu mets tes données de santé dedans, tu le partages avec ton médecin, à ton biologiste ; ce sont tes données. C’est à des fins de parcours de soin, pour soigner.
Le Health Data hub ça n’a rien à voir. Tu prends des données de santé, tu les anonymises, tu ne sais plus à qui sont ces données, et tu les stockes pour faire de la recherche épidémiologique, imaginer des cohortes de patients mais virtuelles, tu ne sais plus de qui tu parles. Ce n’est pas pour soigner, c’est pour faire de la recherche, de l’épidémio, de l’innovation.

Cyrille Chaudoit : OK. Juste pour aller « un cran plus loin », entre guillemets : nos données personnelles, dont on a bien compris qu’elles sont les nôtres et uniquement les nôtres dans Mon espace santé, serviront-elles aussi à faire de la médecine prédictive ?

Dominique Pon : Pour moi, la clef de ce sujet est une clef philosophique. J’ai beaucoup milité pour dire qu’il faut faire confiance aux gens. Pour moi, dans ton carnet de santé numérique, donc dans ton passeport si tu préfères l’appeler passeport, c’est toi-même qui cliqueras pour dire « oui, j’accepte de façon anonyme de donner ma donnée de santé, parce que je veux participer, comme je donnerais mon sang par exemple, parce que je pense que c’est une œuvre qui est importante pour moi de participer à la recherche ». Le point clef c’est de ne pas capturer les données des gens sans leur consentement. Si on arrive à faire ça, à ce moment-là tu cliquerais, tu aurais « je donne mon consentement ». Tu as un appel pour une étude de recherche parce qu’on a besoin de diabétiques de type 2 qui ont eu une insuffisance cardiaque dans les cinq dernières années, qui prennent tel traitement, on référence les gens : est-ce que tu acceptes de donner, ou pas, tes données de santé. Il faut redonner le pouvoir aux gens, je crois que c’est la clef.

Thibaut le Masne : C’est chouette. On sent dans ton discours que tu es évidemment très engagé sur cette histoire et que tu en fais un véritable combat éthique : redonner les données, la clef de leurs données aux gens, tu le vois véritablement comme une question éthique et une question profonde en fait.

Dominique Pon : Si tu tires le fil de ça, pour moi, ce qui manque aujourd’hui en France, c’est faire confiance aux gens. Ma tatie dans l’Ariège elle n’est pas geek, mais elle n’est pas con et, si on lui donne les clefs pour comprendre, elle est capable de comprendre, elle est capable de se décider. Je vais même te dire un truc : on a fait un comité citoyen avec une cinquantaine de citoyens tirés au sort. Des gens n’avaient même pas de quoi se payer le taxi pour aller à l’aéroport pour venir. Pendant trois week-ends on les a formés à des trucs méga-techniques au niveau juridique et, à la fin, ils ont rendu un rapport qui est vachement supérieur à ce que tu pourrais retrouver dans des dossiers d’experts ou d’énarques. Je fais donc confiance aux gens.

Thibaut le Masne : Très belles paroles. Je vais retenir « ma tatie n’est pas geek, mais elle n’est pas con », ça me plaît beaucoup.
C’est le moment d’égarement de Laurent Guérin qui va nous parler de Brand Content.

[Chronique de Laurent Guérin non transcrite]

Voix off :Trench Tech. Esprits Critiques pour Tech Éthique.

Cyrille Chaudoit : Merci Laurent de t’intéresser de l’état de santé des collections de NFT.
On va revenir sur l’état de santé qui nous concerne un tout petit peu plus, la nôtre, si tu veux bien.
D’ailleurs quand on pense santé, Dominique, on a plutôt tendance à penser vie, alors maladie mais soins. Mais après ? L’après, qu’est-ce qui se passe exactement ? C’est l’oubli ?

Mick Levy : Tu veux dire le grand après.

Cyrille Chaudoit : Oui, le grand après. Tout à fait. Dans le numérique on n’a pas l’impression que c’est vraiment là que se situe l’oubli avec toutes les traces inconscientes ou conscientes, volontaires ou involontaires qu’on laisse. Avec ce risque de mémoire, en quelque sorte, qui peut, d’ailleurs, être falsifiée après notre disparition. Finalement, nos moindres faits et gestes sur les internets nous définissent-ils vraiment ? C’est une question qu’on pourrait poser à Serge Tisseron !
Bref ! Autrefois les Grecs parlaient de traverser le Léthé, ce fleuve qui symbolisait la mort et, quand on traversait le Léthé, c’était entrer dans l’oubli. Ils ont le terme alètheia qui veut dire revenir du Léthé, repasser le Léthé dans l’autre sens, et ça, ça veut dire la vérité.
In fine, est-ce que, aujourd’hui, avoir un véritable projet, une véritable intention humaniste de valoriser et de protéger la mémoire de chacun à travers un projet, par exemple ETERNESIA [1], c’est ça véritablement remettre l’humanisme au cœur de la tech ?

Dominique Pon : Waouh ! Vaste question.

Mick Levy : Attends, Dominique. Je ne sais pas si c’est une grande première, dans l’intro de l’épisode, Thibaut a quand même placé du latin et là Cyrille nous place du grec. Pour toi, nous nous sommes dépassés. C’est magnifique.

Cyrille Chaudoit : Je m’entendais à une réaction de Mick, parce que dès que ça frôle un peu trop la philosophie il transpire de la moustache ! Ça y est. Réponse de Dominique.

Mick Levy : Dominique, revenons à ta réponse.

Dominique Pon : Ce sujet-là est un sujet qui me touche et qui m’obsède depuis que je suis enfant. Tout le monde le sait, en 2065 il y aura plus de morts que de vivants sur Facebook, en gros c’est ça. Ça veut dire qu’on laisse des traces non contrôlées, on n’en est pas conscient et in fine ça sera ça l’histoire humaine, ça sera ça notre histoire dans le futur. Je me repose la question de l’humanisme, en fait. Je me dis que si on est humaniste, une vie humaine, quelle qu’elle soit c’est tellement magnifique, que la mémoire d’une vie ça devrait être inscrit au patrimoine de l’humanité.
Si on raisonne comme ça en se disant quelle que soit une vie humaine, donc la mémoire d’une vie en tant que manifestation tangible d’une vie, ça doit être inscrit au patrimoine de l’humanité, donc un bien commun ultra précieux, qu’a-t-on comme outil aujourd’hui ? En fait, le numérique peut être un outil, mais un outil à nouveau à dimension éthique, c’est-à-dire où on laisse la place aux gens de décider de ce qu’ils veulent laisser et de ce qu’ils veulent qui soit oublié. Si on repart de ce principe-là, on a la possibilité aujourd’hui d’inventer une nouvelle utopie humaniste, comme on créerait un nouveau droit de l’homme, qui consisterait à dire que tous les êtres humains ont le droit à transmettre quelque chose pour les générations futures mais ce sont eux qui décident et on doit respecter cette volonté-là. Je crois beaucoup que cette idée-là est une idée universelle, magnifique, mais aussi profondément humaniste et de tradition de pensée humaniste.

Cyrille Chaudoit : Cette utopie que tu décris porte déjà un nom, ça s’appelle ETERNESIA, je l’ai glissé rapidement. Peux-tu nous dire en deux mots ce qu’est ETERNESIA [1] et et en quoi tu es est concerné par ETERNESIA ?

Dominique Pon : ETERNESIA, c’est la contraction d’« éternité » et de nesia, la mémoire. L’idée c’est de promouvoir cette idée d’inscrire la mémoire de tous les gens qui le souhaitent au patrimoine de l’humanité au travers d’outils. Les outils d’aujourd’hui sont des outils numériques en disant qu’on pourrait proposer à chacun de décider de transmettre ce qu’il veut à qui il veut.
ETERNESIA c’est une association, c’est aujourd’hui un projet que je suis en train d’essayer de concrétiser, qui essaye de concrétiser ça. De façon très concrète, je fais donc venir dans mon établissement de santé des écrivains publics en soins palliatifs pour raconter l’histoire des mourants pour transmette aux familles.
En fait, l’expérience de ça, c’est quoi ? C’est profondément humaniste parce que ça rend vivant jusqu’à la dernière seconde celui qui va mourir et qui transmet quelque chose ; pour ceux qui restent, ça enlève le poids de la culpabilité de l’oubli de celui qu’on a aimé. Cette question de la transmission est universelle et profondément au cœur de la condition humaine. Aujourd’hui, on a la possibilité de considérer que ça fait partie de notre patrimoine commun, à condition qu’on y mette un cadre éthique et que, une fois ne serait pas coutume, c’est nous créerons les utopies de demain et pas uniquement la Big Tech, les GAFAM, l’entertainment, la sérotonine, le métaverse et toute la clique.

Mick Levy : À l’américaine.

Thibaut le Masne : Au final, ce que tu es en train de nous raconter, qui me parle particulièrement, c’est qu’en fait jusqu’à présent cette notion de mémoire, on se la donnait un peu par la parole. Il y a de temps en temps des écrits, des lettres, potentiellement des livres qui sont notre héritage, notre patrimoine, des photos des gens qui ont disparu et qui n’ont pu nous raconter certaines choses et derrière, d’une certaine façon, ils font déjà ce filtre de ce qu’ils ont envie de laisser, de ce qu’ils ont envie de nous donner, le filtre est fait naturellement par eux. L’écho que ça prend pour moi, c’est de me dire qu’aujourd’hui je laisse plein de traces numériques à plein de personnes, notamment beaucoup à des GAFAM, et je me dis que finalement j’ai peur que cette mémoire numérique que je laisse soit plus forte que le legs que je ferai à mes enfants, à mes petits-enfants, etc., derrière. C’est-à-dire que je n’aurai plus le choix de choisir les éléments que je veux, ce seront les Big Tech qui raconteront ce que j’ai été en fonction des comportements que j’ai eus sur Internet. Je trouve que ce côté-là est un peu biaisé et m’embête de plus en plus.

Dominique Pon : C’est ça le sujet. Je pense qu’il faut qu’on construise une alternative à ça en disant que ce que tu veux laisser, ce qui est réel c’est ça et tu les mets dans un endroit. Au lieu de dire oui, mais il y a la parole, etc., et on va lutter contre le numérique, moi je dis utilisons le numérique pour redimensionner ce qu’est la mémoire et comment on la transmet. Si tu pouvais dire « j’ai une plateforme et c’est là où il y a ma mémoire de référence, c’est ça que je veux laisser et je veux que tout le reste soit oublié », c’est, pour moi, à nouveau une façon de redéfinir un cadre éthique à tout cela.
Ce qui m’avait choqué quand j’étais petit, c’est pour cela que ça m’obsède depuis que je suis petit, mon grand-père me racontait ses mémoires de résistant et, à l’école, on me parlait de Jean Moulin. Je me demandais pourquoi on ne parle pas de mon grand-père. Je me disais s’il y a quelqu’un, dans un bureau, qui trie la valeur des vies humaines, il va dire que mon grand-père est nul, il n’a pas droit à faire partie du patrimoine de l’humanité. Je me disais que ce n’est pas dans mon éducation humaniste.
Aujourd’hui les GAFAM et le numérique démocratisent tout ça, mais on n’est plus conscient de ça, on n’est plus maître de ce qu’on laisse. Je pense qu’on peut utiliser le numérique comme un outil d’émancipation, universaliste mais éthique. Tu dis aux gens : c’est à vous de décider ce que vous voulez laisser. Comme dans Mon espace santé tout à l’heure, c’est toi le boss de ta mémoire, de ce qui est laissé. À partir de là, au lieu de pleurnicher façon européenne et à la française dans les salons ou les émissions de radio en disant « nous sommes de pauvres brimés par les GAFAM », nous disons maintenant construisons notre avenir et construisons notre utopie.

Thibaut le Masne : Ça m’amène plein de trucs. Je suis un grand malade du contrôle, de la maîtrise de ce qui se passe autour de moi. Là tu me donnerais même la capacité d’avoir un outil qui me permettrait, de mon vivant, de contrôler ce que les autres pourraient garder en souvenir de moi.

Dominique Pon : Ce n’est pas tout à fait ça.

Thibaut le Masne : Tu vas alimenter ma névrose de contrôle. C’est un truc de fou !

Dominique Pon : C’est un plus subtil que ça. Les autres auront le droit de dire ce qu’ils veulent sur toi, tu ne pourras jamais interdire ça. En revanche, ils ne pourront pas dire « lui a dit quelque chose de différend de ce que tu as pensé », ce que tu vas léguer doit être incorruptible pour la suite. Après, tu ne peux pas empêcher le reste de dire des choses de toi.

Cyrille Chaudoit : Je rebondis sur le propos de Dominique. Tout à l’heure j’évoquais le fait que les traces qu’on laisse partout peuvent être falsifiées par d’autres que nous. Dès lors que je vais choisir les souvenirs que je vais léguer, qui seront, du coup, infalsifiables, qu’est-ce qui prémunit le reste de la population que les souvenirs que je laisse ne sont pas eux-mêmes falsifiés, mais par moi cette fois-ci. Tu vois ce que je veux dire ? Comment s’assurer que la mémoire que chacun va léguer au reste du monde, au titre du patrimoine de l’humanité, n’a pas été « enjolivée », entre guillemets, par celui qui la lègue.

Dominique Pon : Mon grand-père m’a laissé ses mémoires de résistant parce qu’il voyait que ça me travaillait quand j’étais petit, c’est un magnifique parchemin, il a d’ailleurs appris à taper à la machine, aveugle, juste pour transmettre ses mémoires. Et bien sûr qu’il a enjolivé. Évidemment ! Mais ce n’est pas le sujet. Le simple fait qu’il ait ce droit-là, ça le reconnaît en tant qu’être humain dont la vie est une œuvre d’art. La façon dont il a enjolivé, peu importe ! Je vais te dire un truc : si, par exemple, Hitler laisse ses mémoires il va dire « j’étais un bienfaiteur de l’humanité ». Oui, mais tu as des centaines de millions de gens qui auront écrit l’inverse ; c’est comme l’arbitrage vidéo du foot. Tu regardes, tu te dis « non, là il y a un truc qui ne va pas ! »

Mick Levy : L’arbitrage vidéo de la mémoire.

Thibaut le Masne : Belle comparaison. J’adore.

Mick Levy : Avec de telles convictions et avec cet outil, cette plateforme que tu lances, quel regard portes-tu, du coup, sur tout le mouvement transhumaniste, sur les Peter Thiel et compagnie qui cherchent à tuer la mort, littéralement ?

Dominique Pon : En fait, il y a un équivalent un petit peu à l’américaine du projet ETERNESIA, qui s’appelle Total Recalll, qui est porté par deux ingénieurs de Microsoft qui s’appellent Gordon Bell et Jim Gemmel. En gros c’est l’inverse, c’est en contraposé : on capture tes traces pour construire un avatar numérique éternel. Moi c’est l’opposé, c’est l’opposé d’une vision transhumaniste.

Thibaut le Masne : Ça fait partie de mes grandes craintes. Ce que tu racontes c’est ma grande crainte, c’est vraiment le truc qui m’insupporterait.

Dominique Pon : Exactement. Ma vision c’est l’inverse d’un fantasme transhumaniste de survie : au contraire, tu transmets pour accepter ta finitude, dans un geste altruiste à ceux qui vont te suivre. Entériner ça de façon universelle au travers d’un principe et d’outils, qui sont aujourd’hui numériques, qui seront différents demain, comme t’écrivais tes mémoires avant de mourir ou ton testament. Pour moi c’est profondément humain parce que c’est justement basé sur ce principe d’acceptation de ta finitude. Au lieu de râler ou de flipper avec une vision transhumaniste c’est dire : arrêtons de faire ça, faisons un modèle humaniste qui accepte la fin de vie, qui accepte la finitude.

Cyrille Chaudoit : C’est assez rigolo que tu aies fait mention de Total Recall puisqu’on a choisi un extrait du film Total Recall pour introduire cet épisode, peut-être l’aviez-vous reconnu.
Si demain cette plateforme existe un peu au même titre que Mon espace santé, donc proposée, propulsée par les pouvoirs publics, une question un petit peu irritante : qu’est-ce qui nous prémunit d’un pouvoir, un jour, qui utilise cette plateforme-là pour aller déformer les mémoires des uns et des autres, voire en supprimer peut-être certaines. Souvenons du principe de vaporisation dans 1984 et ça ressemblerait à ce qu’on appelle aujourd’hui la cancel culture. Qu’est-ce qui pourrait nous en prémunir ?

Dominique Pon : Rien. Aujourd’hui c’est déjà le cas. C’est toujours un raisonnement à la française ça. Tu as un truc qui déconnes aujourd’hui, tu ne maîtrises que dalle de ta mémoire sur tes traces et tu ne sais pas comment c’est trafiqué, c’est utilisé à des fins commerciales, ce n’est déjà pas éthique. Et nous, avant même d’avoir fait quelque chose, on se dit « oui, mais ça pourrait être pire ». D’accord. Mais si tu n’avances jamais, tu ne construis jamais ton avenir.
Mon feeling par rapport à ça, je pense qu’il faudrait que ce soit porté par des institutions et c’est toi qui décides. Imaginons que tu aies une UNESCO de la mémoire humaine avec des consortiums d’institutions un peu crédibles, tu pourrais dire « je fais plutôt confiance à ça qu’aux GAFAM ». Mais ça ne sera jamais parfait et tu ne pourras jamais garantir quoi que ce soit. Mais construisons notre avenir, arrêtons de nous autocensurer en permanence et de laisser faire des modèles alternatifs qui prennent le pouvoir. C’est ça ma convection profonde. Il faut faire, il faut faire arrêter de tchatcher, il faut faire.

Cyrille Chaudoit : Là-dessus on est raccord : il ne faut pas laisser la place aux Big tech. J’entends que ce serait probablement plutôt une organisation transnationale pour garantir un tout petit peu plus le truc. Je ne crois pas que ce soit s’avouer vaincu d’emblée, mais plutôt rejoindre ton propos de tout à l’heure de l’ethic by desig, se poser les bonnes questions avant de faire pour éviter aussi de faire des choses qui ne soient pas forcément totalement éthiques.
En tout cas merci beaucoup, Dominique, de toutes tes réponses, du temps que tu n’as accordé. C’était comme à chaque fois, comme au moment de notre préparation, passionnant. On aimerait que ça dure encore plus longtemps. Vous qui nous écoutez restez avec nous pour les cinq dernières minutes de cet épisode. C’est désormais l’heure du debrief.

Mick Levy : Merci Dominique. À bientôt.

Thibaut le Masne : Merci Dominique.

Dominique Pon : À bientôt. Merci.

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Le debrief

Mick Levy : J’adore. J’ai l’impression d’avoir vraiment croisé un nouvel être humain, que je suis ravi d’avoir croisé, quelqu’un qui porte autant de valeurs et ça se voit tout au long de sa carrière, qui est porté par des valeurs, c’est vraiment splendide. Qu’avez-vous retenu de cet épisode ?

Thibaut le Masne : Le premier truc, c’est l’écho à ce que nous disait Joëlle. On s’aperçoit que dans la santé quand il n’y avait pas de normes, par de règles, en fait c’est le bordel.

Cyrille Chaudoit : Joëlle Toledano [9].

Mick Levy : Il faut faire le lien les amis.

Cyrille Chaudoit : Il fait mention de Joëlle Toledano, un autre épisode de cette magnifique saison.

Thibaut le Masne : Qui disait justement que sans règles, sans normes, c’est le bordel. Là, on s’aperçoit effectivement que sans règles et sans normes dans l’univers de la santé ça devenait très complexe. À partir du moment où on normalise, où on régule, chose bizarre les choses vont mieux. Je trouve que c’est hyper-intéressant.

Mick Levy : Il n’a pas parlé de régularisation. Il a parlé de standardisation pour permettre des échanges.

Cyrille Chaudoit : Déjà de connexion et d’interconnexion entre les différents outils, les différents systèmes.

Mick Levy : Parce que c’est normé.

Cyrille Chaudoit : Je vais peut-être passer pour un noob, oui, je parle jeune, en tout cas j’ai pris conscience d’une chose, c’est que les entreprises qui ont dû un jour connecter tous les différents outils ----on parle de CRM [Customer Relationship Management] ou d’autres choses----, ont fait face à une montagne d’ennuis et là, le système d’information à l’échelle nationale, en plus sur un sujet extrêmement important, celui de notre santé, eh bien c’est finalement ce que ces entreprises ont vécu à l’échelle microscopique, si je puis dire ; ce n’est quand même pas neutre.
Je retiens aussi qu’il nous a appris, en tout cas qu’il m’a appris, que le système national de données de santé, le fameux SNDS, c’est le meilleur système de données de santé au monde.

Thibaut le Masne : C’est le plus important. Ce n’est pas forcément le meilleur, mais c’est le plus important. C’est celui qui a le plus d’informations.

Cyrille Chaudoit : On n’a qu’à dire que c’est le meilleur aussi !

Mick Levy : Sur certains points de vue c’est clairement l’un des meilleurs au monde, on peut effectivement avoir une vision complète de toutes les dépenses de santé, de tous les soins qui sont prodigués aux Français, qui est très centralisé en France.

Cyrille Chaudoit : Toutes les vraies données de santé importantes, c’est ce qu’il a dit.

Mick Levy : Exactement. Grâce à l’assurance maladie.

Thibaut le Masne : Ce ne sont pas les bracelets FitBit, etc., qui sont importants pour les données de santé, il ne faut pas l’oublier.

Mick Levy : Bien sûr, les vraies données de santé qui proviennent effectivement de l’Assurance maladie et c’est vrai que c’est unique au monde. Il y a même certains prédateurs qui regardent ça de l’étranger avec une certaine envie.

Thibaut le Masne : Si effectivement, comme il dit, « ma tatie n’est pas geek, mais elle n’est pas con », ce que j’ai bien aimé, c’est que j’ai bien compris la différence qu’il y a entre, je suis peut-être aussi un peu l’ancienne, Mon espace santé [4], mon passeport santé pour certains, et le Health Data Hub [5], les fonctionnalités qui étaient recherchées. Effectivement, dans le Health Data Hub l’objectif était plutôt un modèle un peu prédictif, auto-apprenant, avec des données anonymisées, normales, et Mon espace santé qui est un endroit, un écosystème dans lequel on a notre vieux carnet de santé, qui, pour moi, est un peu tout défraîchi, sur lequel on a tout notre passé jusqu’à notre poids de naissance et quelle taille on faisait.

Cyrille Chaudoit : Je tiens juste à rappeler quand même que le moto, le mantra de Dominique Pon, c’est où en est l’humanisme avec la tech. J’ai surtout envie de retenir c’est qu’il nous dit que oui, on a certes besoin de s’appuyer sur la technologie dans le domaine de la santé, personnel soignant, etc., mais ça ne vaut rien si on ne recentre pas notre approche sur l’humain, avant tout. On a donc remis l’humain au centre.

Mick Levy : C’est magnifique. À un moment il a dit que, pour lui, il fallait inscrire la vie au patrimoine mondial de l’humanité. Je trouve que c’est ça qui est splendide dans le podcast qu’on anime, c’est à chaque fois la rencontre avec des personnages comme Dominique qui a des valeurs et une humanité, un amour qu’il dégage, un amour extrêmement fort. J’ai trouvé ça vraiment ouf.
Pour revenir à des choses plus prosaïques, il m’a beaucoup fait rire, c’est le fun fact que je vais retenir de cet épisode : en 2065, on aura plus de morts de que de vivants sur Facebook. Pour moi Facebook était déjà une sorte d’EHPAD numérique géant, du coup ça se confirme.

Cyrille Chaudoit : Il ne nous a pas donné les chiffres pour TikTok.

Mick Levy : Non. Ça va prendre un peu plus de temps effectivement.
Il a dit un dernier truc qu’on peut peut-être garder en conclusion : arrêtons de tchatcher, il faut faire !

Voix off : Trench Tech. Esprits Critiques pour Tech Éthique.

Cyrille Chaudoit : Et voilà, plus ou moins 60 minutes viennent de s’écouler et, normalement, votre vision du digital dans le monde de la santé n’est plus tout à fait le même.

Merci d’être de plus en plus nombreux et nombreuses à prendre le temps d’exercer votre esprit critique à nos côtés.
Merci également à Vincent de nous avoir suggéré cet invité génial et surtout n’hésitez pas, vous aussi, à nous soumettre des personnes que vous voudriez entendre.
Que nous soyons les concepteurs, les commanditaires ou les usagers du monde technologique dans lequel nous baignons, nous avons le droit, et même la responsabilité, de faire preuve de sens critique sur ces sujets. Soyons acteurs plutôt que spectateurs.
Trench Tech, c’est fini pour aujourd’hui. Vous pouvez nous écouter ou réécouter sur votre plateforme de podcast préféré. Profitez-en pour nous laisser un commentaire et nous mettre des étoiles, ça fait toujours plaisir et vous contribuerez, comme cela, à propager l’esprit critique pour une tech éthique. Car, comme le disait Louis Pasteur : « Guérir parfois, soulager souvent, écouter toujours. »