Description

Les assistants personnels sont le nouveau produit que les GAFAM tentent d’imposer. Outils de surveillance, faille de sécurité potentielle pour la vie privée, il est comme toujours important de maîtriser son informatique plutôt que d’être maîtrisé par elle.

Transcription

Luc : Décryptualité.
Voix off de Nico : Le podcast qui décrypte l’actualité des libertés numériques.
Luc : Semaine 2 ou peut-être semaine 3. Salut Manu.
Manu : Salut Mag.
Manu : Salut Christian.
Christian : Salut Luc.
Luc : On vous a retrouvés, vous êtes rentrés de vacances.
Manu : Enfin !
Mag : On sent qu’on t’a manqué !
Luc : Oui, énormément. Qu’as-tu trouvé pour la revue de presse, Manu ?
Manu : Cinq articles avec pas mal de sujets intéressants.
Mag : leParisien.fr, « VLC fête ses 3 milliards de téléchargements : retour sur une success story française », par Damien Licata Caruso.
Luc : C’est énorme !
Manu : C’est considérable et ils sont tellement contents qu’ils ont fêté ça au CES [Salon des innovations technologiques], donc aux États-Unis et on en entend parler jusqu’ici.
Christian : Bravo à eux !
Mag : Contrepoints, « Makers : la nouvelle révolution industrielle », par Farid Gueham.
Manu : Tout un article sur une disruption du système économique, en tout cas c’est comme ça qu’ils le mettent en avant.
Luc : Toi, tu connais les vrais mots !
Manu : Exactement. La start-up nation, donc ce sont des outils numériques mais qui ont cet avantage d’être libres, qui permettent de faire des objets.
Mag : Rude Baguette, « L’Union européenne lance une chasse aux bugs pour les logiciels libres », par la rédaction.
Manu : Vous en avez déjà parlé.
Luc : La semaine dernière, oui.
Manu : Exactement. Mais ça n’empêche, le sujet c’est : l’Union européenne s’intéresse aux logiciels et à la sécurité qui les comprend et donc va payer, va donner de l’argent pour ça.
Mag : Capital.fr, « Java, Firefox, Linux… leurs inventeurs ont rendu le Web populaire », par Benjamin Janssens.
Manu : Ce sont des portraits de gens assez importants qui vont faire de l’informatique un peu avancée. Il y a du Java, il y a du Linux, plusieurs personnes. Allez jeter un œil ça permet d’avoir un peu culture sur tout ce qui se passe là-dedans.
Mag : ZDNet France, « 2019, une opportunité unique d’agir pour la DSI digitale », par Frédéric Charles.
Manu : C’est une continuation de plein d’articles qu’on a faits. Les entreprises aiment le logiciel libre et ça leur permet d’évoluer et de changer. Et les DSI, les directeurs de services informatiques, se mettent eux-mêmes de plus en plus à l’informatique libre, donc c’est plutôt pas mal.
Luc : C’est quoi le concept de DSI digital ?
Mag : Eh bien c’est une direction du système informatique avec les doigts.
Manu : Comme les empreintes digitales, bien sûr ! Le sujet de cette semaine ?
Luc : Eh bien cette semaine, on va parler d’assistants.
Manu : D’assistants digitaux ?
Luc : Avec la voix. Ce sont ces trucs qui sont très à la mode.
Mag : Alexa, Siri et compagnie ?
Luc : Oui. OK Google et ce genre de choses, qui sont donc mis très avant, on en parle tout le temps, c’était un peu le truc à offrir à Noël.
Manu : À priori c’est un marché florissant, à coups de milliards !
Luc : Évidemment ça nous pose un certain nombre de soucis, mais c’était l’occasion de rentrer un petit peu en détail là-dessus puisque c’est le moment.
Mag : Le problème que ça me pose, que ce soit Alexa, Siri ou OK Google, c’est qu’on nous dit : « Ça ne prend en compte qu’à partir du moment où vous dites "OK Google". » Oui, mais pour qu’ils reconnaissent « OK Google », ça veut dire qu’ils t’enregistrent continuellement ?
Christian : Oui, mais localement à priori, enfin quand ça fonctionne, parce que sinon, il y a déjà eu un bug où ils enregistraient des milliers de conversations dans les appartements pendant des jours et des jours. Mais c’est un bug ! Ce n’est pas comme ça tout le temps il paraît !
Mag : Quand tu dis localement ça veut dire que c’est sur ton ordinateur ou sur ton appareil ?
Christian : Sur la boiboite.
Luc : Sur la boiboite. Ça veut dire que ça ne part pas sur Internet, à priori, et que c’est censé être traité localement ? C’est ça ?
Christian : Le problème c’est que comme ce n’est pas du logiciel libre, comment le savoir exactement ? C’est très difficile. On peut faire de l’analyse réseau. À priori, effectivement, ça ne part pas, mais !
Mag : Vas-y Manu, dis-nous, c’est quoi un assistant vocal ?
Manu : C’est une boîte, effectivement, un appareil qui est posé dans la pièce, en général la pièce de vie, en tout cas c’est comme ça que c’est mis en avant, mais ça pourrait aussi être dans une chambre, dans une voiture, dans une salle de bains et ça écoute en permanence. C’est supposé répondre à nos désirs, au fur et à mesure où on les évoque, un peu comme un majordome qu’on appellerait, auquel on donnerait un ordre « j’ai besoin d’un café » et il se débrouille, il ramène un café. Pour un assistant digital, ça va plutôt être : « Il n’y a plus de papier toilette, rachète du papier toilette » et hop ! il passe une commande sur Internet.
Mag : Ça me rappelle une histoire de maison de poupée, non !
Luc : Oui. Cette histoire de maison de poupée date un petit peu mais c’est assez rigolo. C’est qu’en gros, comme par des commandes vocales on peut acheter direct et évidemment tous les fournisseurs, en premier lieu Amazon, ont intérêt à ce que les gens puissent acheter avec le moins d’efforts possibles, il y avait un gamine de quatre-cinq ans qui avait demandé une maison de poupée et le machin était rentré de telle sorte que la commande a été passée. Les parents ont été facturés, la maison de poupée a été livrée.
Mag : J’ai aussi une personne qui m’a rapporté l’histoire de l’objet, l’article préféré à acheter. C’est-à-dire que quand tu appuies sur ta télécommande, sur un bouton particulier, ça t’achète ton article préféré. Si tu ne fais pas attention, que tu laisses ta télécommande à un chat, à un bébé, un chien, ce que tu veux, tu peux recevoir 26 000 fois ton objet préféré. Je trouve ça très drôle !
Luc : Ça peut arriver effectivement. Juste pour préciser, parce que tu disais, Christian, que sur ces assistants tout le traitement de la voix, la reconnaissance vocale, est censé être traité localement c’est-à-dire dans la boîte qui est dans le salon et censé ne pas être envoyé sur Internet.

Une affaire qui ne touche pas directement les assistants personnels mais qui était la télé connectée de Samsung et où les gens avaient vu un avertissement qui disait : « Attention, si vous dites des trucs personnels sachez que ce sera enregistré » et cette télé connectée, en fait, n’avait pas d’intelligence à bord puisque ça coûte cher, il faut mettre de la capacité informatique, et tout était envoyé par Internet sur un serveur en Corée où tout était transcrit. Donc même si les assistants ne le font pas, à priori certains objets le font.
Manu : Cette télé-là avait la particularité de chercher à t’aider. Si tu disais « change de chaîne, augmente le son, augmente le volume », elle écoutait, elle obéissait, mais elle n’écoutait pas que cela, elle écoutait tout le reste du temps et c’était envoyé à Samsung en Corée. Petit détail, c’était envoyé sans être chiffré, c’est-à-dire qu’il n’y avait pas de sécurité. C’était la petite goutte d’eau qui avait fait exploser le scandale.
Mag : Mais ça c’était il y a longtemps. Rassurez-moi ! C’est amélioré maintenant ? Non ?
Luc : Peut-être ! On n’en sait rien !
Manu : À priori, la technicité d’une boîte comme OK Google ou Alexa est plutôt solide, de ce qu’on en sait, mais les traitements qui sont derrière, eux, ne le sont pas encore. On sait qu’il y a eu des cas de problèmes où on a enregistré des conversations qu’on n’aurait pas dû enregistrer et ces conversations ont été retransmises aux mauvaises personnes. Mais on sait aussi que les gens qui travaillent dans ces entreprises peuvent avoir accès à des enregistrements personnels, de manière indue. Il y a eu un petit scandale il n’y a pas longtemps, je crois que c’est Amazon, où les travailleurs d’Amazon avaient accès facilement à tous ces enregistrements pour aider les clients, mais qu’il n’y avait aucune vérification en interne ; sachant qu’Amazon c’est gigantesque, il y a des milliers d’employés, et qu’il y avait des employés qui n’auraient pas dû avoir accès à tous ces enregistrements très privés qui y avaient quand même accès. Donc ça a fait un petit scandale. Ils ont dit qu’ils allaient corriger le problème et garantir que seuls les gens qui avaient l’usage allaient avoir l’accès. Mais ça n’empêche, techniquement ce n’est pas très difficile de le faire.
Christian : Du coup il y a une question qui se pose, c’est : est-ce qu’on est obligé d’envoyer des données à l’extérieur pour arriver à traiter ?
Luc : Un minimum oui puisque souvent, l’objectif c’est, notamment, de faire des achats. Si tu veux acheter sur Internet il va bien falloir que tu aies des données qui sortent.
Manu : Ça pourrait être des données finales. Dans le sens de la question de Christian, les données de traitement, elles, pourraient rester en local. On sait que la nouvelle Freebox de Free va intégrer un assistant vocal, en tout cas c’est mis en avant comme ça, on n’a pas encore regardé les détails, Alexa, mais il semblerait qu’ils ont prévu de pouvoir désactiver cet assistant vocal et que, de manière intégrée, il y a un deuxième assistant vocal qui est aussi embarqué dans la Freebox mais lui il est local, il ne discute pas sur Internet pour ses traitements, et il permet de contrôler la Freeboîte donc de changer les numéros de chaînes, d’augmenter le volume et ça, c’est supposé être local.

C’est peut-être aussi parce que techniquement c’est plus simple à gérer, je ne sais pas. Donc ça ne fait pas tout, ça fait moins, mais on a un peu moins de risques d’envoyer des commandes sur des serveurs internet qui ne sont pas contrôlés par nous.
Mag : Et le code source de la Freebox, il est accessible ?
Manu : Des grosses parties du code source de la Freebox sont accessibles parce qu’ils font plein de trucs en logiciel libre, mais je ne sais pas si la partie assistant vocal est intégrée là-dedans, il faudrait regarder.
Luc : Une des problématiques c’est que Amazon, notamment, c’est un des GAFAM et que leur business consiste à récolter un maximum de données sur les gens. Évidemment, on se doute que cet assistant vocal qui intervient sur tout c’est quand même une manne d’infos hyper-intéressantes. Est-ce qu’ils vont se retenir de mettre la main sur ces données-là ? Non ! Enfin, même s’ils disent : « Non, non, c’est juste pour te vendre des trucs », ils vont te dire : oui, mais pour connaître tes habitudes, pour être vraiment précis, on a besoin de récupérer des infos ; il faut qu’on sache ceci, cela. Et derrière, ce qu’ils en font ! On a bien vu que Facebook avait fait à peu près n’importe quoi avec les données, les a distribuées à droite, à gauche et fait des expérimentations. En fait, ça donne quand même un pouvoir énorme et encore plus de capacités de surveillance. Notre activité sur Internet est déjà largement connue et, potentiellement, toute une autre gamme d’activités peut être enregistrée, traitée et maîtrisée par ces fournisseurs.
Manu : Ça va très loin. Les téléphones portables sont des appareils qui peuvent faire assistants vocaux et ils en intègrent, Siri c’est le cas. Donc on a toujours avec nous des micros qui sont en permanence allumés. Un micro, techniquement, n’est pas désactivé quand il est en place et tous ces assistants vocaux ce sont des micros qui sont là en permanence. Parfois ils intègrent des caméras, ça aussi ça va commencer à se mettre en place, pour nous aider ! Pour vérifier qui sonne à la sonnette, qui rentre chez nous, ça peut avoir une utilité ; pour suivre les gamins ce qu’ils font. Il y a des gens qui ont des caméras pour regarder leurs chats chez eux, dans la journée. Tout ça peut aller loin parce que ça passe par Internet, ça passe par des grosses sociétés.
Christian : Fonctionnellement c’est magnifique ! C’est Hal, 2001, l’Odyssée de l’espace. C’est de la science-fiction qui devient concrète.
Luc : Tu cites le film qui finit mal, quand même, parce que Hal tue tout le monde !
Manu : Oui, mais avant cela il est sympathique, avant cela il est plutôt agréable.
Christian : Mais pourquoi ? Parce qu’on a lui a introduit une contradiction dans sa logique et c’est une erreur humaine, voilà !
Manu : Effectivement, le jour où Alexa commence à avoir accès aux couteaux de la cuisine il faut faire gaffe. Pour l’instant Alexa a accès à notre Carte Bleue ce qui peut déjà être embêtant, ça peut déjà créer des problèmes, mais ce ne sont pas des questions, normalement, de vie ou de mort. On n’en est pas là. Pour l’instant, ce sont des questions essentiellement commerciales et de vie privée.
Luc : Oui, mais avec des enjeux très importants derrière, enfin !
Manu : Des milliards ! Et c’est probablement pour ça que les gars se battent autant pour installer des assistants vocaux chez tout le monde. Je pense que Google, les GAFA en général, sont probablement en train de perdre de l’argent sur le développement de ces appareils parce qu’ils savent qu’une fois ces appareils installés, une fois ces appareils utilisés, eh bien ils ont un accès à leur rêve, c’est-à-dire au salon des gens.
Christian : Les boîtes sont très peu chères. C’est très peu cher. Il n’y a pas grand-chose dedans, mais c’est très peu cher.
Luc : Il doit y avoir un minimum, quand même, si tu arrives à traiter localement de la reconnaissance vocale. En plus de ça, j’imagine que ta reconnaissance vocale il faut qu’elle s’adapte, qu’elle apprenne ta voix, qu’elle s’améliore, etc.
Christian : Non.
Manu : Non. Tu as un micro et le micro envoie le son au serveur des GAFA et c’est le serveur…
Luc : Donc ce n’est pas traité localement.
Manu : Mais le déclenchement lui-même peut-être qu’il a un petit truc. Oui !
Christian : La détection d’Alexa et de OK Google, d’un point de vue analyse de son, c’est relativement facile à faire. D’ailleurs il y avait des produits qui existaient dans les années 80 pour déjà réaliser des commandes sur des fauteuils roulants par exemple, mais c’était très limité.
Luc : C’est Microsoft qui, pendant des années, a dit : « Ça y est, on a le logiciel, vous allez parler et puis il va faire la transcription » et à chaque fois ça foirait.
Christian : Pas qu’eux. C’est IBM.
Luc : C’était IBM ? Et tous les trois ans-quatre ans, ils se plantaient ; ça ne marchait jamais.
Mag : Moi j’en aurais rêvé pour le groupe Transcriptions, un logiciel qui me fasse ça.
Christian : Un jour ça viendra. En tout cas, les fonctionnalités sont superbes, mais il y a moyen de se passer des GAFAM et de ces grands systèmes pour arriver à les réaliser. Pour regarder son chat en vidéo chez soi, on n’a pas besoin de faire passer le flux vidéo par les États-Unis et les serveurs d’Amazon !
Manu : Non ! Mais les serveurs d’Amazon vont te permettre de commander les croquettes du chat et là, Amazon va être enchanté, va se frotter les mains. Les croquettes du chat, ce sont des milliards de dollars !
Luc : Mais si ton système parle le chat, le chat peut commander ses croquettes tout seul !
[Rires]
Manu : Oui. Mag parlait tout à l’heure d’un bouton sur lequel on appuyait pour faire une commande.
Luc : Le chat a trouvé le truc.
Manu : C’est exactement ça, pour que le chat puisse appuyer sur un bouton et commander lui-même.
Luc : Concernant ces assistants il y a aussi des contre-performances. Chez Next INpact ils ont fait un test, ils ont essayé de commander une pizza avec Alexa et ils ont galéré, vraiment, en s’apercevant que commander une pizza ce n’est pas si simple que ça parce qu’il y a plusieurs tailles de pizzas, il y a plein de pizzas différentes.
Manu : Et puis il ne faut pas oublier l’adresse et le mode de paiement.
Luc : Voilà ! Et tu peux mettre des options. Tu peux dire : je voudrais un peu plus de fromage, un peu de ceci, un peu de cela, je veux une boisson, je veux le payer. Et ils ont vaguement réussi à obtenir une pizza, mais ils étaient très loin d’avoir ce qu’ils voulaient et c’était finalement beaucoup plus compliqué que de tapoter sur une appli, sur leur téléphone portable.
Christian : Est-ce que derrière il y a des vraies intelligences artificielles qui sont capables de traiter, comme ça, des sujets très complexes ?
Manu : Tu veux dire que les enjeux économiques sont tels que peut-être, parfois, on peut passer outre l’intelligence artificielle ?
Christian : Carrément ! Il y a un excellent article dans le journal Le Monde du 3 janvier qui est intitulé « Derrière l’illusion de l’intelligence artificielle la réalité précaire des travailleurs du clic » [1], où il y a une anecdote fantastique du jeune diplômé qui rentre dans une boîte, qui est passionné d’intelligence artificielle et c’est une boîte qui propose des produits adaptés spécifiquement aux célébrités. Du coup il dit : « Waouh ! Elle est où votre intelligence artificielle ? Ils sont où les serveurs ? Je peux les voir ? Je peux les voir ? » Il fait tous les bureaux de l’entreprise et, en fait, il n’y a rien ! Il dit : « Qu’est-ce que se passe ? Pourquoi vous n’arrêtez pas d’appeler en Inde ? — Eh bien parce qu’en fait on n’est pas capables de le faire, ça coûterait trop cher, c’est trop compliqué. Donc on sous-traite ! »
Manu : Une intelligence indienne.
Luc : On retombe sur les problématiques qu’il y a aussi avec la voiture autonome disant le milieu naturel est complexe. Moi j’ai eu une période de ma carrière professionnelle où je gérais des activités d’information, de relation client, dans des domaines de l’information de voyageurs dans le transport public. Déjà, pour savoir ce que veut quelqu’un, d’où il part, où il va, quel horaire, etc., c’est compliqué. Souvent les données sont incomplètes, notamment dans toutes les bases de données de transport, etc., il y a plein d’erreurs.
Manu : Parfois fausses !
Luc : Les gens également, ne serait-ce que par rapport à cette question d’espace, ils ont des noms qu’ils utilisent au quotidien et qui ne sont pas nécessairement les noms qui sont dans les systèmes cartographiques. Dans le transport public c’est compliqué parce que dans certaines lignes, en fonction des dates, ça marche, ça ne marche pas, etc. Les gens qui font ce boulot-là sont obligés d’aller chercher les infos à la pêche, pas tout le monde, mais vraiment souvent aller les sortir, aller les extraire aux forceps, donc ça demande de l’intelligence et ça demande de comprendre.
Manu : De l’intelligence naturelle.
Luc : Voilà !
Manu : Ceci dit, on peut supposer que c’est une question de moyens et de temps parce que, vraisemblablement, il y a des enjeux économiques qui font qu’il y a une grosse motivation pour arriver ou, en tout cas, pour aller dans cette direction-là. Donc les assistants, les majordomes de maison qui sont personnalisés et qui, comme dans les films de science-fiction, répondent à tous nos besoins, il y a des gens qui bossent dessus, des gens très intelligents. Peut-être qu’ils n’arriveront pas à une solution ultime, clairement, mais ils vont avancer.
Luc : Pour moi il y a cette hypothèse, je ne l’affirme pas de façon absolue, que pour réellement comprendre quelqu’un il faut être intelligent. Du coup, le jour où une intelligence artificielle arrivera à comprendre réellement des humains, sachant que les humains ont des fois du mal à se comprendre entre eux, alors ça veut dire que ce ne sera plus une intelligence artificielle mais que ce sera une intelligence pleine et complète et qu’on aura un ordinateur conscient. On en est très loin. On n’a pas le début du commencement de l’idée de comment on pourrait faire ça.
Christian : Des petites boîtes peuvent quand même rendre service sur des commandes simples : changer une chaîne de télé ce n’est pas très intelligent ; ouvrir la porte du chat ce n’est pas très intelligent. Donc heureusement, il y a des projets libres d’assistants vocaux qui naissent, qui éclosent, pour en citer un, Mycroft [2] qui est basé sur du Raspberry [3] ; Raspberry ce n’est vraiment pas puissant ! Ils arrivent quand même à faire des choses intéressantes : plusieurs dizaines de commandes. Si on veut quand même s’amuser, à priori il y a de quoi faire dans le monde du Libre. Une fois de plus, on n’a pas besoin des GAFAM pour avancer vers le futur.
Luc : Plein de trucs à construire dans le monde de l’informatique libre. On va y travailler cette semaine. On reviendra avec un prototype lundi prochain.
Christian : Et on sera remplacés, nous ?
Luc : Oui, bien sûr ! Allez ! Bonne semaine tout le monde.
Manu : À la semaine prochaine.
Christian : Salut.
Mag : Salut.