[Générique] L'informatique doit être au service de chaque citoyen.
[Générique] Son développement doit s'opérer dans le cadre de la coopération internationale.
[Générique] Elle ne doit porter atteinte ni à l'identité humaine, ni aux droits de l'homme, ni à la
[Générique] vie privée, ni aux libertés individuelles ou publiques.
[Gaël] Bonjour, vous écoutez RdGP, le podcast sérieux qui vous emmène au cœur des enjeux des
[Gaël] droits numériques, des libertés individuelles et de la vie privée.
[Gaël] Bienvenue dans cette nouvelle revue de l'actu numérique. Aujourd'hui, je suis accompagné de Benjamin.
[Gaël] Bonjour Benjamin !
[Benjamin] Salut Gaël, bonjour à toutes et à tous !
[Delphine] Bonjour, vos droits à l'assurance chômage viennent d'être révoqués.
[Delphine] Votre dossier a été sélectionné automatiquement par nos outils à partir de données objectives
[Delphine] et quantifiables dans le cadre d'une procédure de contrôle entièrement optimisée.
[Delphine] Votre niveau de formation, votre ancienneté d'inscription, vos rendez-vous manqués,
[Delphine] la visibilité de votre profil et l'existence de votre CV ont collectivement estimé que
[Delphine] votre situation ne correspondait pas à nos indicateurs clés.
[Delphine] Merci de ne pas le prendre personnellement. Personne
[Delphine] n'a décidé. L'algorithme, lui, ne ressent absolument rien pour vous.
[Delphine] Bonjour. Votre arrêt maladie a été identifié comme statistiquement atypique.
[Delphine] Sa durée, sa fréquence, votre historique professionnel et le nombre moyen d'arrêts
[Delphine] constatés chez des personnes présentant un profil similaire au vôtre ont conduit notre
[Delphine] système à réévaluer automatiquement votre état de santé.
[Delphine] Cette notification ne remet pas en cause votre maladie.
[Delphine] Votre demande de logement social vient d'être classée sans priorité.
[Delphine] La composition de votre foyer, vos revenus, votre commune de résidence...
[Delphine] Votre demande d'aide liée à votre handicap vient d'être suspendue.
[Delphine] …la durée depuis laquelle vous attendez… L'analyse de vos déplacements, de vos démarches
[Delphine] administratives et de votre capacité à compléter seul le formulaire… Votre demande
[Delphine] d'accompagnement scolaire vient d'être refusée. Bonjour, le nombre d'élèves
[Delphine] concernés, …les ressources disponibles et les probabilités de réussite
[Delphine] calculées pour votre enfant ne permettent pas de considérer son
[Delphine] …une consommation anormalement élevée au regard de vos revenus. Bonjour, cette notification ne signifie
[Delphine] pas que votre enfant n'a pas besoin d'aide… Bonjour… elle réduit automatiquement votre
[Delphine] (Bourdonnement)
[Delphine] …aux personnes qui ne parviennent plus à payer leur consommation.
[Delphine] Bonjour.
[Delphine] Pour réduire votre facture, nous vous recommandons de moins vous chauffer.
[Delphine] Bonjour.
[Gaël] Bonjour et bienvenue dans la nouvelle ère, nous en avons terminé avec l'oppression
[Gaël] artisanale.
[Gaël] Bienvenue dans l'ère de l'industrialisation de la précarité, une violence propre, moderne,
[Gaël] efficace, commise en col blanc et validée par des intelligences artificielles qu'il
[Gaël] est impossible de convoquer devant un tribunal.
[Gaël] Car personne n'a décidé.
[Gaël] On a beaucoup parlé des algorithmes chasseurs de primes de Capgemini qui aidaient l'ICE, notre
[Gaël] expertise française de l'atrocité, et bien visiblement cette passion ne touche pas que
[Gaël] le privé.
[Gaël] Nos services publics ont également rejoint la grande chapelle de l'algorithmie et vénèrent
[Gaël] également le dieu IA.
[Gaël] "La Quadrature du Net" vient de publier un article qui parle de cette nouvelle religion au sein de France Travail
[Gaël] après avoir déjà documenté des pratiques similaires à la CAF et à l'assurance maladie.
[Gaël] Le dogme est simple.
[Gaël] Le Très Saint Algorithme, lui, n'a pas de préjugés, seulement des variables, issues de préjugés
[Gaël] probablement, mais qui sommes-nous pour remettre en question le divin ?
[Gaël] Soyez rassurés, personne ne décide de votre avenir.
[Gaël] Aujourd'hui France Travail prend les résultats de 60 000 contrôles passés et les utilise
[Gaël] pour apprendre à une machine à repérer les personnes qui devraient être contrôlées
[Gaël] en priorité.
[Gaël] C'est Minority Report, même si, dans Minority Report, ils avaient au moins la décence de
[Gaël] conserver trois personnes dans une piscine pour établir leurs listes.
[Gaël] Les personnes inscrites à France Travail sont classées en fonction de 26 variables,
[Gaël] leur niveau de formation, leur ancienneté d'inscription, leurs absences à des
[Gaël] rendez-vous, la visibilité de leur profil, la présence de leur CV, leurs
[Gaël] activités déclarées, etc. Ensuite la machine fait remonter les
[Gaël] profils considérés comme suspects, elle ne juge pas, encore, elle-même les
[Gaël] dossiers. Mais pour combien de temps ?
[Gaël] Ce système ne tombe pas du ciel, il intervient dans un contexte où le nombre de contrôles
[Gaël] est passé de 200 000 en 2017 à 730 000 en 2025 avec un objectif gouvernemental de 1,5
[Gaël] million en 2027.
[Gaël] L'algorithme n'est pas à l'origine de cette politique.
[Gaël] Il permet de l'industrialiser.
[Gaël] Personne ne décidera non plus d'étendre le système à l'hôpital public, qui décidera
[Gaël] de si vous avez ou non le droit d'être soigné, personne ne va décider de si votre
[Gaël] handicap vous donne ou non le droit d'accéder à des aides, personne ne va décider de si
[Gaël] vous avez le droit ou non de vous loger.
[Gaël] personne n'aura décidé. Et c'est là tout le génie du système : puisque Personne
[Gaël] ne prend la décision, personne ne vous répondra le jour où vous vous
[Gaël] plaindrez. La direction a fixé les objectifs, les ingénieurs ont mis en
[Gaël] place les variables, la machine a sélectionné votre dossier, le contrôleur a
[Gaël] suivi la recommandation, le responsable a validé la procédure. Cinq niveaux de
[Gaël] décision et personne n'aura réellement décidé.
[Gaël] L'algorithme est formel, vous êtes coupable, vous n'avez pas besoin de passer
[Gaël] devant un juge.
[Gaël] Personne n'a décidé, qui vous écoutera ?
[Gaël] La violence d'État n'a pas attendu l'IA.
[Gaël] mais ces outils permettent de remplacer des décisions assumées par une question technique.
[Gaël] Ils éloignent les humains de la violence qu'ils font subir à d'autres.
[Gaël] Alors on ne dit plus "Nous avons choisi de surveiller davantage les personnes précaires".
[Gaël] On dit "Le système a identifié certains dossiers qui nécessitent un examen approfondi".
[Gaël] La violence reste la même, elle a juste enfilé une chemise blanche et a pris un vocabulaire de consultant.
[Gaël] Depuis quelques mois, tout le monde se prétend souverain, tout le monde met en avant les valeurs françaises.
[Gaël] Alors permettez-moi d'en rappeler quelques-unes.
[Gaël] Déjà en démocratie, seul le peuple est souverain.
[Gaël] au centre de notre devise française se trouve l'égalité, la fraternité la complète.
[Gaël] Les Français se sont battus pour un modèle social proche de l'adage de Louis Blanc,
[Gaël] de chacun selon ses moyens à chacun selon ses besoins.
[Gaël] pas selon notre score, pas selon notre profil, pas selon notre ressemblance statistique
[Gaël] avec un fraudeur passé.
[Gaël] Alors, il faut continuer à combattre ces systèmes avant que leur fonctionnement ne
[Gaël] nous paraisse naturel, avant que chaque injustice soit transformée en indicateur, avant que
[Gaël] chaque choix politique soit dissimulé derrière une interface, avant que chaque responsable
[Gaël] puisse regarder ailleurs en déclarant "ce n'est pas moi, c'est l'algorithme".
[Gaël] Depuis le début de cette chronique, je vous mens, personne n'a décidé est un mensonge,
[Gaël] quelqu'un décide des objectifs et des critères, ce sont des choix politiques et des choix
[Gaël] de société.
[Gaël] Pierre Mendès France disait :
[Gaël] L'abdication d'une démocratie peut prendre deux formes, soit le recours à une dictature
[Gaël] interne par la remise de tous les pouvoirs à un homme providentiel, soit la délégation
[Gaël] de ces pouvoirs à une autorité extérieure, laquelle, au nom de la technique, exercera
[Gaël] en réalité la puissance politique.
[Gaël] L'algorithme n'est pas un dieu, c'est un outil, et derrière chaque outil, il y a
[Gaël] toujours quelqu'un qui décide.
[Benjamin] Eh bien merci Gaël pour cette chronique qui nous met en joie et nous remplit le cœur de bonheur à la veille des vacances.
[Gaël] Merci, comme ça au moins on pourra tous aller à la plage l'esprit tranquille.
[Benjamin] Mais oui, oui, alors moi je t'avais dit en préparant cette émission, ah la semaine dernière, devine où j'étais.
[Gaël] Ah oui ? T'étais où ?
[Benjamin] J'étais à Wikimania, 2026.
[Gaël] Attends, t'es sûr ? Tu peux le prouver ça ?
[Benjamin] Paris. Alors oui, alors je peux le prouver, il y a une photo qui circule où les 1 200 et quelques
[Benjamin] participants sont sur la photo et je suis dessus et pour me retrouver c'est pas dur je suis celui
[Benjamin] qui a un badge Wikimania avec un tour de cou vert et un appareil photo
[Gaël] Tu l'as posté quelque part ?
[Benjamin] Alors non, je ne l'ai pas posté, mais il y a plein de gens qui l'ont posté.
[Gaël] Je suppose qu'on peut le retrouver sur Wikimédia France.
[Benjamin] Euh… Wikimédia France… Pas sûr,
[Gaël] En parlant de… Wikimédia.
[Benjamin] mais sur les réseaux sociaux beaucoup, depuis hier.
[Gaël] Alors qu'est-ce que tu as ? Est-ce que tu peux nous parler de la semaine dernière ?
[Benjamin] Alors ma semaine dernière visiblement elle était plus joyeuse que la tienne.
[Gaël] Juste pour revenir sur ça.
[Benjamin] En tout cas, elle était porteuse d'espoir.
[Gaël] Je vous conseille d'aller lire cet article de la quadrature du net, qui remet en cause les algorithmes de France Travail.
[Gaël] Ça fait vraiment froid dans le dos et surtout en fait, ça fait 2-3 semaines qu'on est plutôt dans la surveillance de masse, la science-fiction qui s'est mise en place, etc.
[Gaël] Bon ben c'est juste un exemple de plus quoi.
[Benjamin] Et d'ailleurs, pendant que tu le dis, bien évidemment, comme d'habitude, on mettra le lien dans les shownotes,
[Benjamin] mais également depuis quelques semaines, peut-être que certaines et certains l'ont remarqué,
[Benjamin] je mets également les liens dans les chapitres.
[Benjamin] Ce qui fait que si vous utilisez une application compatible Podcasting 2.0, ou « podcasting two point oh » comme ils disent outre-Atlantique,
[Benjamin] et bien au moment où vous écoutez, vous pouvez cliquer sur le lien qui apparaît sur votre lecteur de podcast sur votre téléphone portatif,
[Benjamin] portatif.
[Benjamin] Par exemple, et vous allez directement à la source de l'information, on n'arrête pas le progrès.
[Gaël] Moi j'avais complètement oublié, et t'as réussi à le placer, et donc félicitations.
[Benjamin] C'est encore mieux qu'une transition classe.
[Gaël] C'était encore mieux qu'une transition classe.
[Gaël] Donc la joie
[Benjamin] Non mais c'est toi qui m'y a fait penser, merci.
[Gaël] de la semaine dernière.
[Benjamin] La joie... Ouais, alors Wikimania, moi c'était ma première, d'ailleurs je crois qu'on était un tiers des gens qui étaient présents, c'était la première fois qu'ils se rendaient à Wikimania.
[Benjamin] Wikimania, c'est pour simplifier, l'événement annuel de Wikipédia. Donc Wikipédia et tous les projets qui gravitent autour, ça change de pays tous les ans.
[Gaël] - Tu y étais en quelle qualité toi ?
[Benjamin] Et donc cette année c'était à Paris et j'y étais à plusieurs titres.
[Benjamin] D'ailleurs les gens avaient du mal à… Non j'ai plusieurs casquettes.
[Gaël] Y'a même plusieurs tours de coups de différentes couleurs du coup.
[Benjamin] Et non, je n'avais qu'un seul tour de cou, vert, parce que j'étais là en tant que partenaire puisque LINAGORA, la société qui nous emploie,
[Benjamin] était partenaire de l'événement et fournissait à titre gracieux la solution LinTO,
[Benjamin] qui permet de transcrire et de traduire en temps réel des conférences. Alors il faut savoir que cette
[Benjamin] année les organisatrices et organisateurs avaient choisi d'essayer de mettre en avant déjà la
[Benjamin] diversité culturelle et d'encourager les gens à parler non pas en anglais mais aussi en français,
[Benjamin] en espagnol, en italien, en arabe.
[Benjamin] Et il y avait des interprètes qui étaient là dans les salles principales et qui, au travers d'un casque que les gens pouvaient mettre sur les oreilles, profitaient des conférences traduites dans une de ces six langues.
[Gaël] c'était plus simple si tout le monde avait eu des lunettes Meta, parce que les sous-titres ils...
[Benjamin] Non, alors les lunettes Meta, elles n'affichent pas, mais elles peuvent te le dire sur la
[Gaël] Oui, elle est zut.
[Benjamin] tempe, par conduction.
[Benjamin] Mais en fait, Wikimania, il y a énormément de conférences et tu ne peux pas mettre des
[Benjamin] interprètes dans toutes les salles, ce n'est pas possible.
[Gaël] parce que vraiment à chaque fois que tu dis interprète, moi
[Benjamin] Ouais.
[Gaël] j'ai Kaamelott, le roi burgonde qui me vient en tête.
[Benjamin] Lorànt Deutsch, qu'on adore.
[Gaël] Exactement, donc...
[Benjamin] Pour ses qualités d'interprète, pas d'historien.
[Gaël] Tu ne l'adores pas personnellement ?
[Benjamin] Je ne l'adore pas personnellement, oui.
[Gaël] Je ne connais pas en fait.
[Benjamin] ne
[Gaël] Allez, continue, enchaîne.
[Benjamin] le connais pas. Sur huit salles on a installé LinTO qui permettait de suivre par le biais, le
[Benjamin] truchement d'un QR code, les transcriptions et les traductions dans cinq langues différentes
[Benjamin] pendant toute la semaine de mardi à samedi inclus.
[Gaël] J'entends parler de LinTO et c'est un produit de LINAGORA donc du coup ça fait quelques années que je le vois circuler etc pour le POSAIS d'il y a deux ou trois semaines c'était la première fois que je le voyais en live et franchement je me suis dit que c'était vraiment bien donc voilà
[Benjamin] Tu l'avais jamais vu avant, je t'avais jamais fait de démo.
[Gaël] en live j'avais
[Benjamin] Ah !
[Gaël] vu LinTO fonctionner sur du compte rendu etc mais pas sur du
[Benjamin] Parce que LinTO, alors, on va...
[Benjamin] pas faire une émission
[Gaël] Ouais ouais, c'est pas une émission LinTO !
[Benjamin] sur LinTO mais c'est un système qui permet de faire de la transcription
[Benjamin] et de la traduction, qui permet de le faire en temps réel, qui permet de le faire en
[Benjamin] temps différé, qui permet de gérer tout un tas de contenu et qui peut être utilisé
[Benjamin] sur du podcast, qui est agnostique, on peut utiliser plusieurs types de moteurs d'ASR, donc automatic
[Benjamin] speech recognition, donc historiquement c'était surtout du Vosk, du Kaldi, avec des modèles entraînés
[Benjamin] et créés par LINAGORA.
[Benjamin] Mais ça peut être du Whisper, et aujourd'hui on utilise pas mal de Voxtral,
[Gaël] - Merci beaucoup. - Merci beaucoup.
[Benjamin] ça peut être du Parakeet, etc.
[Gaël] C'est pas une émission spéciale, mais on a quand même avec nous
[Benjamin] - Mais je peux... - Le créateur de LinTO ?
[Gaël] le créateur de LinTO.
[Benjamin] Ah non, non, je ne suis pas le créateur. Le créateur, c'est Damien.
[Gaël] Mais non, je rigole, c'était une blague, on a Damien avec nous qui a créé le...
[Benjamin] Non, Damien n'est pas avec nous, Damien est en vacances.
[Gaël] Wikimania.
[Benjamin] ça c'était ma première
[Gaël] Ensuite.
[Benjamin] casquette. J'avais une deuxième casquette beaucoup plus informelle
[Benjamin] de photographe puisque je suis membre du collectif WikiPortraits qui prend des photos pour Wikimedia
[Benjamin] Commons. Exactement, merci
[Gaël] les personnes de la dernière.
[Benjamin] de
[Gaël] (rires)
[Benjamin] le rappeler. Si vous allez voir Guillaume Murray sur Wikipédia,
[Benjamin] c'est ma photo normalement, enfin elle a peut-être été changée, mais en tout cas c'était
[Gaël] Non, c'est sa photo, lui.
[Benjamin] C'est de sa photo à lui, prise par moi, merci.
[Gaël] - Merci beaucoup. - Merci beaucoup.
[Benjamin] Et puis enfin j'ai donné une petite conférence sur l'intelligence artificielle puisque l'intelligence artificielle est au cœur des problématiques de Wikipédia
[Benjamin] puisque Wikipédia et tous les sites apparentés
[Gaël] Hmm.
[Benjamin] Wikisource, Wikidata, ont été énormément utilisés pour entraîner des IA
[Benjamin] Et en retour, ils se font...
[Gaël] rien.
[Benjamin] puisqu'aujourd'hui Google n'affiche même plus de lien vers les sites,
[Benjamin] il affiche directement le résultat, ce qui entraîne des baisses de dons,
[Benjamin] puisque les gens ne vont même plus sur les sites.
[Benjamin] Et donc le rapport à l'IA est assez compliqué et donc l'idée c'était d'expliquer un peu
[Benjamin] déjà nous ce qu'on fait, parce qu'on fait des modèles ouverts et totalement open source
[Benjamin] pour créer des communs numériques et que les gens puissent en bénéficier, savoir
[Benjamin] comment ça marche, les auditer, etc.
[Benjamin] Et comment est-ce qu'on peut quand même utiliser l'IA puisque Wikimédia France a publié une
[Benjamin] note qui recommande de ne pas utiliser l'IA pour la rédaction d'articles Wikipédia.
[Gaël] Oui.
[Benjamin] et donc l'idée c'était de dire "ouais mais alors..."
[Benjamin] quoi ça sert ? Est-ce que c'est honteux d'utiliser l'IA ? Est-ce qu'on doit se cacher pour utiliser
[Benjamin] l'IA ? Est-ce qu'il y a des cas d'usage où on peut le faire ? Je pense en particulier à des trucs
[Benjamin] tout cons, la traduction.
[Benjamin] moi je pense pas qu'il y
[Gaël] vidéo Will Smith.
[Benjamin] ait de problème à faire de la traduction.
[Benjamin] Faire des vidéos de Will Smith qui mange des pâtes, ça pour le coup je trouve ça assez problématique.
[Benjamin] Mais donc il y a des usages où c'est mesuré, c'est relativement frugal pour se dire qu'on n'est pas en train de
[Benjamin] de bouffer des litres de flotte, qu'aurait pu servir à éteindre des incendies.
[Benjamin] Mais bon, tu vois l'idée, encore
[Gaël] Bon après, ouais.
[Benjamin] que ce que j'ai lu ce week-end, je pense que c'était peut-être du 2ème degré,
[Benjamin] si au lieu de toutes ces forêts on avait foutu des datacenters, il n'y aurait pas le feu.
[Gaël] Et puis en plus moi je trouve ça dommage, toute l'eau qu'on a utilisée là pour sauver nos forêts, t'imagines le nombre de requêtes Claude qu'on aurait pu faire ?
[Benjamin] d'affaire
[Gaël] Donc, en cette période de grande chaleur de canicule, je vous recommande de faire comme Benjamin de consommer beaucoup d'eau et de porter des casquettes, une seule ça suffira.
[Benjamin] une seule, ça suffit.
[Gaël] Est-ce qu'il y a une conférence en particulier que tu as retenue ou en tout cas dont tu voulais nous parler ?
[Benjamin] Alors il y en a beaucoup. Déjà, il y a eu la conférence de presse à laquelle étaient présents Rémy Gerbet, de Wikimédia France, Bernadette Meehan, la directrice générale de la Wikimedia Foundation, et Jimmy Wales, le créateur de Wikipédia.
[Benjamin] Il y a eu également, en marge de l'événement aux archives nationales, la présentation
[Benjamin] d'un livre blanc publié par Wikimédia France dont j'ai posté un extrait sur les réseaux
[Benjamin] sociaux et parce qu'il milite entre autres pour le logiciel libre de manière franche,
[Benjamin] claire, explicite et c'est toujours plaisant.
[Gaël] ils ont pas dit "open source", ils ont dit "logiciel libre".
[Benjamin] Ils ont parlé d'open source parce que souvent quand il y a du logiciel libre, il y a de l'open source pas loin mais ils ont bien dit logiciel libre, une des idées étant argent public code public.
[Benjamin] on applaudit des deux mains. Bien évidemment c'était Xavier Cailleau qui portait ce discours.
[Gaël] On a parlé très rapidement en intro, je pense que ce n'est pas exactement les affaires de Wikimédia en général, alors pourquoi Wikimédia France, pourquoi pas mais...
[Benjamin] C'est les affaires de Wikimédia France de faire en sorte qu'on crée des communs numériques.
[Gaël] Voilà.
[Benjamin] C'est-à-dire que depuis 25 ans Wikipédia crée des communs numériques sur le travail de tout le monde.
[Benjamin] Il me semble que quand on dit que tout le monde contribue en payant ses impôts à concevoir des systèmes informatiques,
[Benjamin] c'est assez cohérent de demander à ce qu'ils soient en code libre.
[Gaël] Donc comme un numérique, j'entends que ce soit une partie de leur mission et c'est normal que ça fasse partie de leur message.
[Gaël] Il y avait toute une partie aussi sur la souveraineté, même si c'est Wikimédia France.
[Gaël] En fait, ils dépendent de Wikimedia, etc., qui me semble une association états-unienne.
[Gaël] Et voilà, bon, toutes les voies sont bienvenues, je crache pas.
[Benjamin] Wikimédia France, c'est une association française de droit...
[Gaël] Ah ils ont pas de rapport avec euh...
[Benjamin] C'est une association qui a des liens avec la Wikimedia Foundation,
[Benjamin] mais d'ailleurs
[Gaël] Ils en dépendent.
[Benjamin] les deux étaient co-organisateurs de Wikimania.
[Gaël] Ok, je pensais que c'était un même groupement, mais là c'est vraiment des gens à part, ils ont décidé de travailler ensemble, mais c'est…
[Benjamin] Alors non, je pense que les liens sont quand même
[Gaël] Ah !
[Benjamin] plus forts que ça, je veux pas dire de conneries donc j'en dirai pas plus.
[Gaël] Très bien.
[Benjamin] Mais c'est une association de droit français.
[Gaël] D'accord. Rappelez-vous du
[Benjamin] Alors
[Gaël] coup qu'on est hautement incompétents sur ça.
[Benjamin] Sur ça, et peut-être pas mal d'autres choses, l'informatique en général, le podcast.
[Gaël] informatique, l'informatique en général. Tu voulais parler de quoi d'autre ?
[Benjamin] Je voulais parler d'un sujet un peu plus léger sur lequel j'ai aussi pas du tout d'avis.
[Benjamin] À
[Gaël] Mmh.
[Benjamin] la veille des départs en vacances, vous êtes nombreux et nombreux à prendre le train.
[Gaël] Ah oui !
[Benjamin] Et on m'a rapporté, je l'ai entre les mains, alors encore un truc pas du tout radiophonique,
[Benjamin] je suis en train d'agiter, un petit morceau, un petit ruban de papier vert.
[Gaël] Un bracelet ? Ah non c'est pas un bracelet, c'est pour le mettre sur tes valises.
[Benjamin] C'est un bracelet pour mettre ton nom sur ta valise.
[Benjamin] et nouveautés, innovations technologiques de pointe, un QR code, je sais
[Gaël] Je déteste ça. Je le vois. Ah, ça me hérisse le poil.
[Benjamin] que tu adores les QR codes.
[Benjamin] En fait non, j'ai vraiment pas beaucoup d'avis sur la question parce que j'ai pas vraiment réfléchi et puis non, je me sens pas tout à fait compétent.
[Benjamin] Évidemment on est en plein dans l'illectronisme parce que si t'as pas de téléphone et que tu sais pas t'en servir, tu peux pas flasher le QR code donc tu peux plus mettre ton nom sur ta valise.
[Benjamin] Après rien ne t'empêche de mettre toi-même ton nom sur ta valise.
[Gaël] À quoi sert le QR code ?
[Benjamin] Alors à quoi sert le QR code ? En fait, si tu remarques bien, vous ne voyez pas, puisque c'est un podcast,
[Benjamin] mais il n'y a aucune zone pour écrire son nom,
[Benjamin] ni son numéro de téléphone, puisqu'aujourd'hui ce que la SNCF demande
[Benjamin] c'est d'avoir un nom et un numéro de téléphone pour que au cas où votre
[Benjamin] valise soit égarée, plutôt que d'être détruite et qu'ils soient obligés
[Benjamin] d'appeler le déminage, on puisse vous appeler tout de suite et dire "viens chercher ta valise"
[Benjamin] Donc là il n'y a aucune zone où on peut écrire. Pourquoi ? Parce qu'il y a un QR code, on flashe le QR code et le QR code est différent pour chacun des tags,
[Benjamin] chacune des étiquettes. Ça va
[Gaël] Oui, oui.
[Benjamin] arriver sur une page où tu vas pouvoir saisir tes coordonnées, les enregistrer, ce qui fait qu'après cette étiquette est liée à toi.
[Benjamin] la nouveauté, ce qu'apporte ce type d'étiquette, c'est que
[Benjamin] Si quelqu'un trouve ta valise et qu'il scanne le QR code, il ne pourra pas accéder à ton
[Benjamin] numéro de téléphone et à ton nom.
[Benjamin] Donc en fait, on protège tes données personnelles, et n'importe qui ne peut pas les lire.
[Benjamin] Par contre, les employés de la SNCF, eux ont une application spéciale, et eux pourront
[Benjamin] accéder à ton numéro de téléphone pour t'appeler.
[Benjamin] Donc, qu'est-ce qu'on a gagné ?
[Gaël] Attends, je vois sur "Bonjour la fuite", il y a un nouveau...
[Benjamin] C'est que, eh ben, on ne peut pas te voler ton nom et ton numéro de téléphone si on
[Benjamin] trouve ta valise dans un train ou dans une gare.
[Benjamin] Donc, je pense que dans l'esprit des concepteurs, c'est vu comme
[Benjamin] un bienfait pour la protection de tes données personnelles, puisque,
[Benjamin] imagine le nombre de fois que des gens se sont fait voler leur nom et leur
[Benjamin] numéro de téléphone sur leur valise dans une gare.
[Gaël] Bah oui, des millions de personnes, je te regarde avec un regard un peu dubitatif.
[Benjamin] Tu sais pas si c'est du lard ou du cochon.
[Gaël] Ouais, exactement. Et surtout en fait, c'est toujours pareil, ça va fuiter probablement, ils vont se faire pirater, bon après, l'importance des informations ou quoi que ce soit, mais surtout je me dis, génial, mais si j'étais pirate
[Benjamin] Ouais ?
[Gaël] là merci, dans les gares je mettrais ce genre de tags, je les
[Gaël] puisque c'est pas un lien, c'est un QR code que tu scannes.
[Gaël] imprime exactement les mêmes, sauf qu'en fait je mets un QR code
[Gaël] Tu sais maintenant, les entreprises ont interdit de scanner des QR codes...
[Benjamin] Donc tu pourrais faire des faux pour récupérer des données.
[Gaël] Exactement.
[Benjamin] Bon, tu vas récupérer des noms et des numéros de téléphone, mais...
[Gaël] - Ben pourquoi ? Enfin, je veux dire, si c'est une page qui ressemble exactement à celle SNCF, etc,
[Benjamin] Oui oui oui oui oui, ah oui non mais...
[Gaël] tu demandes le RIB, tu demandes une pièce d'identité, tu vois ce que je veux dire ? En fait, c'est...
[Benjamin] C'est un mauvais réflexe tu veux dire.
[Gaël] De quoi ?
[Benjamin] ce type d'outils, alors je vérifie le nom de domaine, et on est quand même en sncf.com, déjà
[Gaël] Oui mais tu vois si j'appelle ça SM... SMCF
[Benjamin] Oui, bagage-sncf.com, on
[Gaël] - Ah ouais.
[Benjamin] ne va pas donner de mauvaises idées, mais oui, on sait bien.
[Gaël] Non bah ok bah pfff
[Benjamin] Alors pour la petite histoire, la personne qui me l'a rapporté, puisque je n'ai pas pris le train,
[Benjamin] puisque j'étais à Paris, à la Cité des Sciences et de l'Industrie pour Wikimania,
[Gaël] Et puis toi tu te déplaces quasiment qu'en avion, toi !
[Benjamin] En hélicoptère.
[Gaël] - Oh, d'accord. - Euh...
[Benjamin] Et donc le copain qui me l'a filé, il se trouve qu'il est résident étasunien.
[Gaël] Ouais.
[Benjamin] que dans le formulaire tu peux saisir ton numéro de téléphone et tu dois saisir non pas l'indicatif
[Benjamin] mais le pays
[Gaël] - Mhmm.
[Benjamin] et donc t'as Belgique, France, Allemagne, Irlande, Italie, Luxembourg, Pays-Bas,
[Benjamin] Portugal, Espagne, Suisse, Royaume-Uni et c'est tout.
[Gaël] voilà.
[Benjamin] Il n'y a pas les États-Unis. Donc il a demandé à une préposée qui était là : « Comment je fais, puisque moi je ne peux pas saisir mon numéro ? » Et la fille lui dit : « Ben, vous mettez n'importe quoi. »
[Benjamin] Authentique, je
[Gaël] *rire*
[Benjamin] n'invente rien.
[Gaël] Oui, bon après tu vois, je pense que c'est le genre de truc...
[Benjamin] On était sur un cas limite, mais c'est quand même pas mal qu'ils n'aient pas pensé...
[Benjamin] Pour le coup, je trouve ça bizarre d'avoir mis il y a combien ? 8 pays ?
[Gaël] mais que des pays européens.
[Benjamin] que les pays européens.
[Gaël] pas que de l'Union européenne parce qu'il y a le United Kingdom, mais des pays européens
[Gaël] qui sont...
[Benjamin] Ouais s'il y en a un peu plus... ouais enfin bon bref.
[Gaël] Ok, mais ensuite, donc la personne qui a dit ça, je pense que c'est une nouvelle technologie qui est arrivée.
[Gaël] Elle n'a jamais été formée ou quoi que ce soit, peut-être même qu'elle ne connaît même pas la page.
[Gaël] Et donc du coup, forcément quand on lui dit qu'il y a un problème sur le truc,
[Gaël] bah tu vois, elle est désolée mais elle ne peut pas t'aider cette personne.
[Gaël] - Ouais. - Oui, bon...
[Benjamin] Bon bref, on va conclure en disant, si vous partez en vacances,
[Benjamin] prévoyez vos étiquettes avec votre nom et votre numéro de téléphone à l'avance
[Benjamin] parce que c'est pas tout à fait gagné avec le...
[Gaël] et cachez-la avec la main
[Benjamin] - Ok.
[Gaël] pour pas qu'on vous vole vos...
[Benjamin] Non mais en plus maintenant les étiquettes souvent elles se ferment, c'est-à-dire qu'il faut faire une opération pour sortir le nom, donc le truc...
[Gaël] Ouais c'est une opération que les démineurs seulement peuvent faire
[Benjamin] Exactement, exactement.
[Gaël] *rires*
[Gaël] Très bien.
[Gaël] Est-ce qu'on a d'autres choses ?
[Gaël] Ah oui on a oublié de le dire, c'est la dernière émission de l'année.
[Benjamin] Alors moi je voulais qu'on reparle d'Anthropic mais...
[Gaël] bien sûr.
[Benjamin] Alors on reparle d'Anthropic d'abord ?
[Gaël] Et après on dit que c'est la dernière émission de l'année, donc oubliez ce que je viens de dire.
[Benjamin] On n'a rien dit ? Non, mais
[Gaël] Bon, là, oui.
[Benjamin] c'est pas la dernière émission, non, non, non.
[Benjamin] C'était juste une nouvelle qu'on a vue passer la semaine dernière.
[Benjamin] Anthropic paye 1,5 milliard de dollars aux auteurs pour éviter d'aller au procès.
[Benjamin] Donc ça fait longtemps qu'on dit que la plupart des gros IA ont allègrement pillé
[Benjamin] des contenus protégés par le droit d'auteur.
[Benjamin] Ce qui est pratique dans les IA, c'est qu'une fois que les modèles sont entraînés, c'est des boîtes noires, on ne sait pas ce qu'il y a dedans,
[Benjamin] sauf
[Gaël] - Mmh.
[Benjamin] quand on conçoit des IA ouvertes où on...
[Benjamin] qu'on produit et qu'on publie.
[Benjamin] les datasets qui ont servi à l'entraînement, ce que nous on fait chez LINAGORA, mais sinon on ne sait pas du tout ce qu'il y a dedans et donc c'est pratique quand on a utilisé des contenus qui n'étaient pas du tout, pour lesquels on n'avait pas les droits.
[Benjamin] Et donc là Anthropic qui a accepté de payer 1,5 milliard donc c'est quand même pas rien pour éviter d'aller au procès et donc on peut décemment se dire que peut-être qu'effectivement ils avaient utilisé des données protégées par le droit d'auteur.
[Gaël] Ouais, moi ça me pose un peu problème, que les gens n'aillent pas au procès, je peux comprendre, t'as peur de perdre ou quoi que ce soit mais si ton droit d'auteur potentiellement, parce que là c'est 1,5 milliard pour beaucoup de monde, je pense qu'ils se sont fait piller des données et il y a toujours le débat des
[Benjamin] Alors moi ce qui me pose problème, c'est que bien souvent dans ces cas là, c'est
[Gaël] - Merci beaucoup. - Merci beaucoup.
[Benjamin] les gros qui montrent les crocs et du coup ils disent "oh là, vous énervez pas, on va vous filer de l'argent"
[Benjamin] et les petits, bah ils sont trop petits pour aller
[Gaël] Ouais...
[Benjamin] faire un procès à Anthropic ou à OpenAI
[Gaël] - Mmh.
[Benjamin] et à toutes ces boîtes là, et du coup ils se font avoir quand même, donc c'est un peu dommage.
[Benjamin] Et on parle pas des contenus qui sont...
[Benjamin] publiés sous licence libre ou presque libre, sous licence par exemple Creative Commons mais non commerciale
[Gaël] - Mmmh... - C'est bien.
[Benjamin] parce qu'il y a plein de contenus qui sont publiés sous licence libre, c'est à dire qu'on a le droit de les réutiliser,
[Benjamin] de les modifier, de les adapter mais
[Gaël] les vendre.
[Benjamin] pas pour des utilisations commerciales et donc du coup là la licence a été enfreinte.
[Benjamin] et c'est problématique et bien évidemment que si j'ai créé du contenu libre que je l'ai publié,
[Benjamin] qu'il a été utilisé de manière illégale, je ne vais pas faire un
[Gaël] sur le...
[Benjamin] procès. Donc c'est un peu triste.
[Gaël] le code il y a justement ce débat des licences, aujourd'hui il n'y a pas de bonnes licences
[Gaël] pour se protéger de ça, si c'est libre le code, et en fait même changer les licences
[Gaël] maintenant si on décide de mettre une nouvelle licence aujourd'hui sur du code, ça ne change
[Gaël] pas la licence sur laquelle elle a été publiée à l'époque.
[Benjamin] Ah bah oui, heureusement, la licence, c'est un contrat,
[Gaël] Exactement.
[Benjamin] donc quand le contrat a été établi, signé, validé par deux parties, on ne peut pas revenir dessus à moins d'être d'accord pour tous revenir dessus et faire un avenant, mais sinon, non.
[Gaël] mais aujourd'hui du coup il y a tellement de milliards de lignes de code qui ont été pillées
[Gaël] que même maintenant, changer ça, en fait, est-ce que ça change vraiment quelque chose ?
[Gaël] Tu vois, les LLM, ils ont déjà été entraînés quoi, les données, elles ont déjà été prises, etc.
[Benjamin] Je pense qu'effectivement, là, il y a eu un pillage planétaire massif et que peut-être
[Benjamin] qu'un jour on fera les comptes, mais on les fera de manière
[Gaël] *générique de fin*
[Benjamin] partielle et que de toute façon les
[Benjamin] modèles sont là maintenant. Je pense qu'on ne peut pas faire grand-chose. À mon avis, il n'y a pas
[Benjamin] beaucoup de réparation possible en tout cas.
[Gaël] C'est bon, j'ai le droit de dire que c'est la dernière émission de l'année ?
[Benjamin] a le droit de dire que c'est la dernière émission de l'année.
[Gaël] Enfin, de l'année scolaire.
[Benjamin] De l'année scolaire, parce qu'on est très scolaire chez RdGP.
[Gaël] Oh oui. Et on revient en septembre du coup ?
[Benjamin] Et on revient en septembre bien sûr !
[Gaël] Est-ce que tu voulais donner un petit mot de la fin de cette année, de...
[Gaël] Voilà, de ce que t'as bien aimé, ce que t'as moins aimé, ou quoi que ce soit.
[Gaël] Je te laisse libre, on ne l'a pas préparé, donc...
[Benjamin] Bon on l'a pas préparé si j'avais quand même dit qu'on pourrait peut-être faire un petit bilan.
[Benjamin] Puis j'ai oublié, c'est vrai.
[Gaël] Bah moi aussi j'ai oublié !
[Benjamin] Et tu t'en rappelles maintenant qu'il est temps d'aller couper
[Gaël] Oui.
[Benjamin] les micros.
[Benjamin] Ben oui, carrément, moi j'ai été ravi de faire cette année avec toi, Gaël.
[Gaël] aussi.
[Benjamin] On a commencé de manière un peu impromptue et on arrive à 45 épisodes quand même, c'est pas rien.
[Gaël] - Toujours impromptu - Toujours impromptu
[Benjamin] toujours impromptu, pas toujours préparé.
[Gaël] de plus en plus.
[Benjamin] de plus en plus, ouais peut-être, on verra, à la rentrée j'espère qu'on aura plein
[Benjamin] de nouvelles choses à dire et des nouveaux outils.
[Gaël] Tu nous teases là ? Parce que même moi j'ai un teasing.
[Benjamin] Oh là ça va faire trop de teasing là
[Gaël] Ok, très bien. Moi aussi j'ai été très content de faire cette année avec toi, avec Aeris, on a eu des invités très sympas.
[Benjamin] On n'en a pas
[Gaël] ou s'il vous plaît.
[Benjamin] eu assez, si j'ai un regret c'est qu'on n'a pas eu assez d'invités mais c'est compliqué parce que moi j'aime pas faire des émissions à distance, donc ça veut dire trouver un endroit et un moment où tout le monde est
[Gaël] - Mmh.
[Benjamin] disponible dans un environnement qui soit pas trop bruyant.
[Gaël] Je voulais dire qu'il nous faudrait un studio, c'est ça ?
[Benjamin] Il nous faudrait peut-être un studio, je ne sais pas.
[Benjamin] En tout cas, j'aurais bien aimé qu'on ait eu plus d'invités,
[Benjamin] surtout qu'on a eu plein de gens qui ont dit "Ah mais faut qu'on t'invite",
[Benjamin] et puis on n'a pas eu l'occasion de le faire.
[Gaël] On nous a beaucoup parlé de l'épisode sur les machines à voter.
[Benjamin] Hmm?
[Gaël] Donc ça, ça a bien plu.
[Benjamin] Ouais, c'était chouette.
[Gaël] Et puis voilà, moi je n'ai aucune surprise à teaser pour l'année prochaine, mais en tout cas j'ai bien hâte et peut-être qu'on tournera tous les épisodes avec nos lunettes Meta finalement.
[Benjamin] Eh bien ça, je suis sûr que non !
[Gaël] [Rires]
[Benjamin] si je te vois avec des lunettes Meta, je te le dis tout de suite, je te les enlève, je les jette
[Benjamin] par terre et je marche dessus. C'est une promesse que je te fais Gaël.
[Gaël] Ben merci, je sais que tu tiens toujours tes promesses.
[Benjamin] Je tiens toujours mes promesses.
[Benjamin] Merci à toutes et à tous.
[Gaël] Merci.
[Générique] *musique d'outro*
[Benjamin] Vous avez écouté RdGP, le podcast sérieux qui vous emmène au cœur des enjeux des droits numériques, des libertés individuelles et de la vie privée.
[Benjamin] Ce podcast est propulsé par Castopod, solution open source, libre et gratuite d'hébergement de podcast.
[Benjamin] N'oubliez pas que vous pouvez interagir avec nous sur le Fédiverse et en particulier sur Mastodon en likant, commentant et partageant cet épisode.
[Benjamin] Merci à toutes et à tous et à la... et à la... mais j'allais dire et à la semaine
[Gaël] Ouais, la semaine prochaine.
[Benjamin] prochaine pas du tout et à l'année prochaine !
[Gaël] Enfin, à la rentrée.
[Benjamin] À la rentrée !
[Générique] *musique*
[Jessica] L'informatique doit être au service de chaque citoyen.
[Jessica] Son développement doit s'opérer dans le cadre de la coopération internationale.
[Jessica] Elle ne doit porter atteinte ni à l'identité humaine, ni aux droits de l'homme, ni à la vie privée, ni aux libertés individuelles ou publiques.
[Jessica] « Aucune décision de justice impliquant une appréciation sur un comportement humain ne peut avoir pour fondement un traitement automatisé d'informations donnant une définition du profil ou de la personnalité de l'intéressé. »
[Jessica] Toute personne a le droit de connaître et de contester les informations et les raisonnements utilisés dans les traitements automatisés dont les résultats lui sont opposés.
[Jessica] Sont réputées nominatives au sens de la présente loi les informations qui permettent,
[Jessica] sous quelque forme que ce soit, directement ou non,
[Jessica] l'identification des personnes physiques auxquelles elles s'appliquent,
[Jessica] que le traitement soit effectué par une personne physique ou par une personne morale.