[Générique] Libre à vous
L'émission pour comprendre et agir avec l'April
L'association de promotion et de défense du Logiciel Libre.
[Étienne] Nous allons poursuivre avec le truc que presque personne n'a vraiment compris mais qui nous concerne tous et toutes, la chronique de Benjamin Bellamy.
[Étienne] Aujourd'hui Benjamin tu vas nous parler de la guerre des intelligences artificielles.
[Benjamin] Bonjour Étienne, alors non changement de programme, aujourd'hui je fais un tuto bricolage. Pour faire une chronique vraiment utile je me suis dit que j'allais plutôt vous apprendre à monter un meuble en bois quand vous avez perdu le tournevis. Alors regardez bien, vous allez voir, on s'en fait toute une montagne mais c'est très facile.
[Benjamin] Et voilà, un bon coup de marteau et pas mal d'entraînement et il n'y a pas une seule vis qui résiste. Prévoyez toutefois quelques centaines d'heures pour vous entraîner.
[Benjamin] parce que sinon, ça va se finir en catastrophe.
[Benjamin] Bon et comme je sais qu'on n'a pas beaucoup de temps je vais aller à l'essentiel et dans les 5 minutes qui nous restent je vais vous montrer en 42 étapes comment choper le truc. Alors étape 1 bien évidemment pour commencer un classique.
[Benjamin] La vis à bois à tête fraisée cruciforme.
[Étienne] Attends, attends Benjamin, excuse-moi de t'interrompre, ça a l'air vraiment très intéressant ton tuto, mais déjà c'est pas du tout radiophonique et puis on s'était mis d'accord que tu parles d'IA et en plus ça tombe bien avec l'actualité, c'est la semaine du sommet pour l'action sur intelligence artificielle.
[Benjamin] Ah ouais mais moi j'avais vachement préparé mon tuto là, j'avais même posté une vidéo sur Loops pour illustrer mon propos.
[Étienne] On la mettra dans les notes de l'émission si tu veux.
[Benjamin] Bon bah je vais vous parler d'IA alors mais c'est bien parce que c'est la semaine du sommet sur l'action, sur l'IA, par où je commence alors...
[Étienne] D'habitude tu simplifies et tu commences par une métaphore.
[Benjamin] Ah oui bonne idée, et bien disons que dans une certaine mesure l'IA permet de simuler les mécanismes d'apprentissage des êtres humains, d'où le nom “Intelligence Artificielle”.
[Étienne] C'est-à-dire ?
[Benjamin] Imagine que tu joues à la pétanque, tu vises le cauchenet. En cours de mécanique à l'école, t'as appris que la somme des forces est égale au produit de la masse par l'accélération.
[Benjamin] Donc, c'est facile quand tu lances la boule tu calcules la vitesse 𝒗₀ et l'angle α pour calculer…
[Benjamin] pour calculer la distance parcourue 𝒅 qui vaut (𝒗₀² / g) × sinus(2α)
[Benjamin] Et pour que ça corresponde à la distance du cochonnet. C'est facile non ?
[Étienne] Mais personne ne joue à la pétanque comme ça !
[Benjamin] Ouais, t'as raison. Y'a pas besoin de savoir calculer un tir balistique pour jouer à la pétanque.
[Benjamin] Mais comment c'est possible de réussir à lancer sans avoir la moindre idée des équations qui le régissent ?
[Benjamin] Et bien dans la pratique on apprend par une succession d'essais. À force de lancer des boules de pétanque en haut, à droite, à gauche, doucement, fort, des centaines et des milliers de fois, on finit par deviner ce qui va se passer, sans passer par le calcul.
[Benjamin] Quand tu attrapes un ballon de basket c'est pareil tu pourrais calculer sa trajectoire en fonction de sa vitesse initiale, sa masse, etc,
[Benjamin] mais dans la vraie vie, on développe des tas de raccourcis mentaux basés sur nos expériences, des heuristiques ou des biais cognitifs.
[Benjamin] Ils sont indispensables, sans eux on survivrait pas au premier passage clouté.
[Benjamin] Et notre cerveau fonctionne naturellement comme ça pour tout, en commençant par le langage.
[Benjamin] Quand tu parles avec un étranger qui te pose une question de grammaire sur ta langue maternelle, il y a toujours un moment gênant où tu lui réponds « bah parce que ça sonne mieux comme ça ».
[Benjamin] Par exemple, quand est-ce qu'on doit utiliser l'auxiliaire être ou l'auxiliaire avoir ?
[Benjamin] On a appris par l'expérience, la règle on la connaît même pas et pourtant elle existe. On utilise être avec les verbes perfectifs qui expriment un mouvement ou un changement d'état et les verbes pronominaux.
[Étienne] Mais quel rapport avec l'IA ?
[Benjamin] L'IA fait exactement pareil.
[Benjamin] L'IA reste un programme informatique, mais plutôt que de modéliser le fonctionnement intrinsèque d'un système et de répondre à des questions en résolvant les équations sous-jacentes,
[Benjamin] c'est comme ça qu'on a envoyé des hommes sur la Lune,
[Benjamin] un programme basé sur l'IA va se contenter d'observer le système un grand nombre de fois dans des conditions diverses pour ensuite deviner les réponses aux questions en cherchant des similitudes probables.
[Benjamin] Si on filme assez de lancer de boules de pétanque, le programme n'a plus besoin de connaître les équations de mécanique pour savoir où la boule va tomber.
[Étienne] Un peu comme le biais cognitif dont tu parlais alors.
[Benjamin] Et bien tout à fait, au sens des neurosciences, les mécanismes de l'IA s'inspirent beaucoup des biais cognitifs.
[Benjamin] Ça explique d'ailleurs pourquoi on entend souvent que les IA sont pleines de biais statistiques.
[Benjamin] C'est la conséquence directe de leur mode d'apprentissage. On voit là l'incroyable importance des données utilisées pour entraîner ces programmes. Dans le jargon, on parle de data set.
[Benjamin] Si ces data sets ne contiennent pas certains types de données, l'IA ne saura pas comment les interpréter quand elle les verra.
[Étienne] Mais ça sert à quoi de prendre ces raccourcis à une époque où les ordinateurs sont devenus ultra rapides ?
[Benjamin] En fait c'est super utile, on a beau avoir des ordinateurs très rapides, il y a encore des tas de calculs où ils vont pas assez vite.
[Benjamin] Dès qu'on a des systèmes complexes multidimensionnels avec trop d'inconnues, on atteint encore des temps de calcul de l'ordre du siècle, voire pire.
[Benjamin] Et exactement de la même manière qu'un parisien traverse un carrefour en courant, sans sortir sa calculette pour calculer les trajectoires des voitures en mouvement, l'IA permet de trouver des solutions en quelques secondes alors que ça prendrait des années en résolvant “proprement” les équations.
[Benjamin] Sans compter les cas où on ne serait même pas en mesure de trouver le modèle mathématique sous-jacent.
[Étienne] Je suis un peu déçu, en fait t'es un vrai défenseur de l'IA.
[Benjamin] Alors j'ai pas à être pour ou contre l'IA, ça n'aurait pas plus de sens que d'être pour ou contre les multiplications.
[Benjamin] L'IA est un outil informatique pour résoudre des problèmes complexes dans un temps humainement acceptable.
[Benjamin] Mais bon, les polémiques autour de l'IA sont de deux ordres. 1, le champ d'application
[Benjamin] totalement nouveau qui a émergé peut poser de nouveaux problèmes et 2,
[Benjamin] la manière dont les IA sont entraînées est souvent suspecte.
[Benjamin] Pour ce qui est des nouveaux champs d'application, on a aucune raison d'être inquiet puisque l'Europe a mis en application l'IA Act en août 2024,
[Benjamin] et il encadre ses applications en définissant quatre niveaux de risque avec des exigences pour chacun.
[Benjamin] Cela nous protège de tous les abus, par exemple de “l'identification biométrique à distance en temps réel dans des espaces accessibles au public”.
[Benjamin] Bon, sauf dans le cas où les députés auraient aqua-poney parce qu'on accueillerait les Jeux Olympiques en France, mais franchement, ça serait vraiment pas de chance.
[Étienne] Je te sens un peu cynique.
[Benjamin] Qu'on utilise une technologie non éprouvée et interdite en Europe, donc vraiment je vois pas pourquoi tu dis ça et puis bon ils ont promis juré craché que c'est juste pour la durée des JO.
[Étienne] Et donc tu parlais de suspicion sur l'entraînement des modèles.
[Benjamin] Oui, pour pouvoir fonctionner, une IA a besoin d'entraînement et donc de données d'entraînement, les fameux data sets. Le premier souci c'est que bien souvent,
[Benjamin] les données collectées pour constituer ces datasets leçons de manière totalement illégale.
[Benjamin] Violation des droits d'auteur, des licences d'utilisation et bien sûr, “last but not least”, du RGPD.
[Benjamin] Ils sont les nouveaux Napster :
[Benjamin] “Ouais c'est pas super légal mais c'est pas grave parce que regardez comme c'est super-méga-cool.”
[Benjamin] Que les choses soient bien claires, il n'y a pas besoin de légiférer là-dessus : la plupart des outils violent déjà les lois de tous les pays où ils opèrent.
[Étienne] Et personne ne dit rien ?
[Benjamin] On entend quand même de plus en plus de voix s'élever contre ce pillage planétaire, mais le problème c'est que c'est difficile de retrouver les données volées juste en utilisant ces outils.
[Benjamin] Et même si certains fournissent quelques informations, c'est jamais suffisant. Ils donnent pas les data sets, les données avant entraînement.
[Étienne] Mais beaucoup sont quand même du logiciel libre.
[Benjamin] Alors non, beaucoup le disent, c'est différent.
[Benjamin] Se contenter de fournir le code source qui permet de faire tourner un modèle entraîné, les paramètres et prétendre que c'est open source, c'est un mensonge, c'est de “l'open-source-washing”.
[Étienne] Mais dans les modèles fournis on ne devrait pas pouvoir retrouver les données initiales, non ?
[Benjamin] C'est pas si simple, si t'as appris à jouer à la pétanque en regardant faire les pros et que aujourd'hui grâce à eux t'as un bon petit niveau,
[Benjamin] est-ce que pour autant tu seras capable de décrire tous les coups que tu les as vus jouer ?
[Benjamin] Un modèle entraîné c'est quasiment une boite noire, on sait pas comment il a été généré et aujourd'hui tous ces organismes qui engloutissent en masse nos données et des kilowatts heures pour vanter leurs IA et qui font la course à celui qui a la plus grosse…
[Benjamin] Et ben c'est juste ça la guerre des IA.
[Benjamin] Et comme pour les moteurs de recherche il y a 25 ans, tous craignent qu'à la fin le gagnant rafle la mise et qu'il n'en reste qu'un, façon Highlander.
[Étienne] Et dans cette course, en France, on est encore plutôt à la traîne, non ?
[Benjamin] Ben moi j'aurais plutôt tendance à dire qu'on fait la course en tête mais j'ai probablement pas les mêmes critères. Alors j'imagine que tu fais allusion à Lucie, raillé sur les réseaux sociaux et
[Benjamin] accusée d'avoir le QI d'une australopitèque shootée au LSD.
[Benjamin] Ici on parle de LLM, les grands modèles de langage. Ces systèmes ont un fonctionnement probabiliste.
[Benjamin] Ils fonctionnent comme un joueur de domino, il aligne les mots les uns derrière les autres,
[Benjamin] en posant le mot suivant le plus probable par rapport à ce qui précède, à la lumière du dataset sur lequel il s'est entraîné.
[Benjamin] Ces outils peuvent être vraiment extrêmement utiles pour manipuler des données textuelles, en entrée ou en sortie.
[Benjamin] Mais l'important c'est de comprendre un minimum comment ils fonctionnent pour les utiliser à bon escient.
[Étienne] Ce que tu dis, ça ressemble quand même pas mal à de la langue de bois.
[Benjamin] Ah c'est pas mon genre hein, donc je vais expliciter ma pensée.
[Benjamin] On a vu qu'un modèle entraîné posait plusieurs problèmes. C'est une boîte noire, donc on ne peut pas savoir si des données illégales ont été utilisées.
[Benjamin] Et puis si l'outil se met à halluciner trop fort
[Benjamin] on n'a pas vraiment de moyen de comprendre l'origine du problème pour le corriger. Si t'as Mein Kampf dans un dataset, c'est quand même mieux de le savoir.
[Benjamin] Lucie elle, elle fournit tout, le dataset complet, les paramètres, le modèle entraîné, les codes sources de tous les programmes.
[Benjamin] Et pas les autres, alors déso, pas déso, mais rien que pour ça moi, et ben ça élimine tous les autres, y'a même pas de débat.
[Étienne] Oui mais tu sais bien comment ça se passe, c'est peut-être triste mais on préférera toujours un outil qui fonctionne mieux à un outil fourni avec la notice de montage complète.
[Benjamin] Effectivement c'est triste mais c'est surtout une mauvaise analyse.
[Benjamin] Pour être tout à fait honnête, les tests que j'ai vu passer sur l'Usi ont fait naître en moi un profond sentiment de désespoir dans les utilisations faites de l'IA.
[Benjamin] Par exemple, j'ai vu en boucle passer un test arithmétique simple.
[Benjamin] 5 × (3 + 2) et Lucy répondait 17 au lieu de 25.
[Étienne] Ça tu peux quand même pas dire que c’est juste…
[Benjamin] Alors je dis pas que c'est juste, je dis juste que poser une question de calcul mental à un LLM c'est juste…
[Benjamin] totalement débile.
[Étienne] Mais c'est pour tester, si sur un calcul aussi simple, le résultat est faux. Qu'est-ce que ça donnera avec des calculs plus compliqués ?
[Benjamin] Le problème de fond, c'est qu'un LLM ne comprend absolument rien à ce qu'il écrit, rien, il n'y voit aucun sens, il se contente d'aligner les mots comme des dominos par rapport à ce qu'il a déjà vu.
[Benjamin] a déjà vu (5 × 3) + 2 = 17, il va trouver que ça ressemble vachement donc statistiquement 17 est effectivement la réponse la plus probable.
[Benjamin] Alors c'est sûr qu'en engloutissant beaucoup plus de données et d'énergie, en bâchotant sans rien piger, il va finir par y arriver. Mais on l'arrête quand ? C'est quoi la limite ?
[Benjamin] Parce que là le calcul est simple et l'erreur se détecte facilement mais attention tous les LLM, tous, font
[Benjamin] des erreurs, c'est inhérent à leur conception, on va juste pouvoir repousser un peu leurs limites, le moment où ils font l'erreur. Et si le calcul est compliqué, on ne sera même plus en mesure de se rendre compte que la réponse est totalement bidon.
[Benjamin] Alors que d'autres outils,
[Benjamin] au hasard, une calculette à 5€ le feront sans erreur et sans nécessiter la consommation électrique d'un data center pendant des mois d'entraînement.
[Benjamin] Demander à un LLM de faire des calculs n'a aucun sens, aucune utilité réelle qui soit pas dangereuse.
[Benjamin] Vouloir utiliser des IA sans comprendre leurs mécanismes juste parce que ça a l'air cool est idiot.
[Benjamin] Et désolé de le dire ainsi, mais c'est aussi con que de vouloir planter une vis avec un marteau.
[Étienne] Merci Benjamin, on te retrouvera le mois prochain. Et d'ici là, tous les mercredis dans ton podcast RdGP, le podcast sérieux qui vous emmène au cœur des enjeux des droits numériques, des libertés individuelles et de la vie privée.
[Benjamin] Merci Étienne.
[Générique] Libre à vous, libre à vous, libre à vous. L'émission de l'April sur les libertés informatiques. Chaque mardi de 15h30 à 17h sur Radio Cause Commune. Puis en podcast.