0:00 La raison pour laquelle Amazon arrive à nous livrer en 24 heures, c'est pas tellement leur camion ou leurs entrepôt, c'est que ils savaient déjà qu'on allait acheter. Une semaine avant, ils ont des modèles très avancés pour prédire l'emplacement optimisé des stocks. Ce problème d'arriver à prédire l'avenir, il est fondamental et ne date pas d'hier, que ce soit pour anticiper les admissions aux urgences ou les stocks ou la demande en énergie. Le problème c'est que jusqu'à présent chaque domaine avait ses modèles ultra spécialisés des simulations physiques pour anticiper la météo aux moyennes bancal pour anticiper les ventes. Avec cette approche, ils sont nécessairement aveugles aux interactions complexes de notre monde. Impossible de capturer l'impact d'un festival sur une pizzaria voisine ou
0:45 l'effet d'une traî TikTok sur la demande mondiale. Mais ça justement c'est en train de changer. Notre invité Jofroid est le fondateur de The Forecasting Company et ils essayent de mettre au point un modèle fondationnel de prédiction de série temporelle. C'est un gros mot pour dire un truc très simple, à savoir ingérer énormément de données hétérogènes pour essayer de prédire l'avenir. Il va nous faire des petites démonstrations, notamment essayer de prédire la crise de 2008 avant tout le monde. Juste avant l'épisode, j'ai un message pour tous ceux qui aimeraient optimiser leur épargne et éviter que l'inflation le grignote chaque année. S'il y a une appli à connaître, c'est notre partenaire Trade Republic. C'est une Néobanque avec une interface ultra minimale et des gros avantages. C'est le
1:32 seul compte courant français rémunéré 2 % brut par an, donc parfait pour recevoir son salaire. Vous pouvez automatiquement investir un peu d'argent tous les mois dans des ETF, toujours sans frais, mais surtout ils viennent d'ouvrir l'accès aux entreprises non côté. Le fameux private equity qui est habituellement réservé pour des tickets de 100000 € et désormais accessible des 1 €. Je vous mets toutes les infos dans la description de l'épisode et on reprend. Ce que vous faites est assez étrange, fascinant euh bizarre. >> Vous essayez de prédire l'avenir en fait. >> Absolument. En fait nous on pense que c'est un peu la prochaine frontière de de Lia après les images. Bon où ça a commencé à être résolu 2012 et puis tout ce qui s'est passé après. Après le texte évidemment qu'on voit tout ce qui se passe maintenant. Le mix des deux
2:18 évidemment avec les les modèles multimodux texte et images, tu vois. Mais les modèles comprennent toujours pas vraiment en fait l'écoulement du temps et ce qui s'est passé avant, ce qui va se passer après et tout toutes les prévisions autour de ça quoi. Et c'est une modalité qu'on appelle techniquement donc les séries temporelles en français, Time Series en anglais. Ce que tu appelles les séries temporelles. >> Ouais. >> En réalité c'est important à énormément d'endroits dans la société quoi. >> Un exemple que tu donnais, c'était les livraisons Amazon >> ou >> en 24 heures. Ouais. Moi naïvement, tu te dis bah ils ont euh des camions qui vont vite, >> il cour, >> ils ont plein d'entrepôts partout. >> Ouais. >> Et c'est comme ça que on a réussi à le faire ou des des robots, tu >> vois. Bah ça c'est une partie du travail
3:04 mais c'est pas que ça. La grosse majorité du travail en fait c'est de dire si tu vas acheter je sais pas des des livres sur Amazon, c'est de dire bah ces livres là il y a tant de gens à peu près cette semaine qui vont les acheter à tel endroit et du coup on va les mettre en avance une semaine à l'avance et du coup on peut prendre notre temps. On peut utiliser un camion super lent ou un bateau ou quelque chose comme ça comme ça il arrive tout juste au bon moment vu après toi quand tu vas chez Amazon tu l'achètes tu dis waouh c'est incroyable ils arrivent à me le livrer immédiatement quoi. Et donc c'est ça va de Amazon, ça va la gestion de l'énergie, ça va la gestion des hôpitaux, enfin en fait tous les systèmes qui sont gros et où il y a de la location de ressources quoi. Et où c'est basé sur la demande en fait des gens et pour répondre à cette demande bah il faut à peu près la prévoir. >> Quand tu nous dis c'est ce serait super si on pouvait prévenir l'avenir. >> Bah ouais, moi je suis d'accord avec toi
3:50 globalement. Euh il y a plein d'autres exemples super intéressants, mais j'en sais rien moi, tu es un tu es une pizzaria. Euh, tu veux essayer de prédire >> complètement >> quand il va y avoir un pic d'activité pour embaucher le bon nombre de personnes. Et quand il y a un festival de musique juste à côté et que les gens commandent des pizzas euh enfin tu as énormément de pizzas tout d'un coup, bah tu as quand même intérêt à le savoir et à le prévoir à prévoir l'impact sur ton business. Sinon, bah tu es en rupture de stock tout de suite quoi. >> Donc si on prend quelques exemples comme ceux qu'on a donné Amazon, ils arrivent visiblement déjà à le faire. C'estàd que ils peuvent prédire le l'avenir à leur petite échelle déjà comment ils font. >> Donc avant les les systèmes d'avant c'était plutôt des systèmes statistique. Euh tu peux penser à des choses hyper basiques, genre des moyennes glissantes. C'est-à-dire que tu regardes qu'est-ce qu'on a vendu sur les six dernières semaines et tu dis bon bah une estimée
4:36 raisonnable, c'est qu'on va vendre la moyenne de ça sur les 3 semaines qui viennent, tu vois. Mais en fait la difficulté c'est que ça prend pas en compte les fluctuations en fait de enfin de de la demande et notamment typiquement c'était en fait une saisonnalité où en fait c'est un item qui se vend bah que l'hiver. Bah si tu prends la moyenne des 6 semaines d'avant mais que maintenant tu es en mars marche moins bien tu vois. Et donc il y a eu après ça des modèles un peu plus compliqués qui qui prennent en compte bah ce qu'on appelle la saisonnalité. Donc par exemple il y a des choses où c'est que le weekend et pas trop en semaine et cetera. enfin en fait qui arrive à à apprendre un petit peu ces patternsl mais seulement en regardant euh la cible que tu essayes de prédire. Donc, mettons que tu vends des sandwichs, ces modèles là regardent littéralement juste combien de sandwichs tu as vendu avant, mais ils ont vraiment
5:23 du mal à prendre en compte tout ce qui est justement d'information extérieure, un peu l'état du monde au moment où tu fais ta prédiction quoi. >> Avec ces systèmes là statistiques, on savait déjà prédire un petit peu ce qui pouvait se passer sur la semaine et cetera. et et tous les gros le font. En fait, c'est quelque chose où à partir d'une certaine taille, quand tu es je sais pas Pizza ou Domino Pizza ou ce genre de de marque, bah tu es obligé en fait de prédire parce que sinon tu te retrouves sans arrêt en rupture de stock ou au contraire tu as des invendus et surtout des invendus périssables que tu es littéralement obligé de jeter tout le temps ou alors tu as pas assez de staff enfin littéralement dans ton réseau, il y a pas assez de gens pour gérer les clients, tu vois. Et si on pense par exemple à la météo ou qui ou c'est de la prédiction si tu veux littéralement
6:08 prévenir prédire l'avenir ou à la bourse >> euh tu as plein de traders dont l'unique euh job est d'essayer de pré prédire l'avenir. >> Absolument. >> Euh dans ces domaines-là pareil, on savait déjà faire des choses. >> On savait déjà faire des choses euh encore une fois parce qu'on est un peu obligé. Donc le par exemple le premier modèle de prédiction des ouragans, ça a été développé par le l'air Force américaine dans les années 50 parce que ils se rendu compte que bah ils arrivaient pas à prédire les ouragans et les ouragans passaient sur les bases aériennes et dévastaient les avions qui leur coûtaient quand même bonbon quoi. Et donc au moment ils sont dit bon si on arrivait à savoir à peu près peut-être même 5h avant queil allait avoir un arag à cet endlà on peut ranger les avions tu vois et déjà on peut commencer à faire quelque chose. Et alors typiquement ça ça ressemblait à quoi
6:54 >> en fait ? Ça c'est la grosse différence aussi par rapport aujourd'hui c'est que c'était très spécifique au cas d'usage. C'est-à-dire que pour faire un modèle d'ouragan, en fait tu vas faire des modèles physiques. Donc tu vas faire essentiellement de la la simulation, tu vois de des vents, des températures. Tu vas essayer d'avoir peut-être des tours, des senseurs, tu vois, de de température de vent, de pression, enfin tous ces trucs là. et tu vas faire des modèles physiques vraiment que tu vas faire tourner dans des énormes clusters euh et euh ça va te donner tout un tas de scénarios possible et tu vas avoir tes résultats là-dessus. Tu vois, c'est assez coûteux euh parce que les simulations physiques pour faire ça euh tu es obligé de les faire avec un pas de temps court. Donc tu es obligé de simuler en fait tu avances je sais pas lors de la milliseconde à chaque fois dans ta simulation et donc si tu veux simuler 2 semaines en avance bah tu
7:39 imagines la la complexité du truc quoi. Dans les autres domaines euh donc typiquement je sais pas les trucs plus logistiques ou je sais pas pharmaceutique genre combien de médicaments les gens vont acheter ou ce genre de truc évidemment là il y a pas de physique du problème. Donc tu peux pas encoder les les équations de la demande et de comment les gens réagissent en fait parce que c'est très social. >> En gros, les la météo et cetera, c'est une équation avec énormément de facteurs qui correspondent aux lois physiques >> mais que tu peux tenter quand même d'encoder avant que la complexité n'explose. >> Autant dans les achats. Là tu es tes ton équation c'est des humains quoi. >> Bah ouais. Et donc tu as pas les équations maîtresses, tu peux pas mesurer des constantes physiques de combien les gens de l'achat de l'pran.
8:25 >> Voilà. Ou la réaction à une vidéo sur TikTok, tu vois, qui va faire que la demande pour telle cosmétique va exploser tout d'un coup ou ce genre de truc. Il y a il y a pas de physique là-dedans quoi. >> Et c'est ce que tu expliqué sur le fait que historiquement les modèles ne savaient faire que des petites corrélations mais ne pouvaient pas prendre en compte tout le l'extérieur en fait. >> Ouais, c'est ça. >> Jusqu'à ce que arrivent les Transformers. Euh et la révolution qu'on est en train de vivre globalement. En gros, >> les modèles de langue ont connu un succès fulgurant. >> H >> et ce qu'ils font c'est de d'essayer de prédire du du texte, quoi, >> de prédire ce qui vient après le prochain token, en fait. >> Et là, l'idée en gros, c'est que dans une série temporelle, tu prédis plus du texte mais un chiffre. >> Absolument. Et donc du coup, on passe d'un problème qui est en fait le texte,
9:11 c'est un problème de classification euh où tu as en fait un vocabulaire qui est fixe et tu vas dire "OK, voilà les tokens enfin qui sont le plus euh propice pour être le prochain mot dans ma phrase." Et tu sais aussi que les tokens, ils peuvent se remplacer parfois. Donc on a des synonymes, on a des choses comme ça. C'est pas c'est pas forcément très clair qu'il y en a toujours un qui va être meilleur que que d'autres. Alors que dans la prédiction, bah en gros, soit tu as raison, soit tu as tort. Euh et et c'est mesurable, c'est-à-dire que il suffit d'attendre en fait. Donc c'est ce qu'on appelle une régression par rapport à une classification. Euh et on peut très bien mesurer des distances en fait de bah tu vois si j'ai dit qu'on allait vendre 100 pizzas et qu'en fait on en vend 150 bah je me suis planté de 50 pizzas quoi. >> Ça c'est hyper intéressant parce que un
9:57 des plus gros problèmes qui a freiné qui a fait que c'est que maintenant en fait que on on a du succès avec les modèles de langue et de la discussion et qu'on a en gros craqué la langue, c'était justement d'avoir ce truc qui te dit >> là c'est bien, là c'est pas bien et sur lequel tu peux itérer des milliards de fois lors de l'entraînement pour progresser. Et la grande clé d'op c'était le le le feedback humain justement. Et donc là toi dans ton cas avec ton problème donc on a moins ce problème là. >> C'est ça. Les limites ça a l'air plus simple là. Tu tu me le dis >> ça a l'air plus simple. À quel moment ça devient compliqué ? Parce que on tu n'es pas open pour l'instant. >> Ce qui est compliqué c'est que il y a pas beaucoup de données de série temporelle. Il y en a pas tant que ça qui sont publiques. En fait l'origine du forecasting culturellement c'est les statistiques. C'est pas le machine
10:43 learning. Les gens qui faisaient des forecasts, c'étaient souvent des économiciens, des gens qui font de l'économétrie, c'est-à-dire de l'économie mesurable en gros. Euh et typiquement, c'est eux qui vont faire des projections de PIB. Tu vois ? Bah le PIB, tu fais une projection par trimestre pour ton pays. En gros, ton taf à temps plein, c'est de sortir un chiffre par trimestre, tu vois ? Et tu mesures ton PIB une fois par une fois tous les 3 mois. Donc même si tu as 20 ans 50 ans d'historique, bah tu multiplies par 4 pour avoir le nombre de points de données que tu as, tu vois. >> Oui, en fait c'est très >> Donc tu es à 100 ou 200 quoi. >> En fait c'est pour expliquer pour ceux qui sont pas dans le LIA, c'est très peu en fait. >> Ouais, c'est extrêmement peu. Bah en comparaison, je sais pas Open leur modèle, ils sont entraînés sur des milliers de milliards de tokens euh où à
11:29 chaque fois il y a ce signal qui dit bah ça c'est bon, ça c'est pas bon. Bon, c'est pas le même >> c'est pour ça qu'on peut pas faire un modèle qui prédit le PIB pour l'instant quoi. >> C'est difficile quoi. Mais là où c'est en train de changer, c'est bah déjà il y a il y a un truc énorme, c'est les initiatives d'open data des gouvernements. Donc par exemple toutes les données météo qui sont récoltées par NOA qui est le service météo américain sont publiques et gratuites. Donc tu peux aller et télécharger un DOM de terra et de terra de données météo. Et en fait, tu as la même chose à l'échelle des villes, à l'échelle enfin de sur tout un tas de trucs, mais ça reste des sources de données qui sont euh très diverses, très compliquées à ingérer parce que toutes un peu différentes quoi. Et ça du coup, c'est une des choses qui euh qui était difficile, c'est de pouvoir gérer des datasets qui sont différents, qui ont des schémas
12:14 différents, tu vois. >> Est-ce que historiquement tous les tout tous les modèles qui ont créé étaient extrêmement spécifiques, >> un problème ? >> Pris >> et demander des super experts du problème en question. Ce qui s'est passé avec les modèles de langue, c'est que on a arrêté justement de faire des modèles ultra spécifiques. On a réussi à créer des modèles beaucoup plus gros qui ont une vue plutôt une vue d'ensemble en fait sur la langue en en elle-même et sur les toutes les connaissances disponibles des humains sur internet et cetera. C'estd que un seul modèle, on dit on appelle les modèles de fondation et cetera, euh peut faire >> plein de choses, >> plein de choses différentes. >> Et en gros, toi euh l'idée avec la boîte qui s'appelle donc The Forcasting Company, >> c'est d'essayer de répliquer ça, ce principe de faire un modèle générique. >> Absolument, c'est ça. Donc de faire un modèle qui en fait peut premièrement apprendre de données qui sont
13:00 extrêmement diverses. Donc en fait, tu peux mettre des données de PIB, tu peux aussi mettre des données d'usage de cloud à la milliseconde. Tu peux aussi mettre des données d'énergie, d'hôpitaux, de vente de pizzas et toutes les variables qui les affectent. Donc tout le contexte justement là en ce moment en LM, on parle beaucoup de contex engineering, mais sur le forecasting, c'est un truc qui est extrêmement clé et qui l'est depuis longtemps. >> Ça veut dire quoi ? >> Context engineering, c'est de décider avec des bons principes et des bons des bonnes méthodes ce que tu montres à ton modèle. Donc, mettons que tu es euh ce magasin de pizza qui est euh je sais pas en bordure de du parc de Vincen ou un truc comme ça et où en fait tu es très sensible aux événements euh qui vont avoir lieu dans dans le parc. Si tu lui dis pas les événements, bah ton modèle a beau être super compressé et avoir la compréhension du monde et cetera, bah il
13:47 peut pas les inventer, tu vois. >> En fait, il il lui manque des infos, c'est ça. >> Il lui manque des infos et il lui manque la compréhension du monde sur comment est-ce que ces informations interagissent. Donc par exemple dans ton dat set d'entraînement, tu lui donnerais des chiffres de vente >> mais aussi par exemple les relevés de presse de tout le >> absolument >> de tous les événements >> relevés de presse. Peut-être que tu vas lui donner bah tous les concerts et tous les événements locaux que tu que tu peux choper sur des API genre Ticket Master ou genre ce enfin ce ce genre de chos. Tu peux aussi intégrer ça dans le modèle. tu peux aussi et là c'est un peu le monde qui touche beaucoup à la finance et euh au advertising enfin à la pub c'est toute la compréhension en fait du comportement humain. Donc il y a euh tout un tas de de boîtes qui vendent ce
14:33 qu'on appelle des sources de données alternatives. >> Donc les données alternatives, c'est des données qui ont du signal sur des business. C'est plutôt un truc qui vient de la finance à la base. Euh, mettons que tu es intéressé par savoir comment euh ben justement Pizza Hut performe, tu vois, et tu veux pouvoir trader leur leur stock euh ce ce genre de truc. Bah, si tu savais exactement combien de gens allaient dans les magasins de Pizza, ça pourrait aider, tu vois. Bah, il se trouve qu'il y a des gens qui vendent ce genre de données. Donc, ils vendent par exemple des données euh agrégées de localisation mobile. Ils vendent des données par satellite où en fait ils comptent littéralement les voitures par satellite euh sur les parkings euh et du coup ils peuvent te dire bah ouais cet endroit en fait ça se passe bien ou pas ? Ou les vélibes les vélibes c'est de la
15:19 donnée publique et ça ça typiquement savoir combien il y a de vélo dans toutes les bornes à Paris, c'est il y a une API live que tu peux pinguer et c'est gratuit et ouvert, tu vois. Mais alors tout ça là, c'est extrêmement hétérogène. >> Extrêmement hétérogène et c'est pour ça que c'était c'était difficile jusqu'ici quoi. Ouais. Explique-nous toi comment tu comment tu fais là maintenant avec tout ça. >> Bah tu t'entraînes à un gros Transformer où tu as des variables qui sont des cibles. Donc mettons si nous on va travailler avec une boîte de pizza, bah ça va être justement le nombre de pizzas vendues quoi. Et ensuite c'est un système qui ressemble beaucoup à du rag. En fait rag en anglais retrieval augmented generation. Bah, essentiellement, c'est euh c'est un moteur de recherche qui est branché sur LLM, quoi. C'est-à-dire que tu dis euh "OK, je veux prédire ces pizzas euh près
16:05 près de Vincen". Et ben on le modèle, tu tu peux lui décrire le cas d'usage, tu peux lui dire "Bah voilà, moi je suis une boîte de pizza euh je suis à Vincen" machin. Et le modèle va comprendre que il faut aller chercher en fait euh bah quels sont les événements locaux euh mais aussi peut-être euh quelle est la météo parce que je sais pas les les gens il mangent plus ou moins des pizzas quand il fait beau. Enfin ce ce genre de choses. Tu >> pas ces informations dans l'entraînement ? >> C'est les deux. C'est les deux. Euh c'est les deux. Mais de la même façon que les systèmes de rag sont entraînés pour être des systèmes de rag, tu vois. >> Oui. Oui. >> Ouais. Toi, dans ton cas, ce que tu fais pendant l'entraînement, c'est que tu lui donnes toutes ces données. >> Ouais. >> En palmel avec à chaque fois le résultat de la prédiction. >> Absolument. >> Et le jour J tu vas vraiment l'utiliser, bah tu lui donnes juste les mêmes infos en PML, donc les coupures de presse, les toutes les
16:50 >> et il te pont le chiffre quoi. >> Et il te sort un chiffre pour aller un peu plus loin. En fait, il te sort une distribution parce que quand on fait des prédictions comme ça, en réalité, on sait que il y a des énormes sources d'aléa dans le monde, tu vois. Et du coup en fait, tu vas pas juste dire "Bah, je vais vendre 100 pizzas." C'est plutôt, je pense que je vais vendre entre 90 et 125 et il y a de bonnes chances que ça soit entre 105 et 110. Et ça c'est beaucoup plus actionnable en fait pour les gens parce que tu peux faire de la gestion de risque. >> En fait, c'est par exemple si je vais vendre 500 pizzas >> avec une hautité, j'ai je vais pas >> tu auras pas la même stratégie quoi. Bah si je te dis en fait on sait pas du tout là il y a un événement mais en même temps il pleut machin donc ça se trouve c'est entre 100 et 1000 tu vois ce qui
17:38 est vrai. Enfin je veux dire il y a des cas où c'est vraiment ça c'est mettons Taylor Swift elle est là et tu apprends la veille qu'elle est malade. Bon, tu vas faire tes 20000 pizzas et en fait elle peut pas chanter et et tu te retrouves avec 20000 pizzas sur le bras, quoi. Donc c'est pour ça que vraiment ce cette quantification de l'incertitude, c'est hyper hyper important dans ces dans ces cas-là. Ouais, >> c'est trop intéressant. Alors, un exemple génial que tu donnais, c'était la la crise de 2007. >> Ouais. >> Et qu'en fait via certains jeux de données, il aurait été possible de prédire possible de se dire que en tout cas quelque chose n'allait pas quoi. >> Est-ce que tu peux nous expliquer ça ? Ouais, ben je peux je peux vous le montrer d'ailleurs potentiellement. Donc là par exemple, on a ce jeu de donné qui est encore une fois un jeu de données public du nombre de maisons vendues tous les mois aux US pendant pendant une vingtaine d'années quoi. Ça donc je peux choisir il il y a deux colonnes dans ce
18:24 jeu de données. Il y en a une qui est justement le nombre de de maisons vendues tous les mois et on voit là tout de suite en fait il y a des patterns assez assez clairs quoi. C'est hypercyclique. Donc il y a une saisonnalité annuelle. Ce qu'on appelle une saisonnalité annuelle. Le bas c'est en novembre. novembre, en fait, personne n'achète de maison en novembre. Après, ça remonte en début d'année et puis ça ça se refroidit progressivement jusqu'à réatteindre le bas. On voit aussi qu'il y a cette tendance haussière et puis là, il y a un phénomène assez intéressant qu'on qu'on voit à partir de 2006 en fait, donc quand même avant 2007 où en fait le marché immobilier se casse complètement la gueule quoi. Et donc la tendance haussière disparaît assez assez vite et vraiment ça se casse la gueule. Et ce qu'on voit en vert là, c'est les
19:10 forecasts que notre modèle aurait fait si on avait fait un forecast là le enfin début mai 2013 quoi. Euh et on peut en fait sur la plateforme, c'est ça qui est un truc un peu marrant, c'est qu'on peut voir en fait comment est-ce que le modèle performe euh pour comparer et on voit que c'est quand même pas trop mal parce qu'on est à 6 7 % d'erreur en gros relative à ce qui s'est vraiment passé. Et là pour le coup, on est d'accord que ton modèle n'a pas vu. >> Il a pas vu absolument si on se met un peu plus tard >> en 2006. >> Ouais. Août 2006. Et ce qui est intéressant aussi c'est ce qu'on voit sur les les données ombragées quoi. Ça c'est l'intervalle de confiance. Donc c'est-à-dire que le modèle dit en moyenne, je pense que ça va être à peu près comme ça mais il y a 10 % de chance
19:56 pour qu'en fait on soit ici et il y a 10 % de chance qu'on soit ici. >> Plus on est dans l'avenir, plus on est dans le futur, >> plus il y a de l'incertitude. Et là tu le vois en fait et ça c'est aussi un autre truc cool avec ces modèlesl c'est que bah l'incertitude au début elle est moins large que l'incertitude plus loin plus loin dans le futur quoi. Et l'autre truc intéressant du coup c'est si on lui rajoute de l'information. Donc là par exemple, on a ce qu'on appelle l'index des prix. Donc dans l'immobilier, l'index des prix c'est le multiple en gros euh que enfin le d'augmentation des prix au cours du temps. >> OK. >> Et donc si on dit en basso >> en gros ça fait 10 % au début ou >> Ouais. Mais en fait ce qui est assez ouf c'est si tu regardes les années 9 donc tu es à 100 quand tu es en 2006 tu es à 230 donc c'est dire que ça a fait
20:42 quasiment x 2 et demi en 20 ans quoi. Et après tu vois une grosse correction >> le bon investissement. Voilà donc là typiquement si je retourne du coup sur la variable qui m'intéresse de de prédire par exemple et que je dis bah ok maintenant je vais rajouter cette information là au modèle qu'est-ce qui se passe ? Et ben là, le modèle il est il est meilleur quoi. Tu >> as augmenté son le contexte qu'il a ? >> J'ai augmenté le contexte qu'il a. Je lui ai donné du contexte qui est pertinent pour euh pour ça. Et là, on voit la différence. Donc là, on est à peu près 38 39 % d'erreur alors que si je l'enlève, euh on passe à 43. Donc pour des gens qui sont dans les marchés, pour les gens qui euh qui investissent dans l'immobilier à grande grande échelle et cetera, c'est significatif. Mais tu vois aussi que le l'intervalle
21:27 de confiance, il grandit et donc tu vois déjà que le modèle il chope qu'il y a un truc, tu vois, il y a un truc c'est pas comme d'habitude quoi. C'est il y a il y a plus d'incertitude parce que euh ouais, ça peut ça peut vachement en changer quoi. >> Moi je trouve qu'il y a un truc qui est intéressant avec l'exemple de la crise par exemple de 2007, c'est tu vas voir un expert, >> tu lui donnes toutes les informations avant 2006 ou je sais pas quoi. >> Euh bon déjà après coup, c'est facile à dire. >> Ouais. Euh et le deuxièmement, il y a ce fameux événement inattendu h >> qu'on dit parfois implique, voilà, le signe noir >> qui fait que personne avait capté, euh personne avait pu prédire. Ouais. >> Toi, tu arrives, tu dis euh, on va faire un modèle fondationnel parce qu'on pense que >> tout comme la langue a été craquée, >> le la prédiction va être craquée de la
22:13 même manière, quoi. >> Craquer alors tu vois, craquer pour la prédiction, c'est euh c'est c'est une grande Ouais, c'est un grand claim, quoi. >> Mais c'est ça quand même dire que toi tu crois. Enfin, comme >> Ouais, ouais, absolument. Un des trucs qui qui moi m'a forgé cette conviction, c'est les premières grosses avancées dans les modèles de prédiction, c'est en fait le la météo et le climat. La météo et le climat, c'est quand même des systèmes complexes. Mettons que c'est une approche purement euh basée sur des données, tu vois, pas des méthodes structurelles de physique et cetera. Quand tu montres beaucoup de données satellite observé et cetera à ces modèles, en fait ils sont plutôt bons au point que maintenant les modèles en prod à la météo européenne et cetera, c'est des modèles hybrides en fait entre les modèles plus classiques de simulation physique et des modèles qui sont basés sur les données et les observations qui vont faire des des prédictions à 6 he
23:00 d'avance. Alors Amazon Amazon tout leur site de production de stock du coup c'est des transformers >> et ça fait déjà 5 ans qu'ils sont passés au Transformers en prod et une des raisons, c'est parce que ils entraînent leur modèle sur littéralement des centaines de millions d'items différents. Le sens de l'histoire chez Amazon et chez tout un tas de gens c'est en fait la consolidation c'est-à-dire que avant ils allaient avoir justement des modèles un peu de moyenne glissante qui étaient tunés pour certains cas pour les livres pour les frigos enfin tu vois ce ce genre de truc quoi, pour les différents marchés et cetera. Et petit à petit, ce qu'ils font c'est qu'ils font des modèles de plus en plus gros mais qui sont entraînés sur de plus une plus en plus grosse partie de leur jeux de données. Donc c'est un peu deux choses, c'est tu réduis les coûts de maintenance parce que tu as pas 150 modèles qui cassent tout le temps. Enfin, il y a tout le temps un qui casse et ça te prend un temps de fou et cetera. Le
23:46 deuxième truc, c'est le transfert d'information où le même modèle a tout vu et ça marche mieux. Et du coup, les ces deux effets-là, il euh ils se autantentretiennent parce que euh bah plus ça marche mieux et en même temps, tu as que ce modèle-là, enfin toute ton équipe, elle est focalisée sur sorte que ce modèle-là marche mieux, bah évidemment il va marcher encore mieux, tu vois. Et du coup, tu peux fusionner de plus en plus, il va être de plus en plus flexible et il peut prendre ses différentes modalités, ses différentes sources données et cetera. Ce qu'on a vu sur chat GPT, c'est que les modèles spécialisés en code se font exploser par un modèle non spécialisé en code mais qui a vu tout internet en fait. Ouais. En fait, cette consolidation là et ce transfert enfin dans les séries temporelles, ça permet aussi une allocation de ressources différentes. Tu vois, en fait aujourd'hui, tu veux tu vois dans la plupart des boîtes, il y a des gens qui font du forecasting un peu partout. Il y a les gens dans la supply
24:31 qui sont soit sur Excel, soit sur un ERP avec un plugin machin et qui vont le configurer, qui vont faire des trucs à la main et cetera. Il y a les gens en finance qui eux sont plutôt justement sur Excel qui vont être sur des données mensuelles, ce genre de truc. euh il y a euh le staffing euh c'est peut-être les gens RH qui vont faire ça et cetera. Et en fait si tu arrives à consolider tout ça, tout ça c'est les données temporelles qui sont basées sur les données du business, tu vois. Et donc si tu arrives à avoir justement une un modèle qui est suffisamment flexe pour euh intégrer ces différentes sources d'information là et faire des prédictions qui sont en fait cohérentes à travers toute la boîte, bah en fait les gens ils ont plus besoin de maintenir des modèles dans tous les sens. Ils peuvent avoir une source de vérité en fait fiable qui estime bien le risque. Donc c'est pas juste de dire encore une fois ça va être 100 la semaine prochaine mais un truc plus nuancé que ça et qui permet du coup aux
25:18 gens de prendre des vraies décisions business quoi. De dire nous on est prêt à tolérer ce risque là-dessus mais là non et de mieux gérer genre des systèmes qui sont incroyablement complexes. >> Et en fait moi j'ai l'impression que tu vas même encore plus loin à savoir que dans ton idée à terme peut-être un peu comme ce qui se passe avec JG GPT. Moi dans ma boîte petite >> Ouais, qui n'a pas de budget for casting, il pourrait peut-être avoir un modèle général qui est super bon à prédire n'importe quelle série et mais moi je vais l'appliquer, je vais te donner un exemple là. Est-ce que une vidéo va bien marcher >> par exemple ? J'ai pas j'ai pas >> C'est une métrique qui t'intéresse. >> Ça m'intéresse >> à mon avis une donnée de d'auditeur je lui je lui donne le titre de la vidéo, le script de la vidéo. >> Bah ouais. Et en fait TikTok le fait
26:04 déjà. Ils ont launch il y a quelques temps une partie de leur business qui s'appelle TikTok Shop où en fait c'est une plateforme d'e-commerce qui est en fait pour les créateurs de contenu sur TikTok, ils vont faire soit du contenu sponsorisé, soit vendre eux-mêmes leurs produits, tu vois. Et le truc qui est assez ouf avec TikTok, c'est que c'est eux qui gèrent la supply chain pour toi à l'Amazone, quoi. C'estàdire que toi, tu crées ton espace euh et c'est alors soit du dropshipping, soit toi tu es un tu es tu produis tes trucs ou tu as un fournisseur machin et en fait tu vas le connecter direct avec la plateforme TikTok Shop. TikTok Shop propose à ces gens qui créent du contenu des forecasts et eux-mêmes bah vu qu'ils sont obligés de gérer la supply chain pour leurs clients, bah ils sont obligés de faire des forecasts, tu vois. Pour faire ces
26:49 forecasts-là, ils utilisent le contenu des vidéos, donc euh littéralement les vidéos et ils peuvent détecter quand un produit va devenir viral. Ils ont tous les signaux faibles un peu de ce qui se passe et ils ont en face les données de vente. Donc ils peuvent très bien euh matcher les deux, tu vois, parce que ils contrôlent tout, quoi. >> C'est dingue. Ça serait quoi un exemple beaucoup plus dur à justement une cour un signal faible comme tu dis ? c'est euh tu vas voir que euh je sais pas euh telle telle coupe de cheveux, tu vois euh commence à y avoir de plus en plus de d'influenceurs qui ont un peu ça et ils ont quand même pas mal de vues et puis il y a telle marque qui vend exactement ce qu'il faut pour euh ce publiclà, tu vois. Bah là, ils vont se dire "OK, on va stocker euh les entrevaux parce que parce que ça va partir quoi." >> Trop dingue. >> Ouais. Tout ce qu'on a vu, c'est que la raison pour laquelle il y a eu un progrès aussi rapide dans les modes de langu c'est internet. c'est qu'en gros
27:36 humain nous avons produit énormément de >> les gens aiment bien parler sur internet texte et même au-delà d'internet aussi les scans de bouquin >> sur les vidéos aussi >> voilà que ça fait juste 1000 ans qu'on écrit des bouquins. Ça a été un un accélérateur incroyable pour la langue >> et on voit qu'aujourd'hui on est arrivé à la limite de ça. Alors il faut trouver des nouvelles solutions pour générer du texte supplémentaire. Est-ce que l'avantage des séries temporelles, c'est qu' en gros certes les bases de données sont pas encore assez disponibles, c'est accessibles et cetera, >> mais il y en a énormément >> il y en a énormément partout et constamment. C'estàd que ça ça ne ça n'a pas de raison de ralentir au >> tous les business enf en fait à chaque fois que tu fais une opération, une transaction, chaque fois que tu vas quelque part en fait il y a un log quelque part et en général les logs restent privés et ils sont pas soudainement mises à disposition de tout
28:21 le monde mais ils existent. Ce qui est drôle, c'est que sur sur ton LinkedIn, il y a marqué "J'achète des données." >> Absolument. >> En première ligne, vraiment dans ta >> Ouais, parce qu'en fait le concept est incroyable. Ouais, l'exécution a l'air déjà hyper avancée avec l'entre guillemets peu de données, mais il y a ce sentiment qu'en fait le seul truc qui manque là, c'est des grandes quantités de c'est un des gros sujets. Il y a alors il y a une partie oui, il y a une partie non parce que il y a un aspect hyper prometteur qui est complètement orthogonal à tout ça, c'est les données synthétiques. Comme pour le texte où on commence à générer des données synthétiques en fait là il commence à y avoir des preuves que dans les séries temporelles, si tu génères des données synthétiques qui sont structuré d'une certaine façon, tu peux en fait à nouveau brancher ce cycle quoi de bah tu
29:08 entraînes sur des vraies données, ensuite tu synthétises des données et ensuite tu réentraînes là-dessus et la perf s'améliore. Donc pour donner un exemple, c'est bah tu vois les prédictions météo avant c'était des simulations physiques. Les simulations physiques c'est littéralement des données synthétiques. En quelque sorte, tu refais le chemin inverse. C'estàd que les humains quand ils ont écrit ces équations, eux, ils ont dû bosser, faire plein d'expériences et comprendre la physique. Une fois qu'on a ces équations, on peut maintenant simuler des données genre beaucoup plus que ce qu'on pouvait faire en expérience dans le vrai monde. Et maintenant, du coup, avec toutes ces données là, tu peux prendre un modèle qui apprend juste sur les données et où tu lui rencodes pas la physique et d'une certaine façon, il va comprendre la physique. Donc, il refait le chemin inverse. Tu vois, dans le dans le passé, à la différence de ton modèle physique de simulation, >> Ouais. lui, il va être capable éventuellement de faire des corrélations entre OK 10 jours plus tôt
29:54 >> Ouais, >> d'après toutes les données, j'arrive à avoir des signaux faible sur le fait qu'il y a un oragant. Exactement. Ouais. >> Ce que ta simulation que la simulation ne sait faire que en faisant tout le chemin quoi >> avec des toutes petites ties, des tout des cours millisecondes parce que sinon on a du mal à comprendre l'intérêt là. L'intérêt c'est >> c'est la rapidité. >> C'est la rapidité et le coûp. Donc ça c'est vrai pour les données physiques, mais il y a aussi euh donc des toutes plein de modèles statistiques que les gens ont fait euh au fur et à mesure des années pour euh des problèmes structurés. Et en fait, c'est ce qu'on appelle des modèles à variable attente en gros où tu dis bah si je vends euh ces ces fameuses pizzas, je vais dire en fait il y a une variable latente que j'observe pas qui est euh ah il y a un événement à côté, il y a du marketing, il y a tous ces trucs là. Et donc ces modèles-là, on sait en fait, on sait les écrire, c'est assez difficile de les fiter sur des vraies données euh et
30:39 c'est très manuel parce que tu vas euh justement littéralement, il y a quelqu'un qui euh spécifie euh quelles sont les variables atteintes et cetera. Mais ça c'est un peu une des promesses de justement des LM et cetera, c'est que tu vas pouvoir ou même euh juste de la randomness en général, c'est que tu peux générer des processus génératifs comme ça très structurés programmatiquement et potentiellement en conditionnant sur ce que c'est que le problème, tu vois. Donc, mettons, si je dis un LM aujourd'hui, génère-moi du code pour simuler un restaurant de pizza. Bah en fait, il va pas être forcément trop mauvais, tu vois. Et à partir de là, tu peux à nouveau générer plein de données synthétiques, donc des millions de je sais pas de de magasins de pizza qui n'existent pas mais qui sont très structurés, qui ont des structures causales et cetera qui sont peut-être pas vraies mais qui sont peut-être pas complètement déconnantes quoi. Et à
31:24 partir de là, tu peux entraîner un modèle. Si on résume, on peut dire que tu utilises par exemple le modèle du monde qui est contenu dans le modèle de langue. >> Exact. >> Pour générer de la donnée via du code >> qui est cohérente. >> Et donc et donc si tu fais un si tu fais un peu tout ça euh en même temps quoi, >> tu peux arriver à générer de la donnée synthétique qui est vraiment intéressante. Et le niveau extrême c'est de en fait entraîner ces modèles là dont dont je parle 100 % sur de la donnée synthétique. Et ça c'est ça ouvre des perspectives de dingue parce que il y a pas de problème de fuite d'information. Si c'est que généré sur enfin c'est que entraîné sur la donnée synthétique, il y a pas le Ah mais euh tu savais en fait queil y avait la crise de 2008, tu vois. Oui. Oui. >> Mais mais du coup quand on se dit enfin tu vois, moi je regarde les données clients et je regarde ce qu'ils font aujourd'hui comme forecast et cetera et c'est dingue ce qu'on peut faire et le
32:10 potentiel de cette tech. Mais là où les gens en sont, c'est un truc de ouf. Tu vois, tu tu il y a des chaînes qui sont des enfin des des business qui font plusieurs milliards de de ca ou voir certains milliards de profits, tu vois, où en fait ils ont encore l'ordre de grandeur c'est 60 à 90 % d'erreurs sur leur prédiction sur ce qu'ils vont vendre à l'échelle du magasin, à l'échelle du produit. Tu vois, je parlais à quelqu'un qui était assez spécialisé dans les trends justement de de fringues qui disait c'est l'ordre de grandeur, c'est 50 % des fringues sont vendues à rabet. Alors évidemment, c'est un problème hyper difficile parce que les saisons en général c'est prédit à l'avance. Donc ça veut dire que tu es obligé de faire une seule prédiction pour toute la saison 9 mois avant. Combien tu en vends ? Bon tu te plantes de 30 %. Ça part euh soit à la ben soit
32:55 en recyclable on espère, euh soit euh en promotion à la fin quoi. Quand même beaucoup de ces business là, c'est pas des business à forte marge. Euh et donc c'est des business qui sont un peu en mode survie quoi, tout le temps. Et ce qui fait d'ailleurs qu'ils traitent pas forcément bien leurs employés, qu' sont pas forcément ouf d'un point de vue écolo et cetera. Et du coup, si tu peux euh en fait faire en sorte que juste c'est mieux géré quoi en rentrant toute cette information là, enfin l'impact est monstrueux quoi. Et en plus c'est plutôt cool. Ouais. Si vous avez apprécié cette vidéo et que vous n'avez toujours pas vu notre interview de Arthur Mench, le CEO de Mistral, je peux que vous conseiller très vivement d'aller la voir. Elle est loin d'être obsolète puisque on revient sur l'origine de la boîte et comment ils s'y sont pris pour choquer le monde entier avec leur premier modèle. C'était dans cette vidéo.
