Édition 62 - L'IA générative a atteint un plateau
#62 Et c'est le moment que vous en profitiez !
Si vous aimez mon contenu, cliquez sur le ❤ au-dessus et à côté de mon nom pour m’aider à remonter sur Substack ou Gmail et parce que ça me donne encore plus envie de faire mieux la prochaine fois 😊
C’est samedi, le jour d’EthicGPT ! 😊 Je suis très heureux de vous retrouver pour cette 62e édition !
Si quelqu’un vous a transféré cette édition et que le contenu vous plaît, n’hésitez pas à vous abonner et à la transférer également. Cela m’aidera beaucoup pour faire connaître mon travail 😌
Quelques liens utiles si jamais vous débarquez ici pour la première fois :
Mon site internet où je présente mon activité
Vous souhaitez sponsoriser cette newsletter ? C’est par ici
Mes formations Juristes Augmentés et Découvrir Mistral AI
La présentation et les archives de cette newsletter
Prêt(e) à consacrer ces quelques sur l’IA avec moi ? C’est parti 🚀
Bien entendu, si vous êtes sur Linkedin et les autres réseaux, on vous partage chaque jour l’outil IA qui va révolutionner tel ou tel usage. Ah, le nouveau générateur de vidéos. Ah, le nouveau générateur d’images. Bla bla bla comme dirait Gigi.
On croirait que les choses vont très vite, que vous allez rater le train, car l’outil d’il y a 2 mois est devenu obsolète. C’est faux. Oui, c’est allé vite. Mais cela ne va plus aussi vite. Tout le monde surfe sur la hype de l’IA pour dire de bonnes choses, mais aussi n’importe quoi.
Dans un solocast tourné il y a quelques mois, j’avais partagé une opinion qui me semblait juste : celle du plateau atteint par l’IA générative. Certes, l'année n’est pas finie. Mais, pour l’instant, l’actualité me donne raison.
Cette édition sous forme de réflexion sera bien plus courte qu’une édition où je partage un test. Pas d’excuses pour ne pas la lire 😛
C’est quoi un plateau dans l’IA ?
Un plateau dans l’IA n’est pas différent d’un plateau dans d’autres technologies ou industries. En gros, il y a un plateau lorsque le progrès est au mieux ralenti, au pire inexistant. L’exemple que je préfère décrire est celui de la cabine d’un avion commercial.
Si vous mettez une personne qui a pris l’avion dans les années 1960 dans un avion tout neuf, elle verra certaines différences. Enfin, elle verra surtout un écran derrière chaque siège pour les vols long-courriers, quelques prises (quand il y en a). Le reste, c’est plus un changement de réglementation, comme la cigarette désormais interdite.
Le progrès dans les cabines d’aviation civile est donc en plateau depuis 50 ans maintenant ! Il y a eu quelques améliorations, mais sans plus. Et quand on prend Ryanair, c’est peut-être même une régression, mais c’est un autre sujet 😂
Concernant l’IA générative, on est sur une période bien plus rapide. En effet, je parle ici seulement de la disponibilité pour le grand public, qui date de 2021 mais surtout de fin 2022 avec l’arrivée de ChatGPT.
Si on reparle d’IA générative, l’année 2023 a été une source immense d’évolutions rapides. Les nouveaux LLM d’OpenAI ont été largement meilleurs que les précédents. Les IA génératives d’images ont fortement progressé. Des outils comme HeyGen, ElevenLabs et Runway ont révolutionné le marché.
Beaucoup s’attendaient alors à faire autant en 2024. Sauf que ça ne s’est pas passé comme cela et la progression fulgurante a été stoppée.
Pourquoi l’IA a-t-elle atteint un plateau ?
La première raison, c’est nous-mêmes et nos attentes. Au vu des progrès rapides très importants, on s’attendait à quelque chose de continu. Et on n’a pas tenu compte des difficultés techniques. D’ailleurs, en y mettant toutefois des guillemets, certains parlent même d’un nouvel hiver de l’IA.
Le plateau arrive toujours pour la même raison : on n’arrive pas à progresser plus vite. Avant, c’était le manque de données. Aujourd’hui, c’est avant tout l’attente des utilisateurs et du grand public. Cette deuxième raison (les difficultés techniques) est donc logique. L’IA générative ne peut progresser aussi vite qu’on le veut.
Si on prend un exemple simple, ce sont les différences entre LLM. Ainsi, la différence entre GPT-3.5 et GPT-4 est abyssale. En revanche, celle entre GPT-4 et GPT-4o est faible. Aujourd’hui, switcher entre 4 et 4o ne présente aucune difficulté. Mais switcher entre 4/4o et 3.5 est un enfer.
De même, des promesses d’immenses progrès se font attendre. Là encore, c’est OpenAI qui fait la Une de l’actualité. Au moment où j’écris ces lignes, l’entreprise a annoncé 3 grandes nouveautés :
La première, c’est son moteur de recherche, qui est en bêta test pour quelques personnes seulement,
La seconde, c’est le Voice Mode, qui est déployé de manière sporadique, alors qu’on l’attend depuis fin mai,
La troisième, c’est le générateur de vidéo Sora, qui n’est même pas accessible !
Les autres IA génératives suivent le même mouvement, à l’exception notable des IA génératives d’images, qui s’améliorent de manière toujours aussi rapide.
La Bourse, métronome de la hype de l’IA
Tous les investisseurs sérieux le savent : la Bourse monte et baisse au gré des infos quotidiennes et des émotions. Il y a peu de rationalité et c’est d’ailleurs pour que je préfère les ETFs (je conseille rien du tout, attention haha). Bah avec l’IA, c’est la même chose.
Nvidia est devenue l’une des entreprises les plus capitalisées au monde grâce à l’IA, parce que ses puces sont très demandées. Pourtant, les marchés se demandent si l’IA n’est pas qu’une hype. Bien entendu, ça baisse fort et ça monte tout aussi fort. Or, ces derniers mois, les marchés ont commencé à douter des entreprises de l’IA.
Lorsque la Bourse doute, il y a peut-être des questions à se poser. Les investisseurs ont compris que cela n’irait pas aussi vite. Ils préfèrent donc prendre leurs bénéfices, ce qui fait chuter le cours des entreprises en question. Et la confiance s’effrite.
Bref, c’est un cercle vicieux qui n’est pas au service de la technologie. Pourtant, il y a des éléments qui me semblent plus essentiels que les autres, c’est consolider et améliorer l’existant.
La consolidation des acquis est l’étape essentielle
Aujourd’hui, l’IA générative sait déjà faire de grandes choses. Et ces grandes choses peuvent encore être améliorées. Par exemple, savez-vous ce qu’est la fenêtre contextuelle ? En gros, c’est la mémoire d’une IA et elle se calcule en tokens.
Un token, c’est environ 75 % d’un mot et un modèle comme GPT-4o a une mémoire théorique de 32 000 tokens. Traduction : dans un chat, vous avez une mémoire théorique de 25 000 mots, documents partagés inclus. Au-delà, l’IA oublie les premiers messages. Sauf que c’est bien de la théorie et on constate des pertes de mémoire bien avant cette limite.
La consolidation serait par exemple que cette limite devienne autant théorique que pratique, mais aussi d’augmenter cette fenêtre. Un modèle de Gemini est censé avoir une fenêtre contextuelle d’un 1 million de tokens ! On peut donc aller plus haut comme dirait Tina.
On peut aussi augmenter la limite du nombre de documents partagés dans un GPT sur ChatGPT ou la meilleure prise en compte des modèles. Bref, il faudrait peut-être consolider tout cela avant de penser à voir une IA générer le code d’une application mobile publiable en l’état (oui, on peut avoir cela, mais l’appli sera moche et aura des défauts d’exécution).
Et c’est justement grâce à cette consolidation que cela va repartir.
Pourquoi cela va quand même repartir
Contrairement à la blockchain ou au Web3, les demandes de formation en IA générative sont importantes. Là, pour le coup, je m’étais un peu planté et c’est mieux pour moi. La demande est toujours aussi importante et a tendance même à augmenter.
Quel rapport avec la choucroute ? S’il y a demande, il y a nécessairement un intérêt et cet intérêt va, de fait, inciter les entreprises du secteur à améliorer leurs modèles. Par exemple, avoir une fenêtre contextuelle plus importante va devenir indispensable, car on comprend vite que les GPTs de ChatGPT peuvent vite avoir un problème.
Si la concurrence n’est pas vraiment entre pays, puisque les USA possèdent quasi 100 % du marché, c’est cette concurrence entre entreprises américaines qui va permettre à l’IA générative de continuer sa marche en avant. Il faut simplement savoir être patient !
Pourquoi aujourd’hui est le moment parfait pour se mettre à l’IA
Depuis plusieurs mois, nous sommes donc sur un plateau. Et même si l’on est sur un plateau, on peut faire de superbes choses avec l’IA. Encore aujourd’hui en formation, j’ai aidé une équipe juridique à construire un GPT pour le dernier exercice de la journée. Pendant 1h30, chacune des 6 personnes présentes a pu construire un robot fonctionnel, plus ou moins abouti selon la demande initiale.
Ce cas d’usage est extra pour montrer tout ce que peut faire l’IA générative aujourd’hui, même si les progrès sont plus lents. Or, avec ce plateau, les cartes peuvent être redistribuées. Certaines entreprises avaient pris beaucoup d’avance, en étant déjà dans le game dès le printemps 2023. Elles ont constaté un gain de productivité pour certains cas d’usage. D’autres entreprises, pour diverses raisons, n’ont pas pris le train en marche. Elles ont aujourd’hui la chance de le rattraper, parce qu’il est stationné en gare.
Cette entreprise, c’est peut-être la vôtre. Aujourd’hui, faire de l’initiation à l’IA n’a plus vraiment d’intérêt. Bien entendu, il est important de savoir d’où vient l’IA, comment fonctionne une IA générative, la notion de prédiction et le prompt. Mais, aujourd’hui, on se doit d’avoir un seul objectif : implémenter ChatGPT ou un (des) autre(s) outil(s) pour certains cas d’usage pour lesquels vous avez un réel besoin. Parce que le coût investi doit vous procurer des avantages.
Aujourd’hui, c’est exactement ce que je fais dans mes formations. Après une trentaine de sessions (journées, demi-journées, courtes sessions de 1h à 2h, en présentiel ou en visio), je pense désormais bien maîtriser cette transmission de l’utilisation pratique de l’IA générative dans votre quotidien. Mon objectif premier est de vous aider à mieux travailler avec l’IA générative. Et le bon moment pour s’y mettre est clairement maintenant.
Si une formation de ce type vous intéresse, en Suisse ou en France, vous pouvez m’envoyer un e-mail à cette adresse en me précisant votre besoin.
Voilà, c’est tout pour aujourd’hui, à la semaine prochaine 😁