🎤 L'humeur de Luc Julia - IA génératives, pas créatives

Luc Julia : [0:01] Donc oui, il y a des gens qui sont plus ou moins susceptibles de faire des choses complètement débiles et de se tomber amoureux d'une IA générative. Luc Julia : [0:11] Ça s'arrive, mais ils sont psychologiquement faibles et fatigués. C'est à eux, c'est eux qu'il faut soigner, ce n'est pas l'IA. Monde Numérique : [0:26] Bonjour Luc-Juliat. Luc Julia : [0:27] Bonjour Jérôme. Monde Numérique : [0:28] Co-inventeur de Siri, directeur scientifique de Renault, expert en intelligence artificielle, très heureux de te retrouver comme chaque mois dans le monde numérique pour que tu nous livres ton humeur du moment sur l'actu tech. Luc, je te remercie d'autant plus d'être là aujourd'hui, que tu es un peu fatigué en ce moment, on le sent avec, tu n'as pas ta voix des meilleurs jours. Donc vraiment merci de faire l'effort d'intervenir dans le monde numérique. Luc, je suis parti en vacances il y a quelques jours et j'ai emporté de la lecture ton livre « IA générative, pas créative » paru au Cherche Midi. Je me suis régalé, ce n'est pas de la flatterie, c'est super intéressant. Donc, on va en parler, en fait, ce mois-ci. D'abord, tout simplement, j'aimerais que tu reviennes un peu sur le titre. Ok, tu dis, attention, les IA ne sont pas créatives, elles ne sont que génératives. Mais en fait, on a toujours dit ça. On a toujours dit que c'était que des IA génératives, non ? Luc Julia : [1:23] Non, tu vois, il y a tes collègues dans les médias qui font souvent les raccourcis, et dérapent un peu et disent et parlent d'IA créatives, souvent. Et les mots ont un sens, c'est-à-dire que là, pour une fois, tu sais que j'avais un problème avec l'intelligence artificielle en général, parce que ce n'est pas très intelligent. Monde Numérique : [1:44] Oui, c'était ton précédent livre, l'intelligence artificielle n'existe pas, enfin, le premier en tout cas. Luc Julia : [1:49] Et donc, du coup, là, ici, avec les IA génératives, on ne s'est pas trompé de nom, tu vois. Donc, on a bien appelé ça IA générative parce qu'effectivement, elle génère à partir de modèles, de modèles d'un monde qu'on s'est fabriqué. Donc, on a pris des données, alors on les a choisis ou pas. Et donc, du coup, ça génère à partir de ce modèle. Ça ne crée strictement rien. Ça ne fait que remâcher ce qu'il y a dans ces modèles. Donc là, on ne s'est pas trompé dans le nom. et je voudrais vraiment qu'on insiste sur le vocabulaire et qu'on fasse attention de ne pas déraper, de ne pas utiliser l'IA créative, étonnée qu'elles ne le sont absolument pas. Monde Numérique : [2:28] Et d'ailleurs, tu expliques une chose super intéressante, je trouve, tu dis que, parce qu'en fait, ça vient s'interroger sur ce que c'est que la créativité, et la créativité, c'est sortir des clous, en fait. Et tu dis, mais l'IA, elle ne peut pas sortir des clous, parce que c'est contre nature pour elle, en fait. Luc Julia : [2:44] Elle est dans ce modèle, dans ce carcan qu'on a fabriqué. donc encore une fois on a pris des données qui par définition sont des données existantes des données du passé, donc elle vit dans le passé et si tu veux un Picasso, Alors bon, on n'est pas tous créatifs, on s'inspire, il y a des artistes qui s'inspirent d'autres qui sont plus ou moins créatifs, et d'ailleurs plus ou moins boring, plus ou moins embêtants, parce que bon, ça ressemble aux autres, mais bon, c'est comme ça. Et puis il y a ceux qui sont extraordinaires, qui sortent du lot, qui sont créatifs. Donc un Picasso qui, au milieu des années 1900-1920, se met à faire des trucs débiles qu'on n'a jamais vus avant. Et ça c'est de la créativité de la pure créativité, il est sorti du modèle, et là si tu veux, une IA n'est absolument pas capable de faire un truc comme ça parce qu'elle ne peut pas sortir du modèle elle est dans le modèle, même si elle remâche des trucs même si des fois elle fait des trucs bizarres parce que ces hallucinations dont on parle de temps en temps, c'est pas les erreurs mais c'est les hallucinations et même si elle hallucine, à l'intérieur de ce modèle. Monde Numérique : [4:01] Par exemple, tu as dû voir passer la dernière annonce de Google en matière de vidéo avec ce moteur qui s'appelle VO3 qui permet de générer de la vidéo en plus avec du son, des dialogues, etc. On a l'impression que ça repousse encore plus loin les limites de la... Alors je ne vais pas employer le mot, mais malgré tout, de la créativité en matière de cinéma. Tu vas me dire quoi ? Que c'est finalement toujours qu'un outil mais qui ne pourra jamais fabriquer lui-même un film ? Luc Julia : [4:27] Oui, parce que qui est-ce qui va utiliser cet outil ? Est-ce que c'est un outil ? Donc effectivement, ça va être peut-être des gens qui n'ont jamais créé avant, qui vont pouvoir utiliser cet outil. Mais comment on l'utilise, cet outil ? On l'utilise avec un prompt ? C'est-à-dire que je vais lui donner des directives, je vais lui donner des directions, et c'est moi qui donne ces directions. Elles ne sont pas données par le Saint-Esprit. Et donc, du coup, cet outil est excessivement puissant et très intéressant. Il permet d'inventer, en quelque sorte, ce qu'il y a entre plusieurs scènes que je peux donner, d'extrapoler. Donc, cet outil extrapole un tout petit peu, mais plus je vais donner des piliers, des poteaux qui sont loin, si tu veux, plus ça va extrapoler n'importe quoi. Donc moi, créateur, je vais pouvoir, même si je ne sais pas exactement ce que je fais, je vais pouvoir donner tous ces petits poteaux, et le truc, il va remplir les blancs entre ces poteaux, et il va le faire très très bien. Mais si je lui dis, fais un cow-boy en train de taguer la tour Eiffel, il ne saura pas quoi faire. Donc il faut que ce soit moi qui lui dise le truc, il ne va pas inventer un truc comme ça. Monde Numérique : [5:46] Oui, parce qu'en plus, quand on lui dit ce genre de choses, on s'aperçoit, par exemple sur ChatGPT, que lui-même génère un prompt qui est beaucoup plus précis en fait. Luc Julia : [5:55] Donc après, le truc qui est bien, c'est que cette extrapolation dont je parle, c'est exactement ça. Parce qu'à l'intérieur d'un outil, il n'a pas assez d'éléments par rapport à ce que moi je lui ai donné, Donc, il extrapole un nouveau prompt qui va être plus précis pour pouvoir remplir ses blancs à l'huile, pour pouvoir faire ce que lui peut faire, il doit faire, pour pouvoir générer la vidéo, le son, etc. Monde Numérique : [6:22] Mais est-ce qu'on est sûr vraiment, Luc, qu'on n'aura jamais de surprise ? On sait que même les créateurs de ces modèles volontairement mettent un peu d'aléatoire là-dedans pour justement essayer de pousser les modèles à sortir des clous. Luc Julia : [6:40] Oui, mais c'est pour ça qu'on a des surprises. C'est pour ça qu'on a des hallucinations. C'est pour ça qu'on a des choses qui sont bizarres de temps en temps. Donc, évidemment qu'on aura des surprises. Mais ces surprises, elles ne vont pas faire plaisir au créateur parce que ça va dévier du sens qu'il est en train de donner à sa création. Parce que ces surprises vont faire autre chose, tu vois. Tu lui demandes de faire un cow-boy devant un tour Eiffel et boum, il te colle devant l'Arc du Triomphe. C'est pas ce que tu voulais. Mais effectivement, il y a du random. Il y a du random dans ces modèles. Mais c'est fait exprès parce qu'on ne sait pas tout. Et de temps en temps, il faut mettre des raccourcis à l'intérieur. Monde Numérique : [7:24] Alors évidemment, dans ton livre, tu parles aussi, bien sûr, du fameux mythe de l'EGI, l'intelligence artificielle générale, dont parle beaucoup Sam Altman, le patron d'Open&Eye, il nous la promet pour bientôt. Et avec les questions qui vont avec, qui sont les risques éventuels. Est-ce que cette EGI pourrait être dangereuse pour l'humanité, prendre le pouvoir ? J'ai parlé dans ce podcast de ces IA qui auraient refusé de s'éteindre, qui auraient rejeté des scripts d'extinction. Luc Julia : [7:56] Bon, alors, ce sont des conneries monumentales. Monde Numérique : [8:00] Mais toi, tu n'as aucune crainte qu'il y ait un truc un jour qui soit capable de prendre des décisions tout seul. Luc Julia : [8:07] Prendre des décisions tout seul, ça existe déjà. C'est ce qu'on appelle l'agentique. On peut laisser les agents prendre des décisions, parce qu'en fonction du domaine dans lequel ils sont. Mais un truc générique, général, c'est ça qui est compliqué. C'est ça qui est compliqué. C'est ça qui n'existera certainement jamais. Parce que déjà, le problème que j'ai, je ne sais pas ce que c'est que l'intelligence. Je ne sais pas, à l'intelligence tout court. Et donc, du coup, copier un truc qu'on ne connaît pas, et personne n'est d'accord avec les définitions d'intelligence, c'est du monde, il est philosophe, il est psychologue, etc. Tout le monde est... Il y en a 17, il y en a 7, sauf qu'on ne sait rien. Et donc, du coup, copier les trucs qu'on ne connaît pas, c'est compliqué. Donc, dire que cette intelligence artificielle générale, on y est presque, c'est un concept qu'on ne comprend même pas donc je ne sais pas ce que ça veut dire peut-être qu'on y est déjà, il y a un truc qui m'amuse et j'entends souvent les gens qui disent oh là là l'intelligence artificielle va être plus intelligente que nous bientôt mais attends j'ai un scoop pour toi, pour nous pour vous tous, l'intelligence artificielle tous les outils d'intelligence artificielle par définition même de l'outil, ils sont meilleurs que nous. Monde Numérique : [9:31] Ils le sont déjà. Luc Julia : [9:32] Depuis très longtemps, dans des domaines spécifiques. Et j'irais même plus loin. Depuis 1642, il y a des machines qui sont plus intelligentes que nous, avec la pascaline de Pascal, qui fait des additions à quatre chiffres, beaucoup mieux que nous, en trois secondes, alors que nous, on est obligé de la poser sur le papier. Donc, il faut se calmer un tout petit peu. Les intelligences artificielles diverses et variées sont meilleures que nous parce que ce sont des outils et par définition même des outils, elles sont utiles. C'est-à-dire qu'elles sont meilleures que nous. Le marteau, il est meilleur que moi pour planter le clou. D'accord ? Mais faire une intelligence artificielle générique, ça veut dire quoi ? Ça veut dire que je mettrais dans une boîte à outils tous les outils possibles et inimaginables et que ça fait tout. C'est le couteau suisse, si tu veux, tu vois le truc compliqué. Mais on voit bien que le couteau suisse, ça ne marche pas. Couteau suisse, tu t'en sers pour te dépanner de temps en temps, mais bon, ça ne marche pas, c'est chiant à utiliser. Donc, il faut un peu se calmer. Luc Julia : [10:38] Faire un couteau suisse, ça ne sert à rien. Et surtout, il serait super, super compliqué. Monde Numérique : [10:45] L'initiative de Joshua Benjo, qui va créer, il monte ça y est, un organisme qui s'appelle Low Zero, et qui, dans la mission, va être d'essayer de développer des outils pour sécuriser les IA, mais à la base, pour éviter qu'il y ait des dérapages et donc des risques pour l'humanité. Luc Julia : [11:06] Écoute, Joshua, il a, depuis 2-3 ans, avec les IA génératifs. Luc Julia : [11:12] Et au début, il a dévié complètement, il avait pété une durite, après il est revenu un petit peu. Maintenant, cette initiative-là, c'est pas mal. Je veux dire, c'est dire que dès le départ, on va réfléchir aux impacts potentiels de ces IA, et donc, du coup, d'essayer de mettre des carcans par la régulation ou par d'autres moyens. Écoute, c'est pas une mauvaise idée. On ne peut pas dire qu'il ne faut pas réfléchir sur les impacts de ces IA. Aujourd'hui, je pense qu'il faudrait plus réfléchir sur les impacts environnementaux de ces IA. Je pense que c'est beaucoup plus important que sur les impacts que ça peut avoir sur nous humains. Je veux dire, on est des bonhommes. Je veux dire, on est assez grands. On sait à peu près ce qui est bien et ce qui n'est pas bien. Donc oui, il y a des gens qui sont plus ou moins susceptibles de faire des choses complètement débiles et de se tomber amoureux d'une IA générative. Bon, ça s'arrive, mais ils sont psychologiquement faibles et fatigués. C'est à eux qu'il faut soigner, ce n'est pas l'IA. D'accord ? Donc je pense qu'il faut passer par l'éducation, il faut passer par l'explication, avec des livres comme le mien, ou en écoutant des gens qui font de l'IA et qui la comprennent. Et puis, on respire un peu, on fait un peu de yoga collectif. Luc Julia : [12:37] Et puis, on se rend compte que ces IA, elles ne sont dangereuses que s'il y a des gens qui sont dangereux. Monde Numérique : [12:46] Et encore une question sur l'aspect environnemental que tu évoques. C'est vrai que tu en parles. Tu fais des suggestions à la fin du livre que je trouvais assez radicales quand même. parce que tu dis qu'on a un problème. Une requête chat-GPT, ça équivaut à 500 requêtes Google. Ça consomme trois bouteilles d'eau pour générer une centaine de mots, etc. Du coup, il va falloir limiter la casse. Et tu dis qu'il suffit d'envisager de limiter les usages inutiles des IA génératives. C'est des discours qu'on a déjà entendus. Est-ce que c'est vraiment réaliste ? Luc Julia : [13:17] Alors, c'est compliqué de dire qu'il ne faut pas faire. Donc, ça, c'est compliqué. Le régulateur peut très bien décider de dire chacun a un droit à 100 requêtes par jour, donc pourquoi pas. Monde Numérique : [13:33] Comme les vols en avion etc. Luc Julia : [13:35] Mais bon on sait que c'est un peu de chance c'est hyper coercitif je te concède que c'est super compliqué, on peut pas faire de la décroissance, la décroissance dans notre monde n'existe pas c'est juste pas possible, on est habitué à nos petits conforts, on est habitué à nos petits trucs et tout ça, donc on fera pas de décroissance, ça c'est de l'utopie, écologiste de base mais, Je pense que par l'éducation, et je pense aussi que la nouvelle génération a plus de conscience, la nouvelle génération, surtout en Europe, et peut-être en France, plus qu'ailleurs, a plus conscience de ça, commence à prendre conscience, et la self-regulation est ce que j'espère qu'il va se passer. Je te concède que dans la Silicon Valley, ils ont strictement à la foutre. Là, il se passe, c'est la fête du script total, c'est n'importe quoi, et ils sont dans la course ou à saisir. Et donc, il n'y a absolument pas de prise de conscience. J'espère qu'il y aura une prise de conscience avec cette nouvelle génération qui va se rendre compte que, sans devenir, encore une fois, des gens qui vont aller vers la décroissance, vont se rendre compte que ça pète quand même un peu la planète, ces trucs. Mais un truc quand même aussi qu'il faut rajouter, c'est que les nouveaux modèles qui vont arriver, parce que la réalité, c'est que les lèmes sont morts. Je pense que... Enfin, moi, je suis persuadé que les LLM sont morts. Monde Numérique : [15:04] Oui, c'est ça. Si tu enterres les LLM, tels qu'on les connaît aujourd'hui. Luc Julia : [15:07] Tout ça... Les idées des LLM vont rester, et on va se retrouver avec des trucs plus frugaux, plus petits, plus spécialisés. Et donc, du coup, aussi, ça va permettre de faire cette décroissance. Mais ce n'est pas du tout vers là où, par exemple, Stargate avec Trump et Altman. D'accord ? Mais je pense que fondamentalement, c'est ce qui va se passer avec les IA gentils. En fait, c'est ce qui commence à se passer. Monde Numérique : [15:26] Merci, Luc Julia. Et donc, on voit ton livre vraiment à lire pour tout comprendre. IA, génératif, pas créatif, recherche midi. Merci Luc. Luc Julia : [15:36] Merci Jérôme.