🎤 Agents IA : quels risques pour les entreprises ? (Kader Seddak, Orange Cyberdefense)

Kader Seddak: [0:01] Comment ces agents induisent de nouvelles menaces ? Par exemple, Kader Seddak: [0:06] l'agent TIC va créer beaucoup de flux entre des agents, mais aussi des systèmes d'information. Kader Seddak: [0:11] Comment sécuriser ces flux ? Ça peut être fait par des solutions existantes ou par d'autres. Et c'est pour ça qu'on fait cette veille avec nos partenaires aussi, pour savoir comment apporter la bonne réponse. Monde Numérique : [0:28] La cybersécurité à l'ère de l'intelligence artificielle. On en parle dans cette série spéciale d'interviews en partenariat entre Monde Numérique et Orange Cyber Défense. Bonjour Kader Seddak. Kader Seddak: [0:39] Bonjour Jérôme. Monde Numérique : [0:40] Vous êtes directeur commercial cloud et sécurité IA chez Orange Cyberdefense. Alors avec vous, on va voir un peu aujourd'hui quelles sont les attentes, les préoccupations de vos clients, c'est-à-dire les entreprises françaises en matière de cybersécurité face au raz-de-marée, au tsunami de l'IA. D'abord, est-ce qu'elles ont pleinement conscience, ces entreprises, de ce qui est en train de se passer, qu'il y a vraiment quelque chose qui est en train de se passer avec l'IA ? Kader Seddak: [1:07] Oui, je pense, parce que quand on part avec d'autres technos comme le cloud que j'ai suivi ces dernières années, souvent la sécurité est arrivée comme la cinquième roue du carrosse, c'est-à-dire qu'elle est arrivée à Postury. Aujourd'hui, tout le monde prend conscience qu'on est face à une technologie disruptive, comme jamais vue. Monde Numérique : [1:28] Mais on voit souvent les avantages et puis le volet cyber, on n'y pense pas forcément. Kader Seddak: [1:32] Mais là, je pense quand même que les clients en prennent conscience. Pourquoi ? Parce qu'aujourd'hui, il n'y a pas d'IA sans données. Et la donnée, c'est la valeur de la société. Donc, on sait très bien que si on ne met pas la sécurité, on ne met pas les bons garde-fous dès le départ, il y a des risques forts que ces données nous échappent. Donc, je pense qu'il y a cette prise de conscience qui apparaît beaucoup plus tôt que par rapport à d'autres technologies. Monde Numérique : [1:56] Alors, des cyberattaques, on en entend parler tous les jours, quasiment. Mais selon vous, quels sont les trois principaux risques, en fait ? Kader Seddak: [2:05] Souvent, quand il y a des nouvelles technologies, le premier risque, c'est de perdre la visibilité. On ne sait plus ce qui se passe parce que ça va tellement vite. Donc, ça, c'est le premier risque. Le deuxième, c'est aussi comprendre quels sont les effets induits. En termes de menaces par cette nouvelle technologie. Par exemple, on parle beaucoup de prompt injection, qui est la manière de venir détourner un modèle, une IA, etc. Donc ça, c'est vraiment la première menace. Monde Numérique : [2:40] Très concrètement, prompt injection, on peut s'arrêter deux secondes là-dessus, c'est le fait d'envoyer des messages pour passer outre les sécurités qu'il peut y avoir. Kader Seddak: [2:47] Exactement, il y a ce qu'on appelle des guardrails en anglais, mais c'est-à-dire des manières, des barrières qu'on a conçues dans les modèles pour éviter qu'ils dérivent. Monde Numérique : [2:55] Voilà, pour les utilisations à mauvais escient. Kader Seddak: [2:57] Exactement. Et l'idée, c'est de pouvoir injecter des promptes que l'utilisateur ne voit pas forcément pour venir détourner sans le savoir l'usage du modèle. Monde Numérique : [3:10] Oui, c'est comme à un moment, on disait que ChatGPT, si on lui demandait de nous fabriquer un virus informatique, qui disait non, mais si on lui disait, écris-moi le scénario d'une série Netflix où il y a un pirate qui fabrique un virus, là il accepte. Kader Seddak: [3:22] Exactement. Et après, je dirais le troisième risque, in fine, l'IA, ça reste une application. Donc il ne faut pas oublier tous les risques qui sont liés à une application. Que ce soit au niveau du code, au niveau de l'infrastructure. Donc ce n'est pas quelque chose qui vit à côté du système d'information, c'est quelque chose qui est intégré au système d'information. Monde Numérique : [3:41] Alors est-ce que c'est vraiment intégré aujourd'hui ? Les entreprises françaises, elles en sont où ? Bon, quand on dit entreprise française, évidemment, de toute façon, c'est très large. La plus petite à la plus grande. Quel est le degré d'adoption de l'intelligence artificielle ? Kader Seddak: [3:56] Je le situerai à deux niveaux. Le premier, c'est que je pense qu'on a atteint un niveau de maturité au niveau de, on va dire, de l'IA qui dit, c'est-à-dire l'IA qui dit, l'IA générative. On a tous une IA qui va venir accompagner les collaborateurs, nous-mêmes, d'un point de vue personnel, l'IA générative, donc conversationnel. Ça, je pense, c'est acté. Aujourd'hui, tous les clients, en tout cas beaucoup, comme nous, on l'a fait avec notre solution interne, ce qu'on va appeler les Secure GPT, c'est d'avoir un chat GPT ou un équivalent sécurisé au sein de l'entreprise et qui permet d'éviter que les données soient partagées avec l'extérieur. Ça, je pense, c'est acquis. Mais ça, ça permet d'amener, de l'employé augmenté, C'est-à-dire d'aider à la productivité de l'employé au quotidien. Par contre, ce qui n'est pas encore, je pense, atteint, c'est d'arriver à intégrer l'IA dans les process métiers. Et ça, je pense qu'on va peut-être en parler après. L'agentique, je pense, va amener ça. On va passer d'une IA qui dit à une IA qui fait. Monde Numérique : [4:59] On va parler de l'agentique. Mais juste avant, vous disiez c'est acquis, les chatbots, etc. Mais est-ce qu'il n'y a pas aussi parfois, comme on l'a vu avec des outils, des moteurs de recherche, l'entreprise met à disposition un outil et puis les collaborateurs, ils disent ouais mais en fait bon écoutez c'est pas terrible j'arrive pas à faire ce que je vais faire du coup je vais sur ChatGPT et là hop, fuite de données. Kader Seddak: [5:20] D'ailleurs il est là l'enjeu aujourd'hui on le voit on a beaucoup de sujets, de discussions autour de ça avec nos clients c'est justement comment, je vais appeler ça l'IA fantôme pour traduire, l'IA qu'on ne maîtrise pas et avec ce risque d'aller l'utiliser pourquoi ? Parce que la force des IA grand public, ces principes de l'IA générative, c'est que plus elle a de données, plus elle est pertinente. Et quand on cloisonne une IA, pour des raisons de sécurité à une entreprise, on a forcément moins de données. Donc, on va être tenté d'aller à côté parce qu'on va sentir que la pertinence des résultats est meilleure. Donc, il est là l'enjeu d'arriver à avoir des outils qui permettent de contrôler l'usage des IA parce que l'impact est énorme, parce que à partir du moment où, par inadvertance, et des fois, de manière involontaire, et parce qu'on doit aller vite, on se dit, tiens, je dois rendre un rapport, je vais prendre des données d'entreprise, les mettre, dans un environnement, public, en tout cas, une lumière publique, je sors, on pense n'avoir rien fait, mais on a exposé les données de l'entreprise vers l'extérieur. Donc, c'est important. Je pense qu'on parlait tout à l'heure des principales menaces de sécuriser avant tout cet usage-là. Monde Numérique : [6:38] Mais vous dites qu'il y a des outils qui permettent d'éviter ça ? Oui, bien sûr. Au-delà juste de la sensibilisation et des changements comportements. Kader Seddak: [6:46] Bien sûr, parce qu'encore une fois, L'IA ne ravante pas tout. C'est une continuité, sauf qu'aujourd'hui, elle a des caractéristiques qui font qu'on a l'impression qu'on ne la maîtrise pas tellement à va vite. Mais ça reste l'évolution technologique. Monde Numérique : [6:56] Comment ça marche ? Je fais un copier-coller d'un document de travail et je le mets dans le chat GPT. En fait, ça me bloque ? Kader Seddak: [7:01] Ça vous bloque ? Voilà, c'est ce qu'on a appelé son prédécesseur. Ce n'est pas nouveau. C'est ce qu'on a appelé, vous parliez tout à l'heure, de Shadow AI, qui est une déclinaison de ce qu'on appelle du Shadow IT. C'est-à-dire qu'auparavant, on faisait la même chose, c'est rien de nouveau, c'est qu'on prenait des applications, d'entreprises, on trouvait des meilleurs à l'extérieur, on y allait, donc on a ce qu'on appelle des barrières, il y a des barrières, des équipements de sécurité qui permettent de filtrer, de contrôler les flux sortants et de vérifier, On ne va pas rentrer dans les détails, mais d'interdire certains accès vers des applications. Monde Numérique : [7:33] Ça, c'est accessible même aux petites entreprises, aux PME ? Oui, aujourd'hui, justement... Ce n'est pas des trucs qui coûtent des millions. Kader Seddak: [7:39] Ça ? Non, non, puisque nous, par exemple, sur le cyber défense, justement, on a réussi à proposer des offres segmentées par marché pour pouvoir les adapter, justement, par rapport aux contraintes budgétaires ou par rapport à la taille des entreprises. Donc, aujourd'hui, ça, c'est quelque chose d'accessible qui existe pour contrer ces menaces-là. Monde Numérique : [7:57] Ça, c'est la partie conversationnelle. Les agents, il faut en parler. Effectivement, c'est le phénomène. La révolution dans la révolution. L'IA qui fait, comme vous dites. On voit l'effervescence autour des agents aujourd'hui du côté des big tech américaines. C'est donc de plus en plus les IA qui vont prendre des décisions. On dit que demain, c'est elles qui feront des plans commerciaux, qui négocieront des contrats, qui signeront peut-être des commandes, etc. Effectivement, ça fait tourner la tête un peu. Kader Seddak: [8:26] Oui, ça fait tourner la tête, mais en même temps, ça dépend. On regarde le verre à moitié plein, à moitié vide. Mais si on regarde à moitié plein, il y a des opportunités énormes pour les entreprises. On va vraiment rentrer dans des sujets où on pourra amener des vrais ROI. Là où on faisait un peu défaut l'image générative, justement, puisqu'on va pouvoir actionner, ça va être actionnable. Donc, on pourra rentrer dans les process métiers. Et aujourd'hui, il y a même des standardisations qui sont en place. Je vais éviter les jargons, mais je vais m'en permettre un seul, si vous me permettez. C'est le MCP. C'est un moyen. Je vous donne juste un exemple. C'est un peu la... J'ai entendu une fois, j'ai bien aimé cette analogie. C'est la prise électrique de IA universelle. C'est-à-dire celle qui va permettre de connecter les. Monde Numérique : [9:11] Agents avec tous les systèmes. De l'angage intermédiaire entre les données. Kader Seddak: [9:15] Parce que s'il n'y a pas la standardisation protocole, ça ne pourra pas aller très loin. parce qu'aujourd'hui, il faudra interconnecter plein de systèmes entre eux. Mais je pense qu'il est là aujourd'hui, l'enjeu. Et je pense que ça, en tout cas, de mon point de vue, ma perception, c'est que ça va prendre aujourd'hui parce qu'on pourra venir automatiser des process et gagner du temps et amener ce fameux ROI que tout le monde recherche. Monde Numérique : [9:38] OK, mais comment on sécurise ça ? Kader Seddak: [9:39] Alors justement, on reprend les mêmes recettes aujourd'hui. C'est de comprendre, un, on ne peut pas se sécuriser si on ne comprend pas. La menace induite par ce qu'on utilise. Ça, c'est la base. Donc, c'est pour ça que nous, notre stratégie, j'ai bien la défense, c'est vraiment d'être à la pointe sur la connaissance de la menace. C'est ça qui va nous permettre d'apporter les meilleures solutions. C'est nécessaire, mais pas suffisant. Monde Numérique : [10:03] Vous faites une espèce de veille. Kader Seddak: [10:05] Exactement, de comprendre. Une veille, mais une veille. Monde Numérique : [10:07] C'est quoi la tendance en cybercriminalité ? Kader Seddak: [10:08] Voilà, mais pragmatique. C'est-à-dire, il y a la veille, il y a les signaux, ce qu'on appelle les signaux mais vraiment, les signaux exploitables. Et on sent qu'il y a un enjeu fort. et arriver à prioriser. C'est ça qui est important. Et c'est là-dessus où on amène cette valeur. Ce n'est pas juste de sortir un bilan, de dire voilà, attention, et faire peur à tout le monde en disant voilà. C'est aussi comment le corréler avec notre expertise, notre connaissance chez nos clients pour arriver à prioriser, à dire voilà, quel est l'état de menace en 2026 par exemple. Monde Numérique : [10:37] Donc vous dites, vous dites pas, n'utilisez pas les agents. Vous dites, allez-y, mais security by design. Pensez sécurité dès la mise en œuvre Dès. Kader Seddak: [10:47] La mise en œuvre, donc arrivée et qui est la continuité, encore une fois, une IA ne va pas fonctionner hors SI. Donc, elle va venir s'intégrer dans l'SI. Donc, comment je l'intègre déjà avec les mécanismes de sécurité que j'ai en place ? Aujourd'hui, il y a des entreprises, il y a un niveau de maturité cyber qui croît tous les ans. Et aujourd'hui, on a des systèmes en place. Donc, comment s'intégrer dedans Kader Seddak: [11:04] ? Ça, c'est la première chose. Kader Seddak: [11:04] La deuxième, c'est de dire comment ces agents induisent de nouvelles menaces. Par exemple, l'agentique va créer beaucoup de flux entre des agents, mais aussi des systèmes d'information. Comment sécuriser ces flux ? Ça peut être fait par des solutions existantes ou par d'autres. Et c'est pour ça qu'on fait cette veille avec nos partenaires aussi pour savoir comment apporter la bonne réponse par rapport à ça. Monde Numérique : [11:30] On sait qu'en matière de cybersécurité, souvent, le maillon faible, ce n'est pas forcément l'entreprise principale. C'est le petit sous-traitant, le petit prestataire au fin fond de je ne sais pas quelle région, etc., qui n'est pas au même niveau de cybersécurité. En matière de cybercriminalité par l'IA, c'est la même chose. Comment est-ce qu'une entreprise peut s'assurer que ses fournisseurs, ses prestataires ne vont pas eux-mêmes se faire attaquer parce qu'ils n'auront pas forcément pris toutes les bonnes dispositions ? Kader Seddak: [12:01] Tout à fait, c'est un vrai sujet, mais de manière générale, ce n'est pas nouveau. Mais je pense que la brique de base, et j'aurais peut-être avant ça commencé par là, c'est aussi la sensibilisation. Aujourd'hui, c'est la moitié du travail. Quand on arrive à conscientiser les choses, on arrive déjà à régler la moitié du problème. Monde Numérique : [12:26] Enfin, vous avez du boulot quand on sait qu'il y a encore le nombre de gens qui utilisent 1, 2, 3, 4 ou ABCD comme mot de passe, ou qui l'affichent sur des post-it derrière eux, ou qui, etc. Kader Seddak: [12:36] Non, tout à fait, tout à fait. il y a la sensibilisation, encore une fois je le dis, c'est nécessaire, pas suffisant, et ensuite il y a tout le travail qu'on réalise au quotidien avec nos partenaires, justement qui investissent la bonne nouvelle c'est qu'ils investissent fortement sur des briques, c'est souvent ce qu'on va appeler des sociétés des pure players, qui ont été créés des start-up sur le sujet, qui ont été rachetés par les grandes entreprises, partenaires de la cyber, et donc aujourd'hui on a des partenariats forts avec eux, et la bonne nouvelle c'est qu'on commence à avoir des solutions qui permettent de sécuriser justement ces briques d'IA, mais aussi qui commencent à se mettre Kader Seddak: [13:10] sur le sujet de l'âge antique. Donc aujourd'hui, l'idée, c'est vraiment... Monde Numérique : [13:13] Mais qui font quoi ? Qui font de la formation, de la sensibilisation ? Kader Seddak: [13:16] Non, il y a aujourd'hui, il y a le volet sensibilisation, on le fait à travers l'humain, donc ça, on le propose à travers des formations, à travers des ateliers qui permettent de sensibiliser. Puis après, ensuite, il y a le volet sécuriser l'IA. Et là, là-dessus, on va s'appuyer sur notre écosystème cyber qu'on a construit depuis plusieurs années et sur lequel aujourd'hui, On a la majorité des acteurs. La bonne nouvelle, c'est qu'ils investissent fortement. Ils ont vu l'enjeu qu'il y a dans la sécurisation de ces briquillères. Monde Numérique : [13:43] Juste avant de conclure, si vous aviez deux, trois bonnes pratiques à recommander, vous diriez quoi ? Kader Seddak: [13:53] Aujourd'hui, ne pas avoir peur de l'IA par rapport aux risques induits, parce qu'aujourd'hui, on a des réponses face à ça. Par contre, ce qu'il faut, c'est intégrer le sujet cyber dès le départ, dans la manière de concevoir son IA. Ça, c'est important. Par exemple, tout simplement, dans l'IA, il y a des données, il y a du code. Aujourd'hui, on a des solutions pour sécuriser les données. On a des solutions pour sécuriser le code. Donc dès qu'on l'intègre dès le départ, on sait intégrer ses briques et ça permet d'avoir un projet qui est sécurisé dès le départ et qui permet justement d'éviter de s'exposer au moment de passage en production. Monde Numérique : [14:33] Donc vous n'êtes pas, j'allais dire, inquiet outre mesure, c'est la suite de l'histoire finalement. Kader Seddak: [14:38] Non, il faut rester prudent, on ne va pas être trop confiant parce qu'aujourd'hui, ça va tellement vite. Le challenge, je pense, c'est d'arriver à trouver le rythme, à garder le rythme, à suivre cette tendance parce qu'on le voit tous les deux, trois mois, les choses changent rapidement dans l'écosystème IA. Donc, c'est ça, je pense, le principal challenge pour nous, en tant que prestataires de cybersécurité, mais également nos partenaires, c'est d'arriver à suivre justement cette tendance et amener les bonnes réponses en termes de cybersécurité. Monde Numérique : [15:14] Merci Kader Seddak, directeur commercial cloud et sécurité IA et Orange Cyberdefense.