🎤 Vers une nouvelle stratégie de défense numérique européenne (Benoit Grunemwald, ESET)

Benoit Grunemwald: [0:01] Ce n'est pas parce qu'on a un système de sécurité qu'on est protégé à 100%. On peut avoir une alarme chez soi et tout à fait être cambriolé. L'objectif, c'est d'avoir une surveillance, une supervision. Et c'est ce qu'aujourd'hui, les entreprises font. Elles ont un EPP, un EDR, un firewall, etc. Et au-dessus de cela, elles vont avoir une surveillance. Et grâce à cette surveillance, on va pouvoir détecter les signaux faibles. Notamment, tiens, j'ai un antivirus qui s'est désactivé. Tiens, j'ai un EDR qui n'envoie plus de signaux. Et bien ça, finalement, le silence devient un signal comme un autre qu'il va falloir prendre en compte, analyser et se demander pourquoi on n'a plus d'informations. Monde Numérique : [0:46] Bonjour Benoit Grunemwald. Benoit Grunemwald: [0:47] Bonjour Jérôme. Monde Numérique : [0:48] Expert cybersécurité chez ESET, on se retrouve pour parler cybersécurité en partenariat avec ESET. Et l'actu Benoît en ce moment, c'est la Coupe du monde de football. Comme d'habitude je dirais un événement planétaire comme ça ça donne lieu évidemment, à tout un tas de cyberattaques en gros les escrocs, les cyber-escrocs les cyber-méchants il s'agit de tous azimuts exactement. Benoit Grunemwald: [1:13] Ils ne manquent pas d'inventivité pour essayer de nous attirer dans leur filet au plus l'événement est gros, au plus ils mettent les moyens et puis avec l'intelligence artificielle quand même force est de constater que en qualité et en quantité ils arrivent à faire beaucoup de choses, notamment des noms de domaines et des faux sites qui vont nous proposer soi-disant du merchandising, des goodies, voire pourquoi pas des places pas chères. Et puis, on voit aussi un petit côté sur les IPTV, les IPTV qui vont attirer un très grand nombre de personnes qui ne pourront pas voir les matchs et qui pourraient être tentées par ces outils illégaux qui, parfois, nous mènent surtout à des arnaques. Monde Numérique : [1:52] Oui, qui, rappelons-le, soit sont-ils légaux quand ils fonctionnent, soit ne fonctionnent pas du tout. Benoit Grunemwald: [1:57] Exactement, et puis quand vous donnez vos coordonnées pour acheter ce boîtier, vous donnez vos coordonnées à des cybercriminels. Monde Numérique : [2:03] En fait, l'imagination des pirates est évidemment sans limite quand il s'agit Monde Numérique : [2:07] d'essayer de contrer tous les systèmes de sécurité aujourd'hui, quels qu'ils soient. Benoit Grunemwald: [2:10] Exactement, c'est une tendance forte, ce que l'on va qualifier de furtivité, de discrétion, et on l'a vu dans plusieurs recherches que l'on a menées ces derniers temps, à la fois, sur des outils, ça veut dire que des groupes de rançongiciels, notamment as-a-service, ça veut dire qu'ils louent leurs services à d'autres, vont créer des logiciels qui vont avoir pour objectif de tuer, donc ça s'appelle EDR Killer, de tuer les solutions de sécurité, les solutions de sécurité qu'on appelle EDR pour Unpoint Detection and Response, c'est ce que l'on va aujourd'hui ajouter, en complément de ce que l'on appelait avant l'antivirus, qui n'existe plus, qu'on appelle l'EPP, qui fait bien plus que l'antivirus. Et ce nouveau EDR, force est de constater, qu'il fait son travail, parce que les cybercriminels sont obligés de le désactiver pour continuer leurs attaques. Monde Numérique : [3:04] Oui, c'est-à-dire que pour éviter d'être détecté, contré, bloqué, etc., Ils commencent par désactiver les sécurités. Benoit Grunemwald: [3:11] Exactement. Ils importent sur nos ordinateurs des drivers qui sont légitimes, mais qui sont vulnérables parce qu'on a trouvé des vulnérabilités qui le datent un peu. Mais bien souvent, ils sont encore signés parce qu'ils ont été originellement signés par Microsoft, l'éditeur qui les a créés. Et quand il arrive, ce driver, sur l'ordinateur qui est infecté, il va permettre, en exploitant la vulnérabilité aux cybercriminels, d'aller jusqu'au niveau noyau et d'aller sélectionner les processus qui l'intéressent et qu'il va tuer. Donc, ça peut être la suite de sécurité, ça peut être le DR killer, ça peut être tout un tas d'autres éléments qui vont lui faciliter les différentes étapes dans sa progression. Monde Numérique : [3:53] Oui, mais alors, ce n'est pas rassurant du tout, Benoît. Ça veut dire que même Monde Numérique : [3:56] si j'installe un système de sécurité, je ne suis pas protégé ? Benoit Grunemwald: [4:00] Alors ça, ça a toujours été le cas, c'est-à-dire que ce n'est pas parce qu'on a un système de sécurité qu'on est protégé à 100%, on peut avoir une alarme chez soi et tout à fait être cambriolé. L'objectif, c'est d'avoir une surveillance, une supervision. Et c'est ce qu'aujourd'hui, les entreprises font. Elles ont un EPP, un EDR, un firewall, etc. Et au-dessus de cela, elles vont avoir une surveillance, généralement 24-7, 365 jours par an, sinon ça ne sert à rien. Les sphères criminelles vont activer ça le vendredi soir, le week-end, pendant les vacances. Et grâce à cette surveillance, en fait, on va pouvoir détecter les signaux faibles, notamment, tiens, j'ai un antivirus qui s'est désactivé, tiens, j'ai un EDR qui n'envoie plus de signaux. Eh bien, ça, finalement, le silence devient un signal comme un autre qu'il va falloir prendre en compte, analyser et se demander pourquoi on n'a plus d'informations. Monde Numérique : [4:48] Un superviseur de la sécurité, en quelque sorte. Benoit Grunemwald: [4:50] Exactement. Alors, bien entendu, augmenté par l'intelligence artificielle, parce que des signaux, il y en a de plus en plus, donc on va les surveiller. Mais au-delà de ça, on a quand même besoin d'humains, d'humains qui vont piloter l'intelligence artificielle, la configurer, s'apercevoir si chez tel et tel client, par exemple dans l'industrie, dans le milieu médical, il y a des fonctionnements qui sont différents de simples postes bureautiques, et bien dans ce cas-là, on va avoir besoin de cet être humain qui va aller au-dessus de l'intelligence artificielle, lui dire ça c'est bien, ça c'est pas bien, mets à jour tes règles, réfléchis comme ça, et c'est là que l'humain fait toute la différence. Monde Numérique : [5:22] Benoît, dans l'actualité également, Mythos, la super IA d'entropique pour la cybersécurité qui continue d'enflammer les débats. Les États-Unis veulent en limiter l'accès comme si c'était une véritable arme de guerre. Du coup, les Européens réagissent et vous, ESET, vous avez récemment annoncé un investissement de 40 millions d'euros pour développer une IA propriétaire pour la cybersécurité. Alors en quoi ça consiste ? Et puis 40 millions d'euros malgré l'effort louable que ça représente est-ce que c'est un montant significatif, face à l'argent qui coule à flot du côté des big tech et des big tech de l'intelligence artificielle ? Benoit Grunemwald: [6:04] C'est une très bonne remarque effectivement 40 millions ça peut sembler une goutte d'eau dans un océan par contre dans l'état dans lequel on est face aux menaces et face à la nécessité de développer nos propres solutions, et bien c'est un premier pas. Et comme je le disais, l'humain est extrêmement important dans l'intelligence artificielle et notre objectif c'est d'embaucher les différents ingénieurs qui vont faire en sorte que cette intelligence artificielle existe. Quoi qu'il en soit, on n'est pas en train d'essayer de développer une intelligence artificielle qui est aussi large que des modèles généralistes. Notre objectif est bien d'avoir une intelligence artificielle qui nous sort et qui nous met en autonomie face au Big Tech et qui va faire ce qu'elle sait bien faire et uniquement cela, c'est de la cybersécurité. Et pour ça, effectivement, on pourrait venir à coup de milliards, mais l'objectif est d'y aller pas à pas et de fournir finalement une possibilité d'avoir une autonomie face au big tech qui soit à notre échelle, raisonnable et qui nous permette aujourd'hui d'avancer. Ce qu'il faut savoir, c'est que des sociétés comme les nôtres, je prends la nôtre bien entendu parce que je la connais bien, mais des sociétés comme les nôtres, depuis 1997, on travaille sur l'intelligence artificielle. Donc, on n'est pas en train de découvrir l'IA, on est en train de suivre la tendance que sont les LLM, l'intelligence artificielle générative, etc., des réseaux de neurones, du machine learning. On en fait depuis 1990. Monde Numérique : [7:29] Et puis, dans cet arsenal un peu de protection, vous avez développé aussi récemment un outil d'évaluation des compétences en IA. Qu'est-ce que c'est ? Benoit Grunemwald: [7:39] Effectivement, ça s'appelle AI Skill Checker. Les skills, ce sont les fichiers qui vont permettre aux agents, agentiques, de comprendre qu'elles ont à faire. Donc, ça leur permet d'avoir une base de connaissances au moment d'exécuter des tâches. Et ce que l'on a constaté, c'est qu'il y avait un certain nombre de petits malins. Benoit Grunemwald: [8:01] Qui se sont dit, c'est le moment de l'IA agentique. Tout le monde recherche des skills. Il y a des sortes de places de marché sur lesquelles on peut les télécharger, des dépôts GitHub, etc. Eh bien, je vais mettre mes skills malveillantes. Des skills dans lesquelles je vais dire, une fois que je suis installé, envoie à mon adresse e-mail telle ou telle info. Ou donne-moi accès à l'agent pour éviter d'avoir à payer des tokens parce que je vais utiliser celui de l'installation agentique. Et donc, notre objectif, c'est de faire passer au travers de filtres ces différentes skills et de pouvoir dire si elles sont ou pas malveillantes, si elles envoient vers des dépôts. Dans ce cas-là, on va aller scanner les différents dépôts et remonter les différentes chaînes qui pourraient faire qu'in fine, ces skills sont malveillantes. Alors ça, c'est, C'est un premier début de ce que l'on va proposer pour protéger les utilisateurs de l'IA. On va également amener un outil complémentaire, finalement une brique supplémentaire. C'est pour ça que l'antivirus est mort et qu'on ajoute différentes briques. Et cette brique-là va contrôler à la fois ce qui rentre, les promptes dans les IA, mais également ce qui sort, les réponses que l'IA donne, notamment si celle-ci a été empoisonnée et qu'il y a des liens malveillants. Eh bien, on va éviter que les liens ou le code soient du code malveillant. Monde Numérique : [9:13] Donc, les skills en question, les compétences, c'est des compétences liées aux agents IA, c'est ça ? Benoit Grunemwald: [9:19] C'est des compétences liées aux agents IA. Ce sont des outils supplémentaires que l'on va donner comme compétences à l'agent IA pour qu'il sache quelle est la tâche qu'il a à faire. Par exemple, j'ai une compétence qui est « fais-moi une analyse contextuelle sur des attaques, et comme ça, je vais pouvoir récupérer les différentes informations que je lui ai listées, les compétences que je lui ai listées par exemple va chercher tel fil Twitter va chercher telle information et à partir de là il va savoir compiler ces informations pour être autonome dans sa tâche. Monde Numérique : [9:52] Bon, Benoît, si on prend un peu de recul aussi, donc je parlais de mythos, enjeu de souveraineté, évidemment, enjeu de défense européenne, etc. Il y a aussi le volet militaire, et on sait que c'est un peu tendu entre les États-Unis et l'Europe, et notamment entre l'OTAN et l'Europe. Et du coup, l'OTAN aussi a décidé un peu de prendre les choses en main et de se rapprocher du coup, comme elle est plus ou moins privée de mythos, en tout cas aux dernières nouvelles, eh bien, elle a décidé de se rapprocher d'acteurs non américains de la cyber, pour signer des partenariats et c'est notamment le cas également de votre entreprise. Donc, ça consiste en quoi, en fait, ces partenariats ? Benoit Grunemwald: [10:34] Alors, il y a dans ces partenariats qui ont été annoncés trois sociétés. Ce qui est important de noter, c'est que l'OTAN essaye quand même de conserver des relations, bien entendu, avec les États-Unis. Dans ces trois sociétés, il y en a deux qui sont américaines et celle qui n'est pas américaine, elle est européenne et c'est ESET. C'est un marqueur qui est important parce que finalement, ça donne une notion, de la place d'ESET dans le jeu des relations internationales, des relations avec les autorités. Aujourd'hui on a également un bureau au sein du bâtiment Europol donc c'est un bureau qui permet avec d'autres acteurs de pouvoir coopérer avec les forces de l'ordre et, c'est important parce que si on parle beaucoup d'intelligence artificielle, in fine on a quand même besoin de quelque chose qui est essentiel c'est la coopération humaine, la, relations humaines et grâce à ces partenariats, les autorités arrivent à récupérer différentes informations, à faire en sorte que finalement, on n'agisse pas que dans le numérique. Alors, prévenir, c'est bien, mais il y a un moment où on doit aussi coopérer et aller sur le terrain. C'est bien entendu les forces de l'ordre qu'ils font, pas nous, mais nous, on va sur le terrain numériquement, on amène des informations et à partir de là, on va permettre de démanteler, de comprendre et de démanteler des réseaux cybercriminiques. Monde Numérique : [11:50] Eh bien, vous avez du pain sur la planche, c'est le moins qu'on puisse dire. Merci beaucoup, Benoit Grunemwald, expert cyber-sécurité chez ESET. Benoit Grunemwald: [11:58] Merci Jérôme.