Le CTO mondial du fournisseur de sécurité affirme que la nature non déterministe de l’IA nécessite une nouvelle approche de la cybersécurité qui inclut dès le départ la sécurité comme une priorité.
Lors de l’événement, les dirigeants et les représentants de Check Point ont expliqué comment l’entreprise fait face à différents types de menaces, comment elle adopte l’IA en toute sécurité et comment Check Point et d’autres peuvent exploiter l’IA à leur propre bénéfice.
Comment les agents d’IA changent-ils la façon dont nous détectons et stoppons les cybermenaces ? Quels nouveaux risques créent-ils ?
Je vais essayer de répondre à plusieurs niveaux. La première concerne la façon dont nous opérons différemment en tant qu’entreprise de cybersécurité protégeant nos clients.
Nous avons toujours eu des équipes d’experts qui surveillent les menaces, identifient les acteurs malveillants et créent de nouvelles défenses pour nos produits. Par conséquent, chaque fois que nous détections un groupe APT, nous l’enquêtions et créions des signatures pour nous en protéger. Ou lorsque nous avons repéré un réseau suspect utilisé par des acteurs malveillants, nous avons identifié son emplacement et l’avons bloqué. S’il est vrai que, à bien des égards, nous avons toujours été limités par le nombre de personnes talentueuses capables de rassembler ces renseignements et de les transformer en défenses exploitables, que nous a permis de faire l’IA ? Augmentez considérablement cette opération.
Pourriez-vous donner un exemple ?
Nous avons toujours demandé à des équipes rouges de tester nos produits pour garantir leur sécurité. Et nous avons toujours apprécié ces équipes car elles ont rendu nos produits nettement plus sécurisés. Désormais, ces équipes sont incroyablement puissantes grâce à l’IA, travaillant 20 fois plus efficacement. Qu’avons-nous maintenant ? Une combinaison de personnes et d’agents IA, avec environ 300 instances surveillant et testant en permanence nos systèmes. C’est ce qui nous permet d’offrir une meilleure cybersécurité et d’étendre nos capacités.
Mais force est de constater que des acteurs malveillants utilisent l’IA pour mener à bien leurs opérations…
C’est exact. Tout comme cela nous a aidé à étendre nos opérations, cela les a également aidés. Nous assistons désormais à une prolifération de groupes de menaces et d’acteurs malveillants plus petits et plus rapides, capables de mener des campagnes de phishing avec moins d’expertise qu’auparavant. Par conséquent, nous voyons de plus en plus de personnes entrer dans le domaine de la cybersécurité offensive. La dernière pièce du puzzle réside peut-être dans le fait que les organisations adoptent des systèmes d’IA et que nous sommes désormais confrontés à un nouveau défi : comment allons-nous les protéger ?
Dans ce contexte, quels défis de sécurité se posent lorsque les agents d’IA peuvent accéder aux systèmes d’entreprise et les exploiter ? Selon vous, à quoi les organisations devraient-elles se préparer ?
Autrefois, les systèmes étaient déterministes : avec la même entrée, ils produisaient une sortie prévisible, ce qui les rendait plus faciles à protéger. Avec les agents IA, cela change à mesure qu’ils comprennent le langage naturel, gèrent l’ambiguïté et que leur comportement n’est pas toujours prévisible, ce qui nécessite une nouvelle approche de la cybersécurité. De plus, il faut considérer quelque chose de très important : l’IA dépend des systèmes auxquels elle est connectée. Il existe une tension entre les équipes de sécurité, qui cherchent à limiter ces connexions pour réduire les risques, et celles qui promeuvent l’IA, qui souhaitent l’intégrer dans toute l’organisation pour collecter des informations dans n’importe quelle zone.
En d’autres termes, plus l’IA dispose de connexions, plus la surface d’attaque et le risque de sécurité sont importants.
Comment l’IA générative permet-elle aux attaquants de créer plus facilement des cyberattaques ? De votre point de vue, quelles sont les défenses les plus importantes aujourd’hui ?
L’IA a transformé le développement de logiciels, le rendant beaucoup plus rapide et plus accessible. Mais que se passe-t-il ? Les cybercriminels exploitent cette même capacité, leur permettant d’intensifier les attaques telles que le phishing, les ransomwares, les logiciels malveillants et l’exploitation des vulnérabilités, augmentant ainsi la vitesse et le volume des menaces.
Que recommandez-vous de faire dans ce scénario ?
Les défenseurs doivent également adopter l’IA. La détection et la réponse ne suffisent plus lorsqu’une attaque peut causer des dégâts en quelques secondes, la prévention joue donc un rôle clé. Si les attaquants conservent un certain avantage car ils n’ont besoin de frapper qu’une seule fois et ne sont pas soumis à des réglementations, les défenseurs ont un facteur de différenciation : la collaboration entre les équipes, les organisations et les sociétés de sécurité, qui contribue à uniformiser les règles du jeu.
Mais on ne peut nier que de nombreuses plateformes d’IA présentent encore des vulnérabilités…
C’est vrai, car l’innovation progresse souvent plus vite que la sécurité. C’est pourquoi je recommande d’incorporer une couche de sécurité dès le début de tout projet d’IA et de ne pas supposer qu’une plateforme est sécurisée simplement parce qu’elle provient d’un fournisseur réputé.
Comment les plateformes d’IA peuvent-elles être utilisées en toute sécurité face à une surface d’attaque croissante ? Quel est selon vous le risque le plus important ?
Tout au long de l’évolution des systèmes, de l’innovation et des organisations, la sécurité n’a pas toujours été une priorité dès le début du développement de produits. Nous le constatons parce que nous étudions différentes plateformes, en particulier les plateformes d’IA, pour évaluer leur sécurité. Cela nous a permis de découvrir de graves vulnérabilités dans chaque plateforme d’IA que nous avons analysée au cours de l’année écoulée, ainsi que dans tous les principaux outils de développement d’IA.
Maintenant, je ne critique personne ici, car leur travail consiste à lancer rapidement des produits innovants. Mais je pense qu’il existe des failles de sécurité. C’est pourquoi je pense que, dans de nombreux cas, c’est le rôle des organisations comme la nôtre : travailler avec les entreprises pour garantir que lorsqu’elles utilisent cette technologie innovante, elles le font d’une manière qui protège leurs données, protège leurs employés et n’augmente pas leurs risques.
Partagez-vous les leçons que vous avez tirées de l’adoption de l’IA ?
Absolument. La leçon que je retiens est que lorsque vous adoptez l’IA, quel que soit le cas d’utilisation, vous devez le faire en intégrant une couche de sécurité. Et ne présumez pas qu’une plateforme est sécurisée simplement parce qu’elle provient d’une entreprise innovante en matière d’IA.
Selon vous, quelles sont les innovations les plus importantes en matière de plateformes de sécurité aujourd’hui ? Et comment aident-ils les clients et les organisations à rester protégés ?
J’aimerais identifier trois domaines majeurs dans lesquels l’IA transforme la cybersécurité. Le premier est l’utilisation de l’IA pour renforcer les opérations de défense. Tout comme elle a révolutionné le développement de logiciels, l’IA modifie la façon dont les équipes de sécurité travaillent, en leur permettant de détecter les vulnérabilités, d’évaluer l’état de sécurité, de mettre en œuvre des changements et de répondre aux menaces plus rapidement, plus efficacement et de manière évolutive.
Le deuxième domaine est la protection des applications et des agents d’IA eux-mêmes. À mesure que ces technologies sont intégrées aux réseaux d’entreprise, le défi se pose de garantir qu’elles ne deviennent pas un nouveau vecteur d’attaque ou n’exposent pas d’informations sensibles. Il s’agit d’un domaine très récent, porté par l’adoption rapide de l’IA générative, dans lequel il reste encore beaucoup de place pour l’innovation.
Enfin, je tiens à souligner la nécessité de se défendre contre les attaques de plus en plus rapides et sophistiquées basées sur l’IA. À cette fin, je préconise de combiner des modèles avancés capables de détecter les vulnérabilités zero-day et les comportements anormaux avec des systèmes d’IA qui simulent le comportement d’un attaquant éthique. De cette façon, les organisations peuvent anticiper les cybercriminels, identifier leur surface d’attaque et renforcer leurs défenses avant qu’un incident ne se produise.
La dernière question concerne les besoins des petites et moyennes organisations, qui souhaitent que les systèmes d’IA soient plus transparents et plus faciles à auditer lorsqu’ils contribuent à détecter ou à répondre aux menaces. Que pensez-vous de cela ?
Je pense que l’explicabilité est un élément crucial de ce que nous devons offrir à nos clients en tant que défenseurs de la cybersécurité. Il y a toujours une tension entre bloquer quelque chose immédiatement et, en même temps, être capable d’expliquer pourquoi cela a été bloqué. Les gens aiment comprendre ce qui s’est passé, et cela présente un équilibre délicat. Par conséquent, mon point de vue est que nous devons bloquer automatiquement autant de menaces que possible, sans nécessiter d’intervention humaine, mais nous devons également permettre aux humains de comprendre ce qui s’est passé et de modifier le comportement futur des mécanismes de protection.
