Le code MacOS invite les modèles LLM à rejeter l’analyse de sécurité automatisée.
Les entreprises qui se sont tournées vers l’IA pour renforcer leurs défenses de sécurité devront peut-être reconsidérer leur approche.
Des logiciels malveillants contenant du code qui commande aux produits assistés par LLM d’abandonner leur analyse ou de refuser de la mettre en œuvre circulent déjà, selon un article de la société de sécurité SentinelLabs.
SentinelLabs pense savoir qui est responsable du malware qui attaque les systèmes MacOS. « XProtect d’Apple détecte l’échantillon selon la règle MACOS_BONZAI_COBUCH, et SentinelLabs associe la famille de signatures BONZAI à l’activité des menaces nord-coréennes », a écrit la société.
Il s’agit du malware macOS.Gaslight.
Ce n’est pas le premier exemple de malware ciblant spécifiquement l’analyse générée par l’IA. Comme l’a noté SentinelLabs, Checkpoint a documenté pour la première fois une telle approche il y a exactement un an. Et Socket a emboîté le pas avec un rapport sur une charge utile qui utilisait également du code pour échapper à la détection par les modèles d’IA.
Cette nouvelle génération de menaces a été mentionnée dans le rapport OPSWAT, The State of File Security, et les experts en cybersécurité avertissent que la protection basée sur l’IA n’est pas toujours la réponse.
SentinelLabs serait certainement d’accord avec ce point de vue. « Alors que l’analyse assistée par LLM devient une routine, les défenseurs devraient s’attendre à ce que davantage d’échantillons soient créés pour l’exploiter », écrit-il.
