Le service criminel d’IA utilise des jailbreaks pour contourner les protections des modèles d’IA légitimes et offre des fonctionnalités telles que le développement d’exploits, l’OSINT et l’ingénierie sociale.
Les chercheurs en sécurité mettent en garde contre un service d’IA criminel construit sur Grok et Claude, entre autres modèles, qui promet un accès non censuré à de puissantes capacités d’IA pour seulement 12,99 $ par mois.
Les chercheurs de ThreatDown affirment que « Kriminal » est en grande partie une vitrine entourant des services d’IA légitimes, utilisant des invites de jailbreak pour contourner leurs garde-fous et revendre les capacités qui en résultent à des criminels potentiels.
Les offres du service incluent le développement d’exploits, OSINT, le traçage en chaîne, l’ingénierie sociale et la génération de code.
«C’est un indicateur d’un changement plus large en matière de cyberattaque», a déclaré Diana Kelley, responsable de la sécurité de l’information chez Noma Security. « À mesure que les capacités offensives avancées deviennent moins chères et plus accessibles grâce à l’IA, les attaquants peuvent découvrir et exploiter les faiblesses à une vitesse et à une échelle qui font pencher l’économie de la cybercriminalité en leur faveur. »
La nécessité pour les RSSI de combattre le feu par le feu, d’utiliser une IA avancée pour découvrir les risques et l’exposition et d’éliminer des années de dette de sécurité tolérée avant que les cybercriminels ne s’en servent comme arme, a-t-elle ajouté.
Le niveau payant le moins cher commence à 12,99 $ par mois, tandis que le niveau GHOST supérieur coûte 99 $.
L’IA criminelle est majoritairement louée
L’analyse par ThreatDown du JavaScript de production de Kriminal n’a trouvé aucune preuve d’un modèle de fondation propriétaire. Au lieu de cela, le service achemine les demandes via plusieurs fournisseurs établis.
Grok de xAI est identifié dans le code comme le principal moteur d’inférence pour les exécutions de chat et d’agent. OpenRouter donne accès à des modèles spécialisés, notamment Mistral Large et Llama 3.3, tandis que Claude d’Anthropic est proposé pour une analyse de contexte long. Tavily fournit une recherche Web en direct. Le service lui-même est hébergé via Google Cloud et Cloudflare, tandis que NowPayments gère son paiement crypté.
ThreatDown a noté que Kriminal fonctionne à la fois comme revendeur et comme wrapper de jailbreak. Son propre code montre qu’il transmet les demandes aux fournisseurs d’IA légitimes et place une invite système sur ces modèles pour contourner leurs restrictions de sécurité.
Lorsque les chercheurs ont demandé à Kriminal d’identifier le modèle sous-jacent, son personnage NEXUS par défaut s’est identifié comme étant Grok, correspondant aux informations du fournisseur trouvées dans le code.
Le problème est plus gros qu’un jailbreak
Les tarifs de Krimial illustrent également la rapidité avec laquelle des capacités sophistiquées peuvent devenir banalisées. Son niveau payant propose environ 200 à 1 800 messages par mois, avec des services individuels comprenant des dossiers OSINT, une analyse de blockchain, une génération de code sans restriction et un accès à un bac à sable Python et JavaScript intégré au navigateur.
Aviv Nahum, co-fondateur et PDG d’Above Security, a déclaré que le point important à retenir est qu’il pourrait y avoir considérablement moins d’« IA criminelle » sous Kriminal que ne le suggère son image de marque.
« La capacité sous-jacente est en train de devenir une marchandise », a déclaré Nahum. « Les organisations ne peuvent pas confier leur stratégie de sécurité aux garde-fous des fournisseurs d’IA. Ces protections sont importantes, mais les attaquants jailbreakeront les modèles, y accéderont par proxy, utiliseront des modèles ouverts localement ou se déplaceront simplement entre les fournisseurs. »
Les défenseurs doivent partir du principe qu’une IA de plus en plus performante sera disponible pour les deux camps, a-t-il souligné.
KRIMINAL a regroupé ses capacités en quatre personnages d’agent nommés dans son niveau premium GHOST. PHANTUM est conçu pour « l’intelligence financière » et le traçage d’actifs, ARCHITECT pour la recherche d’exploits et le code offensif, ORACLE pour l’analyse de documents et de renseignements, et WRAITH pour l’ingénierie sociale, la création de personnalité et la construction d’identité. Les chercheurs ont déclaré qu’ils étaient en mesure de corroborer de nombreuses conclusions techniques de leur analyse de code en remettant en question le service lui-même, comme si le modèle était conçu pour dévoiler tous les secrets dont les modèles d’IA ne sont pas censés parler, y compris sa propre intention.
