Publié le
Les cybercriminels ont du mal à intégrer l’intelligence artificielle (IA) dans leur travail, selon une nouvelle analyse.
PUBLICITÉ
PUBLICITÉ
Une nouvelle prépublication étude de l’Université d’Édimbourg a analysé plus de 100 millions de messages sur des forums cybercriminels à l’aide de la base de données CrimeBB, qui exploite les données des forums clandestins.
Les données ont été analysées manuellement et à l’aide d’un grand modèle de langage (LLM).
Même si les cybercriminels ont exprimé leur intérêt à apprendre à utiliser les outils d’intelligence artificielle, la technologie n’a pas modifié de manière significative leur façon de « travailler », selon l’étude.
« De nombreuses critiques et discussions décrivent [AI] “Ces outils ne sont pas particulièrement utiles”, indique l’étude.
Les chercheurs n’ont trouvé « aucune preuve significative » que les pirates ont réussi à utiliser l’IA pour améliorer leurs activités de piratage, que ce soit comme aide à l’apprentissage ou pour développer des outils plus efficaces.
Les assistants de codage IA sont principalement utiles pour ceux qui ont déjà une expérience en codage, de sorte que les modèles d’IA qui offrent une aide au codage ne leur donnent aucun « coup de pouce » significatif lorsqu’ils tentent de s’introduire dans des appareils ou de trouver des solutions de contournement pour la sécurité, ajoute l’étude.
“Vous devez d’abord apprendre vous-même les tenants et les aboutissants de la programmation avant de pouvoir utiliser l’IA et VRAIMENT en bénéficier”, lit-on dans un article cité par l’étude.
Le principal impact que l’IA a eu jusqu’à présent sur les activités en ligne non légales se situe dans des domaines faciles à automatiser, tels que la création de robots sur les réseaux sociaux, certaines escroqueries amoureuses et la fraude à l’optimisation des moteurs de recherche (SEO), ou la création de faux sites Web qui apparaissent dans les classements des résultats de recherche pour gagner de l’argent grâce à la publicité.
Les critiques suggèrent que même les pirates les plus expérimentés utilisent des chatbots pour répondre aux questions de codage ou générer des « aide-mémoire » pour les aider à coder.
L’IA qui a effectivement été incluse est incluse dans des « produits légitimes grand public », tels que Claude d’Anthropic ou le Codex d’OpenAI, plutôt que dans des modèles d’IA spécifiques à la cybercriminalité, tels que WormGPT, que les pirates ont conçus pour produire du code malveillant ou des e-mails de phishing.
De nombreux articles analysés par l’étude traitent de cybercriminels qui demandent des techniques pour contourner les normes de sécurité de ces modèles conventionnels, mais semblent avoir du mal à convaincre les systèmes d’IA de contourner leurs paramètres de sécurité.
Au lieu de cela, les cybercriminels sont obligés de se tourner vers des modèles d’IA open source plus anciens et de moindre qualité, plus faciles à jailbreaker. Ils ont tendance à être moins utiles et « nécessitent des ressources importantes », ont découvert les chercheurs.
Leur étude suggère que les barrières imposées par les entreprises d’IA fonctionnent jusqu’à présent.
