Cybersécurité : comment protéger l’IA générative contre les attaques ?

L’IA générative arrive en force dans la cybersécurité. Pour l’instant reléguée dans des rôles d’assistance des experts, elle va gagner en pertinence et en autonomie. Mais comme toute technologie, elle a ses propres failles… qui peuvent être exploitées par les attaquants.

Pouvoir interagir avec n’importe quel composant de sécurité en langage naturel pour créer une nouvelle règle de sécurité, isoler telle ou telle machine suspecte ou bien tout simplement demander si un utilisateur a accédé à une URL, c’est pratiquement l’état de l’art aujourd’hui. Plusieurs éditeurs, à commencer par Microsoft, proposent déjà des « copilots », des assistants optimisés pour la cybersécurité et qui viennent aider les analystes et les experts dans leur travail quotidien. Mais si l’IA générative fait désormais bien partie des outils de cybersécurité, elle constitue aussi une cible pour les attaquants. Qu’elle soit mise en ligne sur un site web, intégrée à une application métier, ou utilisée sous forme d’un assistant par les collaborateurs d’une organisation, une IA reste une brique logicielle comme une autre et peut faire l’objet d’attaques informatiques. Les IA génératives, cibles des hackers de tous poils Lors de la présentation de la 24e édition du panorama de la cybercriminalité du Clusif, plusieurs experts ont évoqué les risques d’attaque sur ces IA, des risques déjà bien réels. Gérôme Billois, partner cybersecurity & digital trust chez Wavestone est notamment revenu sur l’attaqu...