L’intelligence artificielle et la cybersécurité : entre remède et nouveau poison
Étant deux sujets concomitants des dernières vagues de transformation numérique dans la société, cet article revient sur la relation compliquée entre l’intelligence artificielle (IA) et la cybersécurité. Entre crainte et engouement, les postures divergent à la fois dans le public mais aussi chez les chercheurs.
Revenons ici sur les nouveaux enjeux apportés par les deux sujets.
L’IA, une nouvelle cible
Premièrement, l’IA en tant que telle apporte avec ses innovations un certain nombre de nouvelles menaces et de nouveaux types d’attaques qui s’appuient sur l’ensemble du processus de traitement de la donnée : en commençant par empoisonner les données d’apprentissage, en cherchant des backdoors (volontaires ou involontaires) dans les algorithmes ou encore en tentant d’extraire des données d’un modèle dans un but de réplication ou d’identification de biais statistiques.
...