Parcours d'apprentissage pour Professionnels du secteur technique
L'IA au service des testeurs de pénétration et des hackers éthiques
Ce parcours d’apprentissage de démarrage est une introduction aux tests de pénétration et au piratage éthique. Il est axé sur l’utilisation de ChatGPT et des LLM pour la cybersécurité. Il couvre les sujets suivants : création d’invites, jailbreaking, hameçonnage, attaques par force brute, tests de pénétration spécifiques aux LLM, cadres MITRE ATT&CK/ATLAS, top 10 OWASP des vulnérabilités des LLM et Red Teaming. Il inclut également des exercices pratiques sur l’exploitation et la protection des systèmes d’IA générative.
Objectifs d’apprentissage :
- Appliquer ChatGPT et les LLM dans le piratage éthique : utiliser les outils d’IA pour l’analyse des vulnérabilités, la création d’invites et l’automatisation des tâches de tests de pénétration.
- Réaliser des tests de pénétration sur les LLM : suivre des méthodologies structurées pour identifier, exploiter et signaler les vulnérabilités propres aux systèmes d’IA générative.
- Mapper et atténuer les risques liés à l’IA à l’aide des cadres MITRE : exploiter ATT&CK et ATLAS pour comprendre, détecter et neutraliser les tactiques de piratage de l’IA.
- Pratiquer le Red Teaming pour les LLM : simuler des attaques réelles sur l’IA générative, notamment celles du top 10 OWASP, et en particulier l’injection d’invites, l’empoisonnement des données et l’excès d’autonomie.
- Utiliser des outils spécialisés à travers des exercices d’application : acquérir une expérience pratique avec des outils comme Garak, Promptmap et le scan MCP, et participer à des challenges CTF et des examens blancs afin de travailler ces compétences.
Public cible :
Ce parcours est destiné aux professionnels de la sécurité, aux responsables de la pénétration et aux pirates éthiques qui souhaitent étendre leur expertise à la sécurité de l’IA et des LLM. Il convient également aux équipes de sécurité IT, aux Red Teamers et aux personnes qui souhaitent en savoir plus sur l’IA générative et la sécurité offensive.