Lernpfade für Technik/IT-Profis
KI für Pentester:innen & ethische Hacker:innen
Dieser Start-Lernpfad dient als Einführung in KI-gestützte Penetrationstests und ethisches Hacken mit dem Schwerpunkt auf der Nutzung von ChatGPT und LLMs für die Cybersicherheit. Er behandelt Prompt-Engineering, Jailbreaking, Phishing, Brute-Force-Angriffe, LLM-spezifische Penetrationstests, MITRE ATT&CK/ATLAS-Frameworks, die 10 größten OWASP-Schwachstellen, Red-Teaming sowie interaktive Labs für das Aufspüren von Sicherheitslücken in generativen KI-Systemen und deren Schutz.
Lernziele:
- ChatGPT und LLMs für ethisches Hacken einsetzen: Nutzung von KI-Tools für Schwachstellenanalysen, Prompt-Engineering und Automatisierung von Penetrationstests
- Penetrationstests bei LLMs durchführen: Strukturierte Methoden zur Ermittlung, Ausnutzung und Meldung von Schwachstellen, die speziell in GenKI-Systemen auftreten
- KI-Bedrohungen mit MITRE-Frameworks zuordnen und abwehren: Verstehen, Erkennen und Abwehren feindlicher KI-Taktiken mit MITRE ATT&CK und ATLAS
- Red-Teaming für LLMs durchführen: Simulation realer Angriffe auf generative KI mit Schwerpunkt auf den 10 größten OWASP-Schwachstellen wie Prompt-Injection, Datenvergiftung und übermäßiger Parteilichkeit
- Spezielle Tools und Labs einsetzen: Praxiserfahrung mit Tools wie Garak, Promtmap und MCP-Scan sowie Teilnahme an CTF-Wettbewerben und simulierten Prüfungen zur Stärkung praktischer Fähigkeiten
Zielgruppe:
Dieser Lernpfad richtet sich an Cybersicherheits-Profis, Penetrationstester:innen und ethische Hacker:innen, die ihr Wissen über KI und LLM-Sicherheit erweitern möchten. Er eignet sich auch für IT-Sicherheitsteams, Red-Teamer und Lernende, die sich für die Schnittstellen von generativer KI und offensiver Sicherheit interessieren.