다음에 대한 학습 방향 기술 전문가
침투 테스터 및 윤리적 해커를 위한 AI
이 입문자용 학습 방향은 AI 기반 침투 테스팅 및 윤리적 해킹을 소개하며, ChatGPT 및 대규모 언어 모델(LLM)을 사이버 보안에 활용하는 방법에 중점을 둡니다. 여기서는 프롬프트 엔지니어링, 탈옥(jailbreaking), 피싱, 무차별 대입 공격, LLM 전용 침투 테스팅, MITRE ATT&CK/ATLAS 프레임워크, OWASP Top 10 LLM 취약점, 레드 티밍(red teaming), 생성형 AI 시스템 공격 및 방어를 위한 실습 연구실을 다룹니다.
학습 목표:
- ChatGPT 및 LLM을 윤리적 해킹에 적용: AI 도구를 활용해 취약점 분석, 프롬프트 엔지니어링, 침투 테스팅 작업 자동화를 수행합니다.
- LLM 대상 침투 테스트 실시: 구조화된 방법론을 따라 생성형 AI 시스템의 고유 취약점을 식별, 공격, 보고합니다.
- MITRE 프레임워크로 AI 위협 매핑 및 완화: MITRE ATT&CK 및 ATLAS를 활용해 적대적 AI 전술을 이해, 탐지, 방어합니다.
- LLM 레드 티밍 실행: 프롬프트 주입, 데이터 오염, 과도한 권한 부여 등 OWASP Top 10 리스크를 중심으로 생성형 AI에 대한 실제 공격을 시뮬레이션합니다.
- 전문 도구 및 연구실 활용: Garak, Promptmap, MCP Scan 등의 도구로 실습하고, CTF 챌린지 및 모의 시험을 통해 실전 능력을 강화합니다.
대상 수강생:
이 학습 방향은 AI 및 LLM 보안 분야로 전문성을 확장하려는 사이버 보안 전문가, 침투 테스터, 윤리적 해커를 위해 마련되었습니다. 또한 생성형 AI와 공격적 보안의 교차 영역에 관심 있는 IT 보안 팀, 레드 팀원, 수강생에게도 적합합니다.