Các lộ trình học tập dành cho Chuyên gia kỹ thuật
AI dành cho Người kiểm thử thâm nhập và tin tặc có đạo đức
Lộ trình khởi động này giới thiệu về kiểm thử thâm nhập do AI điều khiển và hacking có đạo đức, tập trung vào việc tận dụng ChatGPT và LLM cho an ninh mạng. Lộ trình này bao gồm kỹ thuật tạo lệnh, bẻ khóa, lừa đảo, tấn công bằng vũ lực, kiểm thử thâm nhập dành riêng cho LLM, framework MITRE ATT&CK/ATLAS, 10 lỗ hổng LLM hàng đầu của OWASP, nhóm đỏ và lab thực hành để khai thác và bảo vệ các hệ thống AI tạo sinh.
Mục tiêu học tập:
- Áp dụng ChatGPT và LLM trong hacking có đạo đức: Sử dụng các công cụ AI để phân tích lỗ hổng, kỹ thuật tạo lệnh và tự động hóa các tác vụ kiểm thử thâm nhập.
- Tiến hành kiểm thử thâm nhập trên LLM: Thực hiện các phương pháp có cấu trúc để xác định, khai thác và báo cáo các lỗ hổng độc riêng với các hệ thống AI tạo sinh.
- Lập bản đồ và giảm thiểu các mối đe dọa AI bằng cách sử dụng các framework MITRE: Tận dụng MITRE ATT&CK và ATLAS để hiểu, phát hiện và phòng thủ chống lại các chiến thuật AI đối địch.
- Thực hiện nhóm đỏ LLM: Mô phỏng các cuộc tấn công thực tế vào AI tạo sinh, tập trung vào 10 rủi ro hàng đầu của OWASP, bao gồm tấn công tiêm mã nhanh, đầu độc dữ liệu và tác nhân quá mức.
- Sử dụng các công cụ và lab chuyên dụng: Có được kinh nghiệm thực hành với các công cụ như Garak, Promptmap và quét MCP, đồng thời tham gia các thử thách CTF và kỳ thi thử để củng cố các kỹ năng thực tế.
Đối tượng mục tiêu:
Lộ trình này được thiết kế dành cho các chuyên gia an ninh mạng, người kiểm thử thâm nhập và tin tặc đạo đức muốn mở rộng chuyên môn của mình sang bảo mật AI và LLM. Lộ trình cũng phù hợp với các nhóm bảo mật CNTT, nhóm đỏ và các học viên quan tâm đến sự giao thoa giữa AI tạo sinh và bảo mật tấn công.