Şunun için Öğrenim Yolları: Teknik Uzmanlar
Sızma Testi Uzmanları ve Etik Bilgisayar Korsanları İçin Yapay Zeka
Bu başlangıç düzeyindeki öğrenim yolu, siber güvenlik için ChatGPT ve LLMS’den yararlanmaya odaklanarak yapay zeka destekli sızma testi ve etik korsanlık konularını açıklar. İstem mühendisliği, sistem sınırlarını aşmaya yönelik jailbreaking teknikleri, oltalama saldırıları, brute-force yöntemleri, büyük dil modellerine özel sızma testleri, MITRE ATT&CK ve ATLAS çerçeveleri, OWASP’in LLM’ler için belirlediği en yaygın 10 güvenlik açığı, red teaming uygulamaları ve üretken yapay zeka sistemlerinin sömürülmesi ve savunulmasına yönelik uygulamalı çalışmalar konularını kapsamlı bir şekilde ele alır.
Öğrenim hedefleri:
- Etik korsanlıkta ChatGPT ve büyük dil modellerini (LLM) kullanın: Güvenlik açığı analizi, istem mühendisliği ve sızma testi görevlerinin otomasyonu gibi alanlarda yapay zeka araçlarından faydalanın.
- LLM’ler üzerinde sızma testi gerçekleştirin: Üretken yapay zeka sistemlerine özgü güvenlik açıklarını tanımlamak, bu açıklardan yararlanmak ve bunları raporlamak için yapılandırılmış metodolojileri izleyin.
- Yapay zeka tehditlerini MITRE çerçeveleriyle haritalayın ve etkisiz hale getirin: Saldırgan yapay zeka taktiklerini anlamak, tespit etmek ve bunlara karşı savunma geliştirmek için MITRE ATT&CK ve ATLAS’tan yararlanın.
- LLM red teaming uygulayın: Üretken yapay zeka sistemlerine yönelik gerçek dünya saldırılarını simüle ederek istem enjeksiyonu, veri zehirleme ve aşırı yetkilendirme gibi OWASP’in belirlediği en kritik 10 risk üzerine odaklanın.
- Özel araçlar ve uygulamalı çalışmalardan yararlanın: Garak, Promptmap ve MCP taraması gibi araçlarla uygulamalı deneyim kazanın ve pratik yetkinlikleri pekiştirmek için CTF yarışmalarına ve model sınavlarına katılın.
Hedef kitle:
Bu yol, uzmanlıklarını yapay zeka ve LLM güvenliği konularında genişletmek isteyen siber güvenlik profesyonelleri, sızma testi uzmanları ve etik korsanlar için tasarlanmıştır. Ayrıca BT güvenlik ekipleri, red team uzmanları ve üretken yapay zeka ile saldırı odaklı güvenliğin kesişim noktasına ilgi duyan öğrenciler için de uygundur.