Eğitim Hakkında
Büyük dil modelleri, üretken YZ ve RAG uygulamalarının güvenlik risklerini inceleyin; prompt saldırıları, veri sızıntısı, guardrail ve güvenlik testlerini uygulamalı senaryolarla ele alın.
Eğitim İçeriği
Hedef Kitle
Bilgi güvenliği ve siber güvenlik ekipleri, AI/ML ekipleri, veri bilimciler, yazılım geliştiriciler, DevSecOps, iç denetim ve risk profesyonelleri.
Ön Koşullar
Temel bilgi güvenliği ve LLM/API kavramlarına aşinalık.
Eğitim Sonunda Kazanımlar
• Prompt injection, jailbreak ve veri sızıntısı risklerini tanımak.
• RAG ve vektör veritabanı güvenlik kontrollerini değerlendirmek.
• Output filtering ve guardrail yaklaşımlarını uygulamak.
• LLM güvenlik testleri ve red teaming senaryoları planlamak.
• Güvenli LLM entegrasyonu, izleme ve olay müdahalesi tasarlamak.
Eğitim İçeriği
• LLM ve Generative AI Kavramları
• LLM Mimarisi ve Çalışma Prensipleri
• Transformer Temelleri
• Tokenization ve Context Window
• Prompt Engineering Temelleri
• Prompt Injection Saldırıları
• Indirect Prompt Injection
• Prompt Leakage / Prompt Extraction
• System Prompt Extraction
• Jailbreak Teknikleri
• Role Manipulation Attacks
• Context Manipulation Attacks
• Retrieval-Augmented Generation (RAG) Güvenliği
• RAG Poisoning / Data Poisoning
• Vector Database Güvenliği
• Sensitive Data Exposure / Data Leakage
• Model Abuse ve Misuse Riskleri
• Hallucination Riskleri
• Output Filtering ve Guardrails
• LLM Security Testing
• LLM Red Teaming
• Logging, Monitoring ve Incident Response
• Güvenli LLM Entegrasyon Prensipleri
• Uygulamalı Lab Çalışmaları ve Senaryolar
