"rag-security" etiketli 2 yazı.
Büyük Dil Modelleri artık dosya okuyabilen, araç kullanabilen sistemlere dönüştü; ancak doğal dili yorumlama biçimleri saldırganların modeli manipüle etmesine olanak tanıyor. Bu yazıda Prompt Injection'ın ne olduğunu, türlerini (direct, indirect, multi-turn, jailbreak), AI Agent ve RAG sistemlerindeki artan riskini ve katmanlı savunma yaklaşımlarını inceliyoruz.
Büyük Dil Modellerinin (LLM) statik bilgi sınırlarını aşmak için kullanılan RAG altyapıları, dolaylı komut enjeksiyonu (Indirect Prompt Injection) zafiyetini doğurur. Bu çalışmada, RAG hatlarındaki vektör tabanlı erişim manipülasyonları, yerel test ortamlarında gözlemlenen görünmez karakter tehditleri ve siber savunma perspektifinde kurulabilecek katmanlı bariyer tasarımları incelenmiştir.
