AI Güvenliği
AI Ajanlarında 'Excessive Agency' Riski: Yetki Sınırlandırma ve Least Privilege İlkesi
Otonom bir ajana gereğinden fazla yazma, silme ve ağ yetkisi vermenin oluşturduğu riskler ve En Az Yetki (Least Privilege) ilkesinin uygulanması.
Scoped OAuth ve Read-Only Varsayılanı
Ajanlara tüm GitHub veya AWS yetkisini vermek yerine, yalnızca belirli depolara okuma izni olan dar kapsamlı servis hesapları tanımlanmalıdır.
İlgili Teknik Rehberler
Bu mimariyle bağlantılı diğer üretim odaklı rehber ve vaka analizlerini inceleyin:
Prompt Injection ve Jailbreak Saldırılarını Engelleme: LLM Güvenlik Kalkanı Mimarisi
Doğrudan (Direct) ve Dolaylı (Indirect) Prompt Injection saldırılarını tespit etme, XML/Delimiter sandbox izolasyonu ve ikili model değerlendirme deseni.
NVIDIA NeMo Guardrails ile Konuşma Akışını ve Güvenlik Sınırlarını Denetleme
NVIDIA'nın Colang dili ile çalışan açık kaynak NeMo Guardrails kütüphanesi ile konu dışı soruları engelleme, toksik içerik ve halüsinasyon bloklama.
PII Maskeleme ve KVKK/GDPR Uyumlu LLM Mimarisi: Microsoft Presidio Entegrasyonu
Kullanıcı verilerini harici LLM sağlayıcılarına (OpenAI, Google, Anthropic) göndermeden önce TCKN, kredi kartı ve e-posta bilgilerini otomatik anonimleştirme.