Yapay zekâ ajanları; takvim yöneten, veri tabanlarına erişen, kod çalıştıran, e-posta gönderen ve farklı sistemler arasında işlem gerçekleştiren otonom iş arkadaşlarına dönüşmeye başladı. Bu yeteneklerin önemli bir kısmı, üçüncü taraf geliştiriciler tarafından sunulan “skill” veya “tool” paketleriyle kazanılıyor. Tıpkı akıllı telefonumuza yeni bir uygulama yüklemek gibi.
Sorun şu ki: Bir AI ajanına yüklediğiniz her yeni yetkinlik, çoğu zaman ona dosyalara, kimlik bilgilerine, sistem komutlarına ve kurumsal verilere erişim hakkı da veriyor. Üstelik bu yetkinliğin gerçekten ne yaptığını yüklemeden önce doğrulayabilecek standart bir güvenlik mekanizması henüz oluşmuş değil.
Bu durum, kurumların karşı karşıya olduğu yeni bir risk alanını ortaya çıkarıyor: AI ajan tedarik zinciri güvenliği (AI Agent Supply Chain Security).
Açık Ekosistemler, Genişleyen Saldırı Yüzeyi
Güncel siber güvenlik araştırmalarında OpenClaw isimli açık bir AI ajan beceri pazarında yer alan yaklaşık 50 bin farklı yetkinlik incelendi. Bulgular oldukça çarpıcı:
- Yetkinliklerin yaklaşık %80’inde, beyan edilen davranış ile gerçekte gerçekleştirilen davranış arasında en az bir uyumsuzluk bulunuyor.
- Yaklaşık %5’lik bölüm ise çok aşamalı saldırı zincirleri içeriyor ve doğrudan güvenlik incelemesi gerektiriyor.
- Kötü niyetli örneklerin önemli bir kısmı veri hırsızlığı, casusluk ve ajanın karar mekanizmasını ele geçirme amacı taşıyor.
Elbette her uyumsuzluk kötü niyet anlamına gelmiyor. Çoğu örnekte eksik dokümantasyon veya geliştirici hataları söz konusu. Ancak saldırganlar için asıl fırsat tam da bu gri alanın içinde ortaya çıkıyor. Çünkü zararlı bir yetkinlik, kendisini masum bir araç gibi tanıtabilirken arka planda bambaşka işlemler gerçekleştirebiliyor.
Risk Tek Bir Yetkinlikte Değil, Zincirin Tamamında
Dikkat çekici noktalardan biri de tehditlerin çoğunun tek bir işlemden değil, birbiriyle ilişkilenen çok aşamalı davranışlardan oluşması.
Örneğin bir yetkinlik:
- Sistemden bir kimlik bilgisi okuyor,
- Bu bilgiyi kodlayarak gizliyor,
- Ardından harici bir servise iletiyor.
Tek tek bakıldığında bu davranışların her biri masum görünebilir. Ancak bir araya geldiklerinde sessiz bir kimlik bilgisi sızıntısına dönüşüyor. Araştırmaya göre çok aşamalı saldırıların büyük bölümü iki ana kalıpta yoğunlaşıyor:
- Gizli kimlik bilgisi sızdırma (Credential Exfiltration)
- Ajanın karar mekanizmasını ele geçirerek davranışını değiştirme (Instruction Override Hijacking)
Riski ortaya koyan asıl soru şu: Bu araç, sahip olduğu yetkilerle başka neler yapabilir?
AI Güvenliğinde Yeni Gereklilik: Yüklemeden Önce Doğrulamak
Geleneksel yazılım güvenliğinde yıllardır tedarik zinciri saldırılarından bahsediyoruz. Zararlı kütüphaneler, ele geçirilmiş paket depoları ve sahte bağımlılıklar artık alışık olduğumuz tehditler.
AI ajanlarıyla birlikte benzer bir senaryo yeniden yaşanıyor. Ancak bu kez risk; doğal dil talimatlarını, araç çağrılarını, hafızayı ve karar alma mekanizmasını da kapsıyor.
Bu nedenle kurumların artık şu soruları sorması gerekiyor:
- Ortamımızdaki AI ajanları hangi araçlara erişebiliyor?
- Hangi üçüncü taraf yetkinlikler kurulu?
- Bu yetkinlikler gerçekten söyledikleri işi mi yapıyor?
- Hassas verilere erişen ajan davranışları nasıl denetleniyor?
- Bir ajanın beklenmedik bir eylemi gerçek zamanlı olarak görülebiliyor mu?
AI Ajanlarını Yönetmek, Artık Bir Güvenlik Kontrol Düzlemi Gerektiriyor
AI ajanlarının sayısı arttıkça, asıl ihtiyaç; ajanların hangi araçlara eriştiğini, hangi eylemleri gerçekleştirdiğini ve bu eylemlerin güvenlik politikalarıyla uyumlu olup olmadığını merkezi olarak görebilmek.
Tam da bu noktada, yeni nesil AI güvenliği yaklaşımları devreye giriyor.
İş ortağımız Palo Alto Networks’ün Prisma AIRS platformu; AI ajanlarının kullandığı modelleri, araçları ve etkileşimleri merkezi bir kontrol düzleminde görünür kılmayı, politika bazlı yönetişim uygulamayı ve riskli davranışları gerçek zamanlı olarak denetlemeyi hedefliyor. Böylece kurumlar, AI kullanımını hızlandırırken; aynı zamanda otonom sistemlerin oluşturduğu yeni saldırı yüzeyini de kontrol altına alabiliyor.
Siz de Prisma AIRS platformunu yakından tanımak ve kurumunuzu bu yeni nesil tehditlere karşı dirençli hale getirmek için Quasys’in deneyimli uzmanlarına info@quasys.com.tr üzerinden her zaman ulaşabilirsiniz.
