Google, insan güvenlik uzmanlarının yinelemeli yaklaşımını taklit ederek büyük dil modellerinin güvenlik açığı araştırması yapmasını sağlayan yenilikçi bir yaklaşım olan Project Naptime'ı tanıttı.

Bu projeyle birlikte yapay zeka ajanları, otonom bir şekilde güvenlik açıklarını ortaya çıkararak otomatik güvenlik değerlendirmelerini tamamen değiştirebiliyor. Naptime mimarisi, bir yapay zeka ajanı ile hedef kod tabanı arasındaki etkileşim üzerine kurulu olup, ajana bir insan güvenlik araştırmacısının iş akışını taklit edecek özel araçlar sunuyor. Proje, çeşitli bileşenler içeriyor, bunlar: bir hedef kod tabanında gezinebilecek bir Kod Tarayıcı aracı, bir sandbox ortamında script çalıştırma için bir Python aracı, farklı girdilerle program davranışını gözlemlemek için bir Hata Ayıklayıcı aracı ve görev ilerlemesini izlemek için bir Raporlama aracı. Bu araçlar, yapay zeka ajanının güvenlik açıklarını daha yüksek doğruluk ve tekrarlanabilirlik ile tanımlamasını ve analiz etmesini sağlıyor. Özellikle, Naptime model-agnostic (model bağımsız) ve backend-agnostic (arka uç bağımsız) olup, hem yapay zeka ajanları hem de insan araştırmacılar tarafından kullanılabilecek bağımsız bir güvenlik açığı araştırma ortamı sunuyor. Google tarafından yapılan testlerde, Naptime, buffer overflow ve ileri düzey bellek bozulması hatalarını tespit etmede OpenAI GPT-4 Turbo'yu geride bırakarak etkileyici sonuçlar elde etti.

Projenin başarısı, yapay zekanın otomatik güvenlik açığı keşfi yaklaşımlarını önemli ölçüde iyileştirme potansiyelini gösteriyor, kör noktaları kapatarak daha önce tespit edilemeyen güvenlik açıklarının saptanmasını mümkün kılıyor.