Claude desteğiyle tespit edildi: OpenAI sisteminde güvenlik açığı ortaya çıktı
Siber güvenlik araştırmacıları, OpenAI'ın kullandığı çevrim içi platformlardan birinde tespit ettikleri açığı yapay zeka desteğiyle inceleyerek şirketin bazı dahili sistemlerine erişim sağlayabildi. Araştırmacılar, bulguları OpenAI'a bildirirken güvenlik açığının giderilmesinin ardından ödüllendirildi.
58haber
Siber güvenlik alanında faaliyet gösteren Hacktron AI'ın araştırma ekibi, OpenAI tarafından kullanılan çevrim içi tartışma platformunda önemli bir güvenlik açığı tespit etti. Araştırmacılar, açığın yapay zeka desteğiyle incelenmesinin ardından OpenAI'ın bazı şirket içi sistemlerine erişim sağlayabildiklerini açıkladı.
Araştırma ekibinin aktardığı bilgilere göre güvenlik açığı, forumda kullanılan görsel dosyalarının işlenme sürecinde ortaya çıktı. Ekip, açığın güvenlik açısından ne kadar ileri sonuçlara yol açabileceğini test etmek amacıyla yapay zeka modellerinden yararlandı.
OpenAI çalışanlarının hesaplarına erişim sağlandı
Yapılan güvenlik testleri sırasında araştırmacılar, forumun bulunduğu sunucu üzerinden kullanıcıların çevrim içi hizmetlere giriş yapmasını sağlayan bazı kimlik doğrulama mekanizmalarına ulaşmayı başardı.
Ekip, elde edilen kimlik doğrulama bilgilerinin bir bölümünün OpenAI çalışanlarına ait hesaplarla bağlantılı olduğunu ve bunların şirketin yazılım geliştirme altyapısına erişimde kullanılabildiğini belirledi.
Araştırmacılar, daha ileri bir erişimin mümkün olduğunu göstermek amacıyla şirketin dahili yazılım deposuna yönelik sınırlı bir işlem gerçekleştirdi. Hassas kodlara müdahale edilmediği ve yapılan işlemin güvenlik açığını kanıtlamaya yönelik kontrollü bir test olduğu aktarıldı.
Açık OpenAI'a bildirildi
Güvenlik araştırmacıları, elde ettikleri bulguları OpenAI ile paylaşarak açığın kapatılması için şirkete bildirimde bulundu. Güvenlik açığının giderilmesinin ardından OpenAI tarafından araştırma ekibine 6 bin 500 dolarlık ödül verildi.
Şirket ayrıca forumdaki oturum açma bilgilerinin yetkilerini sınırlandırdığını, etkilendiği belirlenen kimlik doğrulama bilgileri ve oturumları geçersiz hale getirdiğini açıkladı.
Yapay zekanın siber güvenlikteki rolü yeniden gündemde
Olay, yapay zeka modellerinin siber güvenlik araştırmalarında kullanılmasının yanı sıra, gelişmiş yapay zeka araçlarının güvenlik açıklarının kötüye kullanılmasında oluşturabileceği riskleri de gündeme taşıdı.
Hacktron AI ekibi, gerçekleştirdikleri çalışmanın gelişmiş siber yeteneklere sahip aktörlerin yapay zeka sistemleriyle birlikte hareket etmesi halinde ortaya çıkabilecek risklere dikkat çektiğini belirtti.
Araştırmada Anthropic'in Claude modeli de kullanıldı. Araştırmacılar, yaptıkları testlerde yapay zeka modelinden güvenlik açığının incelenmesine yardımcı olmasını istedi. İlk denemelerin sonuç vermemesinin ardından gerçekleştirilen sonraki çalışmalarda açığın kullanılabileceği bir yöntem ortaya çıkarıldı.
Güvenlik açığının tespit edilmesi ve OpenAI'a bildirilmesinin ardından gerekli önlemlerin alındığı belirtildi.
