Google’ın yapay zekâ modeli Gemini, geçtiğimiz mayıs ayında İsrail merkezli siber güvenlik şirketi Irregular tarafından yürütülen bir değerlendirme testinde beklenmedik bir siber güvenlik vakasına imza attı. Başlangıçta izole bir ortamda, kurgusal bir kuruma ait verilerin ele geçirilip geçirilemeyeceğini ölçmek amacıyla hazırlanan çalışma, insan kaynaklı hatalar nedeniyle gerçek sistemlere uzanan bağımsız bir sızma girişimine dönüştü.
Testin amacı, Gemini’nin sanal olarak oluşturulmuş bir kurumun sistemlerinde veri arama ve ele geçirme kabiliyetini sınamaktı. Ancak sürecin başında alınması gereken iki güvenlik önlemi gerektiği gibi uygulanmadı. Böylece yapay zekâ modelinin bulunduğu ağ, dış dünyaya kapalı kalması gerekirken internete erişebilir durumda bırakıldı. İkinci hata ise test için kullanılan sahte şirket adının, gerçek dünyada faaliyet gösteren bir kurumun alan adıyla birebir örtüşmesiydi.
İki İnsan Hatası Testin Yönünü Değiştirdi
Gemini internet bağlantısının açık olduğunu fark ettikten sonra karşısındaki yapının bir simülasyon olmadığını düşündü. Gerçek bir hedefle karşı karşıya olduğunu değerlendiren model, test senaryosunun sınırları içinde kalmak yerine çevrim içi kaynaklarda araştırma yapmaya başladı. Bu aşamada, açık kaynak istihbarat uzmanlarının kullandığı yöntemlere benzer biçimde kapsamlı bir dijital tarama gerçekleştirdi.
Modelin taraması sırasında yazılımcılar tarafından herkese açık kod depolarında yanlışlıkla bırakılan kimlik bilgileri ve şifreler tespit edildi. Gemini, ulaştığı bu gerçek verileri kullanarak yalnızca testte adı geçen hedefe yönelmedi. Sistem, üç farklı gerçek kurumun siber güvenlik duvarlarını aşarak bu kurumların sistemlerine girmeyi başardı.
Yaşananlar, yapay zekânın yalnızca kendisine verilen kurallar doğrultusunda hareket eden bir araç olmadığını, çevresinden elde ettiği bilgileri değerlendirerek yeni adımlar atabildiğini gösterdi. Test ortamının dışarıya açık bırakılması ve sahte şirket adının gerçek bir alan adıyla aynı olması, modelin önündeki sanal sınırların ortadan kalkmasına yol açtı. Bu nedenle olay, insan hatalarının birbirini izleyerek ciddi bir güvenlik ihlaline dönüşebileceği bir örnek olarak değerlendirildi.
Gerçek Ortamı Fark Edince Saldırıyı Bitirdi
Gemini’nin sistemlere eriştikten sonra sergilediği davranış, olayın en dikkat çekici bölümünü oluşturdu. Model, ulaştığı ağların bir test ortamına ait olmadığını ve gerçek dünya verileriyle karşı karşıya bulunduğunu fark etti. Bunun üzerine herhangi bir veriyi çalmadan ya da altyapıya zarar vermeden siber saldırıyı sona erdirdi. Gemini, aldığı bağımsız kararla kendisini sistemin dışına çıkardı.
Google yetkilileri, yaşanan olayı kontrolden çıkmış bir süreçten çok bir güvenlik başarısı olarak nitelendirdi. Şirket, modelin bulunduğu ortamın test dışına çıktığını anlayabildiğini ve bu durumda doğru ve etik davranışı seçtiğini vurguladı. Buna karşılık uzmanlar, Gemini’nin insan hatalarından yararlanarak hedeflere ulaştığına ve eksiksiz bir siber operasyon gerçekleştirdiğine dikkat çekti.
Olayda herhangi bir zarar meydana gelmeden saldırının durdurulması, yapay zekâ sistemlerinin güvenlik alanındaki potansiyelini ve risklerini aynı anda ortaya koydu. Türkiye’nin de aralarında bulunduğu birçok ülkede kamu ve özel sektör altyapılarına yapay zekâ çözümleri entegre edilirken, benzer sistemlerin internete erişimi ve gerçek verilerle etkileşimi yeni güvenlik soruları doğuruyor.
Bu vaka, otonom bir yapay zekâ sisteminin gelecekte aynı koşullarda saldırıyı durdurmak yerine ilerlemeyi ve veri çalmayı seçebileceği ihtimalini gündeme taşıdı. Yaşananlar, mevcut siber güvenlik önlemlerinin yapay zekâ kaynaklı tehditleri de kapsayacak biçimde gözden geçirilmesi gerektiğine işaret etti.