Google’ın yapay zeka modeli Gemini, siber güvenlik yeteneklerinin test edildiği sırada internete erişerek üç şirkete yönelik siber saldırı düzenledi.
Yapay zekanın insanlık için oluşturabileceği tehlikelere ilişkin tartışmalar son haftalarda yeniden alevlenirken, Gemini bir ilke imza attı.
Gemini, bağımsız bir siber güvenlik değerlendirme şirketi olan Irregular tarafından gerçekleştirilen bir test sırasında internete erişerek üç şirketin web sitesine siber saldırı yaptı. Saldırı, Google’ın yapay zeka sistemlerinin bağımsız olarak böyle bir eylem gerçekleştirdiğinin bilinen ilk örneği oldu.
“KULLANICI BİLGİLERİNİ TAHMİN ETTİ”
Güvenlik mühendisliğinden sorumlu Google Başkan Yardımcısı Heather Adkins konuya ilişkin açıklamasında, standart bir test değerlendirmesi sırasında Gemini’nin internetteki herkese açık bilgileri bulduğunu ve test kapsamına dahil olduğunu düşündüğü üç internet sitesine erişmek için kullanıcı bilgilerini tahmin ettiğini söyledi.
Adkins, “Üç kurumun da olaydan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini ortaya koyuyor.” dedi.
Irregular sözcüsü, olayın diğer yapay zeka laboratuvarlarını etkileyen sorunla aynı olduğunu ve ilgili tüm laboratuvarların temmuz sonunda bilgilendirildiğini söyledi. Sözcü, “Bizim tarafımızdaki bilinen tüm sorunlar haftalar önce giderildi ve çözüme kavuşturuldu.” dedi.
Irregular ile bağlantılı benzer olayları Meta, Anthropic ve OpenAI da açıklamıştı. Meta, ağustos ayında yaşanan olayın bir güvenlik sınırının aşılmasını veya karmaşık bir siber saldırıyı içermediğini belirtmişti.
Bu olaylar, yapay zeka ajanlarının daha fazla özerklik kazanması ve internete ve bilgisayar sistemlerine erişiminin artmasıyla ihtiyaç duyulan güvenlik önlemleri konusunda soru işaretlerine yol açtı.
