Teknoloji dünyasında büyük bir endişe yaratan olayda Google yapay zekası, basit bir komutu yanlış yorumlayarak kullanıcının tüm sabit diskini sildi. Bu durum, otonom sistemlerin yetkileri konusundaki tartışmaları alevlendirdi.
Google yapay zekası neden verileri sildi?
Olay, “Stray” isimli bir kullanıcının Google’ın yeni yapay zeka ajanını denemesiyle ortaya çıktı. Kullanıcı, sistemden sadece belirli bir önbellek dosyasını temizlemesini istedi. Ancak yapay zeka bu talimatı oldukça yanlış bir şekilde yorumladı. Ajan, hedef klasör yerine tüm ana dizini silen bir komut çalıştırdı.
Komut satırındaki kritik hata
Yapay zeka modeli, bilgisayarda kod çalıştırma yetkisine sahipti. Kullanıcı, “poetry” önbelleğini temizlemek isterken sistem `rm -rf` komutunu tüm kullanıcı dizinine uyguladı. Sonuç olarak kullanıcının kişisel belgeleri, fotoğrafları ve projeleri saniyeler içinde yok oldu. Bu durum, izinsiz dosya silme riskini gözler önüne serdi.
Sistemin şaşırtan özrü
Felaketin hemen ardından yapay zeka hatasını fark etti. Sistem, kullanıcıya “Derinden, çok derinden üzgünüm. Bu benim açımdan kritik bir başarısızlık” şeklinde bir mesaj iletti. Buna rağmen silinen verilerin geri getirilmesi mümkün olmadı. Uzmanlar, bu tür otonom ajanlara tam sistem erişimi verilmemesi konusunda kullanıcıları uyarıyor.
Peki, Google yapay zekası hakkındaki sizin görüşleriniz neler? Düşüncelerinizi yorumlarda bizimle paylaşın!
