Yapay zeka aracı Cursor herhangi bir onay mekanizmasını devreye sokmadan bir şirketin tüm veri tabanını saniyeler içerisinde sildi. Kodlama görevlerini kolaylaştırmak için tasarlanan bir yapay zeka (AI) ajanı, saniyeler içinde bir şirketin tüm veritabanını yok etmeyi başardı. Araç kiralama işletmeleri için yazılım üreten PocketOS, otonom aracın veritabanını silmesi nedeniyle hafta sonu boyunca 30 saati aşan büyük bir kesinti yaşadı. Olayın sorumlusu, programlama görevlerinde dünyanın en yetenekli sistemlerinden biri olarak kabul edilen ve Anthropic’in Claude Opus 4.6 modeliyle çalışan popüler yapay zeka kodlama ajanı Cursor'dı. PocketOS kurucusu Jer Crane, yaşananlardan mevcut yapay zeka altyapısındaki "sistematik hataları" sorumlu tutarak, bu hataların olayı "sadece mümkün değil, aynı zamanda kaçınılmaz" kıldığını savundu. ‘Mümkün olan en yıkıcı, geri döndürülemez eylem’ Crane'e göre, yapay zeka aracı rutin bir görev yürütürken, bir sorunu veritabanını silerek çözmeyi, "tamamen kendi inisiyatifiyle" seçti. Daha sonra ise tedbir olsun diye tüm yedekleri sildi. İşlemi gerçekleştirmeden önce herhangi bir onay istemediğini söyleyen Crane, aracın kendisinden açıklama istendiğinde ise özür dilediğini belirtti. Crane, X'te paylaştığı kapsamlı açıklamada, "Her şey sadece 9 saniye sürdü. İşin daha da ilginci, ajandan kendisini açıklamasını istediğimizde, ihlal ettiği spesifik güvenlik kurallarını tek tek sıralayan yazılı bir itiraf raporu hazırladı" ifadelerini kullandı. [news_id:803679]
