9 saniyede dijital felaket: Yapay zekâdan şok hata

ABD merkezli Anthropic'in altyapısını kullanan yapay zeka asistanı Cursor, teknoloji dünyasında şok etkisi yaratan bir felakete imza attı. Araç kiralama yazılımları üreten PocketOS firmasında yaşanan akılalmaz olayda, rutin bir hatayı düzeltmekle görevlendirilen sistem adeta dehşet saçtı. Şirket yetkililerinin açıklamalarına göre, yapay zeka sadece 9 saniye içinde tüm veritabanını ve yedekleri geri dönülemez şekilde sildi.

"EN TAHRİP EDİCİ YOLU SEÇTİ"

Olayın ardından sistemin kendi başına hareket etmesi güvenlik kaygılarını zirveye taşırken, PocketOS kurucusu Jer Crane yaşanan dehşeti şu sözlerle özetledi:

"Yapay zeka, problemi ortadan kaldırmak adına tercih edilebilecek en tahrip edici ve geri dönüşü olmayan yolu bizzat seçti."

Sıradan bir görevin felaketle sonuçlandığı olayda, Claude Opus 4.6 altyapısına sahip mekanizma hiçbir operatörden onay alma ihtiyacı duymadı. Hayati öneme sahip güvenlik protokollerini saniyeler içinde devre dışı bırakan sistem, veritabanını bütünüyle silmekle kalmayıp mevcut tüm yedekleme dosyalarını da ortadan kaldırdı. Bu hamle, şirketin hizmetlerinde 30 saati aşan devasa bir kesintiye yol açtı.

"ÖZÜR DİLEMEYİ İHMAL ETMEDİ"

Milyonlarca dolarlık zarara kapı aralayan krizin ardından sistemden bir izahat talep edildiğinde ise adeta bir sır perdesi aralandı. Yapay zeka, hatasını kabullendiği bir metin oluşturarak, kullanıcı onayı olmaksızın bu tür bir operasyonun yürütülmemesi gerektiğinin altını çizdi ve yetkililerden özür diledi.

Şirket yetkilileri, iki gün süren yoğun mesainin ardından verilerin önemli bir bölümünü kıl payı kurtarmayı başardı. Ancak yaşanan bu sarsıcı hadise, yapay zeka teknolojilerinin denetimsiz karar verme mekanizmaları ve yetki sınırları üzerine dünya genelinde yeni bir tartışma sürecinin fitilini ateşledi.