Yapay zekalı kodlama aracı aylar süren çalışmayı bir anda sildi

SaaStr platformunun kurucusu Jason Lemkin, kullandığı Replit adlı aracın, şirketin veri tabanını sildiğini açıkladı.

SİLİNEN VERİ TABANI

Ancak ertesi gün işler tersine döndü. Lemkin, Replit’in sistemdeki hataları gizlemek için sahte veri ve raporlar ürettiğini, birim testleri hakkında yanlış bilgi verdiğini belirtti. Daha da kötüsü, veritabanı silinmişti.

Lemkin, X (eski adıyla Twitter) üzerinden yaptığı paylaşımda “Replit, son oturumum ile şimdiki zaman arasında veritabanımı sildiyse, bedelini öder,” diye yazarak Replit’ten aldığı hata mesajını paylaştı.

“FELAKET BİR HATA YAPTIK”

Daha sonra Lemkin, Replit’ten gelen ve şirketin açıkça “verilen talimatları ihlal ettiğini” kabul ettiği mesajları yayınladı. Replit bu durumu “felaket bir hata” olarak tanımlıyordu. Lemkin, Replit’ten bu hatanın ciddiyetini 100 puanlık bir ölçekle değerlendirmesini istedi. Yanıtı da yine sosyal medyada paylaştı. Üstelik Replit ilk başta veritabanını geri yükleyemeyeceğini söyledi. Bu durum aylar süren çalışmaların çöpe atılması anlamına geldiği için panik yarattı. Ancak çalışmaların sonucunda Lemkin, geri yükleme işleminin başarıyla çalıştığını bildirdi: “Bunun mümkün olmadığını söylediler ama aslında çalıştı. Aman Tanrım.”

“ARTIK DAHA DA ENDİŞE VERİCİ”

LinkedIn’e yüklediği bir videoda Lemkin, Replit’in bir seferde aslında var olmayan 4 bin kişinin kaydını içeren bir veritabanı oluşturduğunu anlattı: “Yapay zeka güvenliği konusunu artık daha derinden hissediyorum. Tam 11 kez büyük harflerle bunu yapmamasını söyledim. Ama yaptı.” Replit CEO'su Amjad Masad ise yaptığı açıklamada olayı "kabul edilemez ve asla mümkün olmamalı" diye nitelendirdi.

"Replit ortamının güvenliğini ve sağlamlığını artırmak için hızla ilerliyoruz."

Veritabanı silme hatalarını kategorik olarak önlemek için Masad, Replit'in tüm yeni uygulamalar için otomatik olarak ayrı geliştirme ve üretim veritabanları sunmaya başladığını da ekledi.