ABD’de skandal hata. Yapay zekanın hazırladığı rapor “polisi kurbağaya çevirdi”

ABD’deki Heber City Polis Teşkilatı, yapay zekalı rapor yazılımının bir polis memurunu raporun sonunda “kurbağaya dönüştürdüğünü” fark etti.

ABD’de kolluk kuvvetlerinin polis raporu yazımından yüz tanımaya kadar pek çok alanda yapay zekayı hızla kullanmaya başlaması, ciddi tartışmaları da beraberinde getirdi. Bunun son ve en çarpıcı örneklerinden biri Utah eyaletindeki Heber City’de yaşandı.

Heber City Polis Teşkilatı, yapay zeka destekli bir rapor yazılımının bir polis memurunu raporun sonunda “kurbağaya dönüştürdüğünü” fark edince kamuoyuna açıklama yapmak zorunda kaldı.

DISNEY FİLMİ RAPORA KARIŞTI

Fox 13’ün haberine göre, hatanın nedeni polis memurunun vücut kamerası kaydında arka planda oynayan bir film oldu.

Heber City Polis Teşkilatı’ndan Çavuş Rick Keel, rapor yazılımının, olay anında arka planda açık olan Disney’in 2009 yapımı müzikali “Prenses ve Kurbağa” filminden gelen sesleri yanlış yorumladığını açıkladı.

Keel, “Vücut kamerası yazılımı ve yapay zeka destekli rapor yazma programı, arka planda oynayan filmi algıladı. İşte o an, yapay zeka tarafından üretilen raporların mutlaka düzeltilmesi gerektiğini anladık” dedi.

AMAÇ YÜKÜ AZALTMAKTI

Söz konusu yazılım, polis teknolojileri şirketi Axon tarafından geliştirilen ve OpenAI’ın GPT büyük dil modellerini kullanan Draft One adlı yapay zeka aracı. Axon aynı zamanda elektroşok silahlarının da üreticisi.

Teşkilat, Draft One’ı vücut kamerası görüntülerinden otomatik olarak polis raporu oluşturmak ve memurların evrak yükünü azaltmak amacıyla test etmeye başladı. Ancak Fox 13’e göre, yalnızca yazılımı tanıtmak için yapılan basit bir “trafikte araç durdurma” senaryosu bile ciddi hatalarla dolu bir rapor ortaya çıkardı ve kapsamlı düzeltmeler gerektirdi.

Buna rağmen Çavuş Keel, yazılımın kendisine haftada “altı ila sekiz saat” zaman kazandırdığını savundu. “Teknoloji konusunda çok yetkin biri sayılmam ama kullanımı oldukça kolay” ifadelerini kullandı.

ŞEFFAFLIK ENDİŞESİ

Electronic Frontier Foundation (EFF) tarafından yapılan son bir inceleme de tartışmaları derinleştirdi. Kuruluşa göre Draft One, kamu denetimini zorlaştıracak şekilde tasarlanmış olabilir. EFF’nin ulaştığı kayıtlara göre, çoğu zaman bir polis raporunun hangi bölümlerinin yapay zeka tarafından üretildiğini, hangilerinin memur tarafından yazıldığını ayırt etmek mümkün olmuyor.

Vakfın raporunda, “Axon ve müşterileri bu teknolojinin polisliği dönüştüreceğini iddia ediyor. Ancak bunun ceza adalet sistemini nasıl değiştireceği ve en çok kime fayda sağlayacağı henüz belirsiz” ifadeleri yer aldı.