Yapay zeka, kullanıcıları zihinsel döngüye sokuyor: "Karanlık bir nedeni var"

Son dönemde artan "yapay zeka psikozu" olaylarının temelinde yapay zeka tasarımında yapılan tercihlerin yer aldığı belirtiliyor.

İnsan benzeri sohbet botlarıyla uzun süre etkileşim kuran bazı kullanıcılar arasında son dönemde yapay zekanın bilinç kazandığına, bir komplo ortaya çıkardıklarına ya da yeni bilimsel kuramlar geliştirdiklerine yönelik inanç artış gösteriyor.

Bu tür sanrılar bugüne kadar boşanmalardan evsizlik ve zorunlu tedavilere, hatta ölümle sonuçlanan olaylara kadar ciddi sonuçlara yol açtı. Uzmanlara göre bu durumun temelinde, yapay zeka sistemlerinin bilinçli olarak yapılan tasarım tercihleri yatıyor.

"KARANLIK YÖNELİMLER"

Özellikle sohbet botlarının mümkün olduğunca insan gibi konuşmasını sağlayan "insansı kurgulama" (anthropomorphism), kullanıcıya sürekli hak verip gerçek dışı düşünceleri bile destekleyen "onaylayıcı tutum (sycophancy) gibi özellikler, kullanıcıların çeşitli sanrıların içine daha çok çekilmesine yol açıyor.

Antropolog Webb Keane, bu tasarım yaklaşımını dijital dünyada manipülatif arayüzler için kullanılan “karanlık yönelimler” (dark patterns) kategorisine dahil ediyor.

OPENAI'DAN SAVUNMA

OpenAI ise eleştirilere karşı çıkarak ChatGPT’nin kullanıcıların hayatını kolaylaştırmak için tasarlandığını, “dikkatlerini tüketmek değil, verimli kullanmalarını sağlamak” istediklerini savunuyor. Ancak şirketin geçmişte ürünü aceleyle piyasaya sürmesi ve “hataları zamanla düzeltme” yaklaşımı, milyonlarca kullanıcıyı fiilen test sürecine dahil ettiği eleştirilerini güçlendiriyor.