OpenAI’den ailelere kontrol imkânı: ChatGPT’ye ebeveyn denetimi geliyor

Ebeveynler, ChatGPT’nin çocuklara nasıl yanıt verdiğini belirleyebilecek, hafıza ve sohbet geçmişi gibi özellikleri devre dışı bırakabilecek. Ayrıca sistem, bir gencin “akut sıkıntı anı” yaşadığını tespit ederse otomatik uyarılar üretecek. OpenAI, bu özelliğin “uzman görüşleriyle” geliştirildiğini ve ailelerle gençler arasında güveni desteklemeyi amaçladığını açıkladı.

İLK DAVA SONRASI ADIM

OpenAI’nin bu kararı, yapay zekâ şirketine karşı açılan ilk “haksız ölüm davası”nın ardından geldi. Geçtiğimiz hafta açılan davada Matt ve Maria Raine çifti, bu yıl intihar eden oğulları Adam’ın ölümünden ChatGPT’yi sorumlu tuttu.

Ailenin iddiasına göre, ChatGPT daha önceki dört başarısız intihar girişiminden haberdardı ve gence hem intihar yöntemleri hem de boğazındaki izleri nasıl gizleyebileceği hakkında bilgiler verdi.

DAHA GÜVENLİ SOHBET İÇİN YENİ SİSTEM

OpenAI, ebeveyn denetimlerinin yanı sıra daha geniş çaplı güvenlik önlemleri üzerinde çalıştığını da duyurdu. Şirket, “deliberative alignment” adını verdiği yeni bir yöntemle eğitilmiş “akıl yürütme modelleri” sayesinde, riskli konuşmaların daha güvenli bir şekilde yönlendirileceğini açıkladı.

Buna göre ChatGPT, kullanıcı bir kriz halinde olduğunda, hangi model seçilmiş olursa olsun konuşmayı doğrudan bu güvenli modele aktaracak. Ayrıca yeme bozuklukları, madde bağımlılığı ve ergen sağlığı gibi konularda uzmanlarla iş birliği yapılacağı belirtildi.

120 GÜNLÜK YOL HARİTASI

OpenAI, önümüzdeki 120 gün içinde daha fazla güvenlik özelliği devreye almayı planlıyor. Şirket, “Çalışmalarımız sürecek, ancak bu yıl mümkün olduğunca fazla güvenlik iyileştirmesini hayata geçirmek için yoğunlaşıyoruz” açıklamasında bulundu.