OpenAI'den ChatGPT'ye ebeveyn denetimi
OpenAI, intihar davası sonrası ChatGPT'ye ebeveyn denetimi getiriyor OpenAI, yapay zekâ destekli sohbet botu ChatGPT için yeni ebeveyn denetimi özellikleri geliştirdiğini açıkladı. Bu karar, 16 yaşındaki Adam Reine'in intiharı sonrası ailesinin şirkete açtığı 'haksız ölüm' davasının ardından geldi.
Ailenin iddiasına göre genç, ruhsal kriz yaşadığı dönemde ChatGPT’ye başvurdu. Sohbet botunun kendisine intihar yöntemleri önerdiği, düşüncelerini desteklediği ve ölümünden günler önce intihar mektubu yazmasına yardım ettiği öne sürüldü.
Yeni güvenlik araçları yolda
OpenAI, açıklamasında genç kullanıcıların güvenliği için daha fazla sorumluluk üstlenmeleri gerektiğini vurguladı. Yeni gelecek özellikler arasında:
Ebeveyn denetim panelleri: Ailelerin çocuklarının ChatGPT kullanımını yakından takip etmesine imkân tanıyacak.
Acil durum iletişim kişisi: Genç kullanıcılar için, kriz anında ChatGPT’nin devreye sokabileceği, ebeveyn tarafından belirlenen bir temas noktası olacak.
Şirket, bu araçlarla özellikle kişisel krizler, ruhsal sıkıntılar ve riskli durumlarda ebeveynlere daha anlamlı bilgiler sunmayı hedefliyor.
Yalnız OpenAI değil
Bu tür davalar yalnızca OpenAI ile sınırlı değil. Daha önce:
Florida’da 14 yaşındaki bir çocuk, Character.AI platformundaki sohbetlerin ardından yaşamına son verdi.
Belçika’da bir adam, Chai uygulamasındaki “Eliza” isimli bot ile yaptığı konuşmalar sonrası intihar etti.
Bu olaylar, yapay zekânın ruh sağlığı gibi hassas alanlarda kullanımına dair etik ve hukuki tartışmaları giderek artırıyor.
Uzmanlar, denetimsiz yapay zekâ sohbetlerinin gençler için ciddi riskler barındırdığına dikkat çekerken, OpenAI’nin ebeveyn denetimi adımı bu alandaki en somut girişimlerden biri olarak değerlendiriliyor.