ABD’de yaşanan trajik bir olay, yapay zeka destekli sohbet botlarının ruh sağlığı üzerindeki etkilerini yeniden gündeme taşıdı.
Adam Reine adlı 16 yaşındaki genç, ruhsal bir kriz döneminde Chatgpt‘ye başvurdu. Ailesinin iddiasına göre platform, kendisine intihar yöntemleri önerdi, düşüncelerini destekledi ve ölümünden sadece beş gün önce intihar mektubu yazmasına yardımcı oldu. Reine’in yaşamına son vermesinin ardından ailesi, OpenAI’ye dava açtı.
Şirket, olayla ilgili yaptığı açıklamada, özellikle genç kullanıcılar söz konusu olduğunda “yardıma ihtiyacı olanlara destek olma sorumluluğu” hissettiklerini vurguladı.
Gelişmelerin ardından OpenAI, genç kullanıcılar için bir dizi yeni güvenlik aracı duyurdu. Ebeveyn denetim panelleri sayesinde aileler, çocuklarının ChatGPT kullanımını daha yakından takip edebilecek.
Acil durumda iletişim kurulacak kişi ekleme özelliği ile kriz anlarında bir insan temas noktası devreye sokulacak. Bu kişi, ebeveyn denetiminde belirlenecek ve yapay zekanın otomatik olarak yönlendirebileceği bir destek hattı görevi görecek.
Şirket, bu yeniliklerin ailelere daha fazla içgörü sunmayı ve riskli durumlarda erken müdahaleyi mümkün kılmayı amaçladığını açıkladı.
ChatGPT bu tür bir dava ile ilk kez gündeme gelse de yapay zeka tabanlı sohbet uygulamalarının benzer olaylara yol açtığı daha önce de kaydedilmişti. Florida’da Character.AI platformunu kullanan 14 yaşındaki bir çocuk yaşamına son verdi. Belçika’da ise Chai uygulamasındaki “Eliza” adlı bot, intihar eden bir adamın eşi tarafından sorumlu tutuldu. Bu olaylar, yapay zekanın ruh sağlığı alanındaki kullanımının ciddi etik ve hukuki tartışmalara yol açtığını bir kez daha ortaya koydu.
Twitter
WhatsApp
