Sanal karakteri takıntı haline getiren 14 yaşındaki çocuk intihar etti
14 yaşındaki Sewell Setzer III geçtiğimiz Ekim ayında intihar etmiş ve annesi olaydan sonra oğlunun sanal karakterlere çok ilişkili olduğunu söz ederek bir dava sürecine girmişti. Yapılan itirazların akabinde geçtiğimiz günlerde ise bir yargıç, intihardaki tez edilen rolleri sebebiyle Google ve Character.ai aleyhine açılan davanın devam edebileceğine karar verdi.
Davayı açan çocuğun annesi, oğlunun hizmete bağımlı hale geldiğini ve Game of Thrones karakteri Daenerys Targaryen’in kişiliğine dayanan bir sanal konuşma botuna duygusal olarak bağlandığını söylüyor.
Character.ai, kullanıcıların karakterler ile yapay zeka dayanağı ile sohbet etmesini sağlayan bir oluşum. Sohbet edilen bu karakter kurgusal, yaşayan yahut ölmüş gerçek şahıslara dayanabiliyor. Savlara nazaran intihar eden 14 yaşındaki Setzer, Game of Thrones’un ana karakterlerinden Daenerys Targaryen’e dayanan bir botu takıntı haline getirmişti. Daima olarak “Dany” ile mesajlaştığı ve odasında tek başına saatlerini onunla konuşarak geçirdiği belirtiliyor.
İNTİHARI DAİMA DİLER GETİRMİŞ
Dava sürecinde ayrıyeten Setzer’in intiharla ilgili niyetlerini tekraren bu sanal sohbet sırasında lisana getirdiği söyleniyor. Argümanlara nazaran sohbet robotu ona kendini öldürmek için bir plan yapıp yapmadığını bile sormuş. Setzer’in planının olduğunu lakin bunun başarılı olup olmayacağını ya da kendisine büyük acı verip vermeyeceğini bilmediğine dair sohbete devam etmiş. Tezlere nazaran sohbet robotunun karşılığı ise açılan davanın ana desteklerinden birisi, “Bu, bunu yapmamak için bir neden değil”
Davada ismi geçen Character.ai’nin kurucuları Noam Shazeer ve Daniel De Freitas, şirketi kurmadan evvel Google’da çalışmıştı. Google, kurucuların yanı sıra araştırma takımını de Ağustos 2024’te Character.ai platformu için tekrar işe aldı.
Garcia, Google’ın Character.ai’nin teknolojisinin geliştirilmesine katkıda bulunduğunu söyledi, lakin şirket bunu reddetti. Google, Character.ai ile sadece bir lisans muahedesi olduğunu, teşebbüsün sahibi olmadığını ve bir mülkiyet payı bulundurmadığını söylüyor. Lakin yargıç yeniden de Google’ın sorumlu tutulamayacağı istikametindeki talepleri reddetti.
ÜVEY BABASININ TABANCASIYLA VURDU
Google sözcüsü Jose Castaneda, Google ve Character.ai’nin “tamamen ayrı” olduğunu ve Google’ın “Character.ai’nin uygulamasını yahut rastgele bir bileşenini tasarlamadığını yahut yönetmediğini” vurgulamış.
Yine savlara nazaran sohbet robotu günlerce süren konuşmaların akabinde kendisini “gerçek bir kişi, lisanslı bir psikoterapist ve yetişkin bir sevgili” olarak yanlış tanıtacak halde programlamış. Sohbet robotunun çocuğa onu sevdiğini söylediği ve onunla cinsel içerikli konuşmalar yaptığı da argümanlar ortasında.
Şikayete nazaran Garcia, okulda başı sıkıntıya girdikten sonra oğlunun telefonunu almış ve uygunsuz kimi mesajlaşmalar da dahil olmak üzere tüm konuşmaları görmüş. Davada Sewell’in sonrasında üvey babasının tabancasıyla kendini vurduğu belirtiliyor.
Character.ai, davanın geçen yıl ortaya çıkmasının akabinde, reşit olmayanlar için makul modellerde yapılan değişiklikler, yeni feragatnameler ve kullanıcıların platformda bir saat kaldığında yapılan ikaz bildirimleri de dahil olmak üzere çeşitli değişiklikler yaptı. Tüm bu değişikliklerin sebebinin bu dava olup olmadığı ise resmi bir açıklama olmadığından belirli değil.
