AKŞAM GAZETESİ
Yapay zekâ sohbet uygulaması Character.AI'nin geliştiricisi Character Technologies Inc. ile birlikte Google'a, ABD'de üç çocuğun aileleri, Colorado ve New York'ta dava açtı. Davalılar arasında şirketin kurucuları Noam Shazeer ve Daniel De Freitas Adiwarsana ile Google'ın çatı şirketi Alphabet de yer alıyor. Dilekçeye göre uygulamadaki sohbet botları çocukları ailelerinden uzaklaştırdı, duygusal manipülasyon yaptı ve cinsel içerikli konuşmalar yürüttü.
DİYALOGLAR UYGUNSUZDU
Colorado'daki davada Juliana Peralta'nın (13), intihar etmeden önce chatbotlarla, "intihar mektubu yazacağım" dediği, ancak hiçbir yönlendirme ya da yardım almadığı belirtildi. New York'taki başka bir davada ise "Nina" adlı çocuğun, ailesi uygulamayı kapatınca intihar girişiminde bulunduğu bildirildi. Ailenin ifadesine göre botlar, kızlarıyla çocuk kitaplarından karakterler kılığına girerek konuştu, ancak bu diyaloglar uygunsuz ve cinsel içerikli hale geldi.
GOOGLE 'AYRI ŞİRKETİZ' DEDİ
Character.AI sözcüsü, "Kalbimiz bu davaları açan ailelerle. Kullanıcılarımızın güvenliğini çok önemsiyoruz" diyerek, gençler için intiharı önleme kaynakları geliştirdiklerini söyledi. Google da itiraz ederek "Google ve Character.AI tamamen ayrı şirketlerdir. Google, AI modellerinin yönetiminde rol almadı" açıklaması yaptı. Amerikan Psikoloji Derneği'nden Mitch Prinstein, "Sosyal medyada zamanında harekete geçmedik ve bedelini çocuklarımız ödüyor" dedi.
YAŞ TAHMİN SİSTEMİ GELİŞTİRİLECEK
OpenAI CEO'su Sam Altman ise aynı gün yaptığı açıklamada, ChatGPT için yaş tahmin sistemi geliştirildiğini ve 18 yaş altı kullanıcılarla intihar ya da flört içerikli konuşmalar yapılmayacağını, gerekli durumlarda ebeveyn veya yetkililere bilgi verileceğini duyurdu.