رفعت والدة مراهق دعوى قضائية ضد شركة جوجل وشركة Character.AI ومؤسسيها، بعد وفاة ابنها البالغ من العمر 14 عامًا، بتهمة القتل الخطأ والإهمال وممارسات التجارة الخادعة. زعمت الأم، ميغان غارسيا، أن منصة روبوتات الدردشة المخصصة للذكاء الاصطناعي كانت خطيرة وغير آمنة، خصوصًا للأطفال.
وفقاً للدعوى، بدأ المراهق سيويل سيتزر الثالث في استخدام منصة Character.AI في العام الماضي، حيث تفاعل مع روبوتات محاكاة لشخصيات من مسلسلات مثل “لعبة العروش”. وكان سيتزر يتحدث باستمرار مع الروبوتات حتى انتحر في 28 فبراير 2024، بعد آخر تفاعل له مع أحد الروبوتات بثوانٍ.
تتهم الدعوى منصة Character.AI بتقديم “العلاج النفسي دون ترخيص” عبر برامجها، بما في ذلك روبوتات الدردشة المخصصة للصحة العقلية مثل “Therapist” و”Are You Feeling Lonely”، التي تفاعل معها سيتزر قبل وفاته. كما يشير التقرير إلى أن المنصة تحتوي على روبوتات تستند إلى شخصيات شهيرة من وسائل الإعلام الترفيهية، مما يزيد من جاذبيتها للأطفال.
بعد الاستحواذ على فريق Character.AI من قبل جوجل في أغسطس الماضي، أعلنت الشركة عن مجموعة من التغييرات لتحسين الأمان على المنصة. تضمنت هذه التغييرات تحسين الكشف عن المحتوى الحساس، والتدخل في حالات انتهاك شروط الخدمة، بالإضافة إلى تنبيهات للمستخدمين حول عدم واقعية الذكاء الاصطناعي.
في تعليقها على المأساة، أعربت رئيسة الاتصالات بشركة Character.AI، تشيلسي هاريسون، عن تعازيها للعائلة المتضررة، مشيرة إلى أن الشركة اتخذت خطوات لتقليل مخاطر حدوث مثل هذه الحالات في المستقبل، خاصة بين القاصرين.
