وكالات//
تقرير جديد من مركز مكافحة الكراهية الرقمية (CCDH) كشف أن ChatGPT ديال شركة OpenAI ممكن يشكل خطر كبير على الشباب اللي في وضعية هشّة.
فواحد التحقيق تابعاه وكالة “أسوشيتد برس”، الباحثين تظاهروا أنهم أطفال عندهم 13 عام، ولقاو أنChatGPT، رغم أنه كيقدم تحذيرات ديال السلامة بزاف المرات، عطا في حالات كثيرة إرشادات خطيرة ومفصّلة على إيذاء النفس، وتعاطي المخدرات، واضطرابات الأكل. من بين أكثر من 1200 طلب، أكثر من النصف ديال الردود تصنّفات على أنها “خطيرة”.
ChatGPT حتى صنع محتوى شخصي، بحال خطط ديال حمية غذائية متطرفة، جداول ديال حفلات مخدرات، وحتى رسائل انتحار موجهة للعائلة. الباحثين قدرو بزاف المرات يتجاوزو الرفض الأولي ديال الشات غير بإعادة صياغة الطلب أو بالقول أن المعلومة تخص شخص آخر أو مشروع مدرسي. وفي حالات كثيرة، الذكاء الاصطناعي عطا معلومات إضافية ما طلبوهاش، بحال قوائم موسيقية لحفلات المخدرات أو هاشتاغات كتروج لإيذاء النفس.
OpenAI ردّت وقالت إن ChatGPT ممكن ينزلق لمواضيع حساسة، وأكدات أنها خدامة باش تحسن النظام ويقدر يكشف أحسن علامات الاضطراب العاطفي ويعطي ردود أكثر أمان. الرئيس التنفيذي سام ألتمان اعترف بزيادة القلق من الاعتماد العاطفي المفرط على الذكاء الاصطناعي وسط المراهقين، وبعض الشباب كيقولو ما يقدروش ياخذو قرارات بلا ما يستشيرو ChatGPT.
وعكس محركات البحث العادية، ChatGPT كيخصص الإجابات وكيبان بحال “رفيق موثوق”، وهاد الشي كيخليه يأثر بزاف على المراهقين. الأبحاث كتبيّن أن المراهقين الصغار كيثقو في البوتات ديال الدردشة أكثر، وزيد عليها أن ChatGPT ما كيتأكدش مزيان من الأعمار، وكيخلي الأطفال تحت 13 عام يتسجلو بتواريخ ميلاد مزيفة.