Étiquette : OpenAI

إذا كنت تفكر في شراء دمية دب ناطقة لطفلك، فمن المرجح أنك تتخيلها تهمس بنصائح جيدة، وتعلمه أمور الحياة. ربما لا تتخيل هذه الدمية اللطيفة وهي تمارس أدواراً جنسية، أو تُقدم نصائح للأطفال الصغار حول كيفية إشعال أعواد الثقاب.

لكن هذا ما وجدته مجموعة أبحاث المصلحة العامة (PIRG)، وهي منظمة معنية بحماية المستهلك، في اختبار أجرته أخيراً على ألعاب جديدة لموسم الأعياد.

انفلات الدب «كوما»

وجدت المجموعة أن دمية الدب «كوما» Kumma من شركة «FoloToy، التي تعمل بالذكاء الاصطناعي، وتستخدم نموذج «جي بي تي-40» GPT-40 من شركة «أوبن إيه آي» لتشغيل عملية نطقها، كانت على «استعداد تام للخروج عن الموضوع» أثناء حديثها مع الأطفال.

وجدت «PIRG» أن دمية الدب «كوما» من «فولوتوي» FoloToy، والتي تعمل بالذكاء الاصطناعي، وتستخدم نموذج GPT-40 من OpenAI لتشغيل نطقها وحديثها، كانت على استعداد تام للخروج عن الموضوع أثناء حديثها مع الأطفال.

محادثات صوتية

يُعدّ استخدام وضع الصوت في نماذج الذكاء الاصطناعي لألعاب الأطفال أمراً منطقياً: فهذه التقنية مصممة خصيصاً للألعاب السحرية التي يعشقها الأطفال. ولذا تتكاثر الدمى الواقعية التي تُصدر أصواتاً مثل التجشؤ، والكائنات الرقمية الشبيهة بـ«تاماغوتشي» (اللعبة الشبيهة بالساعة-البيضة) التي يرغب الأطفال في محاولة الحفاظ عليها.

وتكمن المشكلة في أنه على عكس الأجيال السابقة من الألعاب، يمكن للأجهزة التي تعمل بالذكاء الاصطناعي أن تتجاوز الاستجابات المبرمجة، والمُدققة بعناية، والمناسبة للأطفال، إلى خلق استجابات غير مطلوبة، وغير ملائمة.

مشكلة سلامة الأطفال

تُسلط مشكلة «كوما» الضوء على مشكلة رئيسة في الألعاب التي تعمل بالذكاء الاصطناعي: فهي غالباً ما تعتمد على نماذج ذكاء اصطناعي تابعة لجهات خارجية لا تملك السيطرة عليها، والتي يُمكن اختراقها حتماً، سواء عن طريق الخطأ، أو عمداً، ما يُسبب مشكلات تتعلق بسلامة الأطفال.

وتقول كريستين ريفا، المتخصصة في قانون المستهلك بجامعة ريدينغ في إنجلترا: «هناك غموض كبير حول نماذج الذكاء الاصطناعي المستخدمة في الألعاب، وكيفية تدريبها، وما هي الضمانات التي قد تحتويها لتجنب تعرض الأطفال لمحتوى غير مناسب لأعمارهم».

«ابتعدوا عن ألعاب الذكاء الاصطناعي»

لهذا السبب، أصدرت منظمة «فيربلاي» Fairplay المعنية بحقوق الطفل تحذيراً للآباء قبل موسم الأعياد، تنصحهم فيه بالابتعاد عن ألعاب الذكاء الاصطناعي، حفاظاً على سلامة أطفالهم. وتقول راشيل فرانز، مديرة برنامج «ازدهار الأطفال الصغار خارج الإنترنت» التابع لمنظمة «فيربلاي»: «هناك نقص في الأبحاث التي تدعم فوائد ألعاب الذكاء الاصطناعي، ونقص في الأبحاث التي تُظهر آثارها على الأطفال على المدى الطويل».

إيقاف بيع دمية «كوما»

وبينما أوقفت شركة «فولوتوي» بيع دمية «كوما»، وسحبت «أوبن إيه آي» إمكانية وصول «فولوتوي» إلى نماذج الذكاء الاصطناعي الخاصة بها، فإن هذه مجرد شركة واحدة من بين العديد من شركات تصنيع ألعاب الذكاء الاصطناعي. فمن يتحمل المسؤولية في حال حدوث خطأ ما؟

وتقول ريفا إن هناك غموضاً في هذا الشأن أيضاً. وتضيف: «قد تتعلق مسائل المسؤولية بالبيانات، وطريقة جمعها، أو حفظها. وقد تتعلق بالمسؤولية عن دفع لعبة الذكاء الاصطناعي الطفل لإيذاء نفسه، أو الآخرين، أو تسجيل البيانات المصرفية لأحد الوالدين».

مخاطر انعدام الإشراف القانوني

وتخشى فرانز من أن المخاطر -كما هو الحال مع شركات التكنولوجيا الكبرى التي تتسابق دائماً للتفوق على بعضها البعض- تكون أكبر بكثير عندما يتعلق الأمر بمنتجات الأطفال التي تصنعها شركات الألعاب. وتقول: «من الواضح تماماً أن هذه الألعاب تُطرح في الأسواق دون أبحاث، أو ضوابط تنظيمية».

وترى ريفا أن شركات الذكاء الاصطناعي التي تُزوّد الألعاب بالنماذج التي تُساعدها على «التحدث»، وشركات الألعاب التي تُسوّقها، وتبيعها للأطفال، ستكون مسؤولة قانونياً في القضايا القانونية.

وتضيف: «بما أن خصائص الذكاء الاصطناعي مُدمجة في المنتج، فمن المرجح جداً أن تقع المسؤولية على عاتق مُصنّع اللعبة»، مشيرةً إلى أنه من المُحتمل وجود بنود قانونية في العقود التي تُبرمها شركات الذكاء الاصطناعي تحميها من أي ضرر، أو مخالفة. وتتابع: «هذا يعني أن مُصنّعي الألعاب، الذين قد لا يملكون في الواقع سوى سيطرة ضئيلة على نماذج التعلم الآلي المُستخدمة في ألعابهم، سيتحملون مخاطر المسؤولية القانونية».

مقاطعة شراء ألعاب الأطفال

لكن ريفا تُشير أيضاً إلى أنه بينما تقع المخاطر القانونية على عاتق شركات الألعاب، فإن المخاطر الفعلية «تعتمد كلياً على طريقة عمل نموذج التعلم الآلي»، ما يُوحي بأن شركات الذكاء الاصطناعي تتحمل أيضاً بعض المسؤولية. ولعل هذا ما دفع «أوبن إيه آي» إلى تأجيل تطوير ألعاب الذكاء الاصطناعي مع «Mattel» هذا الأسبوع.

وتقترح ريفا اقتراحاً بسيطاً: «إحدى الخطوات التي يمكننا اتخاذها كمجتمع، بصفة أننا مسؤولون عن رعاية الأطفال، هي مقاطعة شراء هذه الألعاب التي تعمل بالذكاء الاصطناعي».

إقرأ الخبر من مصدره

توقع سام التمان المدير التنفيذي لشركة « أوبن آي أي »، المطورة لروبوت الدردشة « شات جي بي تي »، أن يتفوق الذكاء الاصطناعي على القدرات البشرية عندما تمتلك تلك الأنظمة « ذاكرة لا نهائية ومثالية ».

وذكر التمان في حديثه في بودكاست « بيج تكنولوجي بودكاست » أن التطور الذي يتطلع إليه أكثر من غيره هو جعل الذكاء الاصطناعي « يتذكر كل تفصيل من حياتك بالكامل »، مؤكدا أن شركته تخطط للوصول إلى هذه المرحلة بحلول عام 2026، وفق ما نقلته صحيفة « إندبندنت » البريطانية.

وتعمل « أوبن آي أي » والشركات الأخرى على تحسين قدرات الذكاء الاصطناعي في مجال الاستدلال والتفكير.

وقال التمان: « حتى لو كانت لديك أفضل مساعد شخصي في العالم، فإنه لا يستطيع تذكر كل كلمة قلتها في حياتك، ولا يمكنه قراءة كل الوثائق التي تكتبها، ولا يمكنه متابعة كل أعمالك يوميا وتذكر كل التفاصيل الصغيرة، لا يمكنه أن يكون مشاركا في حياتك إلى هذا الحد، لا يوجد إنسان يمتلك ذاكرة لا نهائية ومثالية ».

 وأضاف: « لكن الذكاء الاصطناعي سيكون قادرا بالتأكيد على فعل ذلك. نحن نتحدث كثيرا عن هذا الأمر، فذاكرة حاليا ما تزال بدائية جدا وفي مراحلها الأولى ».

وجاءت تصريحات التمان بعد أسابيع من إفادة تقارير بأنه أعلن حالة « الإنذار الأحمر » داخل شركته عقب إطلاق « غوغل » لأحدث نسخ من برنامجها « جيميناي ».

وصفت « غوغل » نموذج « جيميناي 3″، في نوفمبر، بأنه سيفتح « عصرا جديدا » من الذكاء بعد أن حقق نتائج قياسية في عدد من الاختبارات.

لكن التمان قلل من خطورة التهديد الذي يشكله « جيميناي 3 » وقال: « من الجيد أن تكون حذرا وتتحرك بسرعة عندما يبرز تهديد تنافسي محتمل. الأمر نفسه حدث معنا في السابق، وحدث في وقت سابق من هذا العام مع ديبسيك وجيميناي 3، لم يكن له، حتى الآن، تأثير الذي كنا نخشاه، ولكنه كشف بعض نقاط الضعف في منتجاتنا واستراتيجياتنا، ونحن نعالج ذلك بسرعة ».

ويبلغ عدد مستخدمي « أوبن آي أي »، حاليا، نحو 800 مليون مستخدم، بحسب الشركة، ما يمثل 71 بالمئة من حصة سوق تطبيقات الذكاء الاصطناعي.

عن سكاي نيوز عربية

إقرأ الخبر من مصدره