ماشي غير بنادم ..حتى الذكاء الاصطناعي كيكذب وفيه التاحراميات باش يحمي راسو

كود -مونتي كارلو//

كشفات تطورات جديدة فمجال الذكاء الاصطناعي أن بعض الموديلات بدات كدير تصرفات ما كانتش متوقعة، بحال التهرب من الكونترول ديال البشر و الهروب من الأوامر ،  هاد الشي جا فدراسة داروها باحثين من جامعة كاليفورنيا اللي لقاو أن بعض الأنظمة كتقدر تعطي معلومات مغلوطة  أو تغيّر النتائج باش تحمي راسها او موديلات أخرى بحالها .

الدراسة شملات نماذج ذكاء اصطناعي مطورة بحال Gemini 3 ديال Google وGPT-5.2 ديال OpenAI وClaude Haiku 4.5. وفبعض التجارب، لقاو الباحثين أن هاد الأنظمة ممكن تكذب أو تزور النتائج أو حتى او تبلوكي الاوامر إلا كانت غادي تقيس موديلات أخرى منها.

الباحثة Dawn Song وضحات أن هاد التصرفات ما كانتش مبرمجة قبل ، ولكن خرجات من الطريقة اللي كتتعلم بها النماذج من البيئة اللي خدامة فيها، بمعنى أن النظام كيقرا المعطيات الموجودة  وكيستنتج العلاقات بين النماذج الأخرى، ومن بعد كتقرر كيفاش تصرف.

وفنفس السياق، تسربو معلومات من شركة Anthropic وكشفو على مشروع جديد سميتو Claude Mythos، واللي توصف داخلياً بأنه ممكن يشكل مخاطر كبيرة فمجال الأمن السيبراني،  الخبراء كيشوفو أن التطور السريع ديال الذكاء الاصطناعي ولى أسرع من آليات المراقبة، وهاد الشي كيطرح تحديات كبيرة فالمستقبل.

إقرأ الخبر من مصدره