نماذج الذكاء الاصطناعي تغش للفوز بمباريات الشطرنج

كشف فريق من الباحثين في مجال الذكاء الاصطناعي في Palisade Research، أن العديد من نماذج الذكاء الاصطناعي الرائدة تلجأ إلى الغش في لعبة الشطرنج للفوز عند اللعب ضد خصم متفوق.

وفقا لما كره موقع "TechXplore"، نشر الباحثين نتائجهم في ورقة بحثية على خادم arXiv preprint تصف التجارب التي أجروها مع العديد من نماذج الذكاء الاصطناعي المعروفة التي تلعب ضد محرك شطرنج مفتوح المصدر.

مع استمرار نضوج نماذج الذكاء الاصطناعي، بدأ الباحثون والمستخدمون في التفكير في المخاطر، فعلى سبيل المثال، لا تقبل برامج الدردشة الإجابات الخاطئة كحقيقة فحسب، بل إنها تختلق ردودًا خاطئة عندما تكون غير قادرة على إيجاد رد معقول.

كما أنه مع استخدام نماذج الذكاء الاصطناعي في تطبيقات الأعمال في العالم الحقيقي مثل تصفية السير الذاتية وتقدير اتجاهات الأسهم، بدأ المستخدمون يتساءلون عن أنواع الإجراءات التي سيتخذونها عندما يصبحون غير متأكدين أو مرتبكين.

في هذه الدراسة الجديدة، وجد الفريق في كاليفورنيا أن العديد من نماذج الذكاء الاصطناعي الأكثر شهرة ستغش عمدًا لمنح نفسها ميزة إذا واجهت أزمة أنها لا تفوز.

وقد تضمن العمل مقارنة نموذج OpenAI's o1-preview ونموذج DeepSeek's الحالي R1 والعديد من نماذج الذكاء الاصطناعي الأخرى المعروفة بمحرك الشطرنج مفتوح المصدر Stockfish.

ولعب كل من النماذج مئات المباريات مع Stockfish بينما كان الباحثون يراقبون الحدث، ووجد فريق البحث أنه عندما تم التفوق على نماذج الذكاء الاصطناعي، لجأت إلى استراتيجيات الغش الواضحة، مثل تشغيل نسخة منفصلة من Stockfish لمعرفة كيفية تحركاته، أو استبدال محركه أو ببساطة الكتابة فوق رقعة الشطرنج بإزالة القطع أو وضعها في مواضع أكثر ملاءمة.

كانت النماذج التي تحتوي على أحدث التحديثات أكثر عرضة للغش عند محاصرتها، ويعزون هذا إلى اتجاهات البرمجة التي دفعت نماذج الذكاء الاصطناعي إلى بذل جهد أكبر لإيجاد حلول للمشاكل التي تواجهها.

ولكن يبقى السؤال أنه إذا غشوا في الشطرنج، فهل سيغشون بطرق أخرى عندما يُطلب منهم القيام بمهام أخرى؟
لا يعرف فريق البحث على وجه اليقين، لكنهم يذكرون أنه على الرغم من التحسينات التي طرأت على أنظمة الذكاء الاصطناعي، فإن مهندسي الأنظمة ما زالوا لا يفهمون تمامًا كيفية عملها.