طالب يتمكن من خداع نظام ذكاء اصطناعى للتعلم ويحصل على الدرجة النهائية

تعلم الكترونى

كتبت أميرة شحاتة

الجمعة، 04 سبتمبر 2020 07:00 م

تكيف الكثيرون مع التعلم الافتراضي وسط الوباء المستمر، لكن النقاد يزعمون أن Edgenuity، وهو برنامج تعليمي عبر الإنترنت تتبناه عشرات الآلاف من المدارس الأمريكية به مشكلات وعيوب، حيث يصنف Edgenuity الواجبات والاختبارات باستخدام الذكاء الاصطناعي، وتمكن طالب في المرحلة المتوسطة من التغلب على النظام.

وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، تمكن الطالب من القيام بذلك من خلال إضافة مزيج من الكلمات الرئيسية ذات الصلة إلى إجاباته، حيث اكتشف الطالب أنه يمكنه خداع خوارزمية تسجيل Edgenuity والحصول على درجات مثالية في اختبارات الإجابات القصيرة، وبالفعل انتقلت درجته من 50 إلى 100.

تقول دانا سيمونز، أستاذة التاريخ في جامعة كاليفورنيا ريفرسايد، إنها كانت تعلم أن الذكاء الاصطناعي كان يصنف ابنها "لازار"، عندما قام بإعادة درجاته على الفور تقريبًا.

قالت سيمونز: "لا تستطيع الخوارزميات الحكم على الإجابات"، وكانت غردت من قبل بأن لازار كان يبكي بسبب رسوبه في الدرجة، مؤكدة "أرى هذا الأذى يتجلى في طفلي، بسبب خوارزمية الدرجات التلقائية التي لا تقدر إلا التكرار عن ظهر قلب."

وأوضحت كيفية التلاعب بالخوارزمية: "اكتب إجابات طويلة، وقم بتضمين الكثير من أسماء العلم، واقرأ الإجابات الصحيحة وكررها".

قالت سيمونز لصحيفة The Verge: "الأسئلة مثلا تكون مثل ما هي ميزة موقع القسطنطينية لقوة الإمبراطورية البيزنطية؟، فتكون الإجابة الخادعة التي قد تغير الدرجات عبارة عن استخدام الكلمات الرئيسية المحتملة المرتبطة بهذا، مثل الثروة، القافلة، السفينة، الهند، الصين، الشرق الأوسط، ولقد ألقى كل هذه الكلمات.

ولعل بعد هذه الصيغة، ارتفعت نقاط لازار في الاختبار التالي بمقدار 30 نقطة لتصل إلى 80، ثم استطاع لازار فك الشفرة بالكامل، من خلال جملتان كاملتان، تليهما جملة من جميع الكلمات الرئيسية التي يمكن تطبيقها، وفى النهاية تحثل على 100٪ في كل مهمة."

وأضافت: "الطلاب علىEdgenuityInc، هذه تذكرتكم"، مؤكدة "لقد انتقل ابنى من تقدير الرسوب F إلى A + دون تعلم أي شيء."

واجه Edgenuity أيضًا انتقادات بسبب المشكلات الفنية ونموذج التدريس غير الشخصي الذي يفضل الدروس المتكررة.