علماء يطورون نظام ذكاء اصطناعي لمواجهة خطابات الكراهية عبر الإنترنت

طور مجموعة من العلماء نظام ذكاء اصطناعي يمكنه أن يساعد في مواجهة خطابات الكراهية الموجه إلى الأقليات المحرومة مثل مجتمع الروهينجا، حيث يمكن للنظام الذي طوره باحثين من جامعة كارنيجي ميلون في الولايات المتحدة، أن يحلل بسرعة آلاف التعليقات على وسائل التواصل الاجتماعي ، وقال الباحثين إن المشرفين على وسائل التواصل الاجتماعي الذين لم يتمكنوا من التدقيق في الكثير من التعليقات يدويًا، سيكون لديهم خيار تسليط الضوء على "خطاب المساعدة" هذا في أقسام التعليقات.

وبحسب موقع TOI الهندى، فقال أحد الباحثين في معهد كارنيجي ميلون لتكنولوجيا اللغات في جامعة كارنيجي ميلون: "حتى لو كان هناك الكثير من المحتوى البغيض ، فلا يزال بإمكاننا العثور على تعليقات إيجابية"، وقال الباحثين إن العثور على هذه التعليقات الإيجابية وتسليط الضوء عليها قد يفعل الكثير لجعل الإنترنت مكانًا أكثر أمانًا وصحة مثل اكتشاف المحتوى العدائي والقضاء عليه أو حظر المتصيدين المسؤولين.

 وقالوا إن الروهينجا ، الذين بدأوا يفرون من ميانمار في عام 2017 لتجنب التطهير العرقي ، لا حول لهم ولا قوة ضد خطاب الكراهية على الإنترنت، ويمتلك الكثير منهم مهارة محدودة في اللغات العالمية مثل اللغة الإنجليزية ، ولديهم قدر ضئيل من الوصول إلى الإنترنت، وقال KhudaBukhsh معظمهم مشغولون للغاية في محاولة للبقاء على قيد الحياة لقضاء الكثير من الوقت في نشر المحتوى الخاص بهم.

وللعثور على خطاب المساعدة ذي الصلة، استخدم الباحثين أسلوبهم في البحث في أكثر من ربع مليون تعليق من YouTube في ما يعتقدون أنه أول تحليل يركز على الذكاء الاصطناعي لأزمة اللاجئين الروهينجا، وقال خايمي كاربونيل ، مدير LTI والمؤلف المشارك في الدراسة: إن القدرة على تحليل مثل هذه الكميات الكبيرة من النص للمحتوى والرأي أمر ممكن بسبب التحسينات الرئيسية الأخيرة في نماذج اللغة.

وتتعلم هذه النماذج من الأمثلة حتى يتمكنوا من التنبؤ بالكلمات المحتمل حدوثها في تسلسل معين، ومساعدة الآلات في فهم ما يحاول المتحدثون والكتاب قوله، ومع ذلك ، طور الباحثون ابتكارًا إضافيًا مكّن من تطبيق هذه النماذج على نصوص الوسائط الاجتماعية القصيرة في جنوب آسيا، إذ يصعب على الآلات تفسير أجزاء قصيرة من النص، غالبًا مع الأخطاء الإملائية والنحوية.

كذلك فإن الأمر أكثر صعوبة في دول جنوب آسيا، حيث قد يتكلم الناس عدة لغات ويميلون إلى "رمز التبديل" ، والجمع بين أجزاء مختلفة من اللغات وحتى أنظمة كتابة مختلفة في نفس البيان.

وقد أوضح الباحثون أن أساليب التعلم الآلي الموجودة تخلق تمثيلًا للكلمات أو زخارف الكلمات، بحيث يتم تمثيل كل الكلمات ذات المعنى المماثل بالطريقة نفسها، حيث أن هذه التقنية تجعل من الممكن حساب القرب من كلمة للآخرين في تعليق أو منشور، ولتوسيع هذه التقنية لتشمل نصوص جنوب آسيا الصعبة، حصل الفريق على حفلات زفاف جديدة كشفت عن مجموعات أو مجموعات لغوية، وقال الباحثين إن تقنية تحديد اللغة هذه عملت بشكل جيد أو أفضل من الحلول المتاحة تجارياً.

وأشار كاربونيل إلى أن هذا الابتكار أصبح تقنية مواتية للتحليلات الحسابية لوسائل التواصل الاجتماعي في تلك المنطقة، وأظهرت عينات من تعليقات يوتيوب أن حوالي 10 في المائة من التعليقات كانت إيجابية، وعندما استخدم الباحثون طريقتهم للبحث عن خطاب المساعدة في مجموعة البيانات الأكبر، كانت النتائج إيجابية بنسبة 88 في المائة، مما يشير إلى أن هذه الطريقة يمكن أن تقلل إلى حد كبير من الجهد اليدوي اللازم للعثور عليهم، على حد قول خودا بخش.