"ياهو" تطور ذكاء اصطناعيا جديدا للحد من التحرش والتعليقات المسيئة

طورت شركة ياهو ذكاء اصطناعيا جديدا يمكنه الكشف بشكل صحيح عما يصل إلى 90 فى المئة من التعليقات المسيئة على الإنترنت، مما يجعله يتفوق على الخوارزميات الأخرى التى تعتمد على الذكاء الاصطناعى، ووفقا لتقرير صادر عن مطورين الخوارزمية، فعلى الرغم أن الكشف التلقائى عن لغة الإنترنت المسيئة هو موضوع مهم، لكن معايير كشف الإساءة لم تكن موحدة، وبالتالى تسبب هذا الأمر فى عدم نجاحه بشكل كبير.

ذكاء ياهو الاصطناعى

ووفقا للموقع الأمريكى Mashable تستخدم خوارزمية ذكاء ياهو الاصطناعى مزيجا من التعلم وتقنيات الكشف عن التعليقات المسيئة من خلال مسح التعليقات من أخبار ياهو، وهو ما يعد تقدما هائلا، إذ تعتمد معظم أنظمة الكشف عن اللغة المسيئة على الكلمات المفتاحية Keywords ، لذا فالمشكلة تحدث عند تجنب المتحرشين بعض الكلمات أو استخدام مصطلحات جديدة لا يمكن للنظام اكتشافها، بالإضافة إلى ذلك، فإن هذه النظم سيئة فى قراءة الكلمات الخارجة عن السياق أو السخرية.

ومن ناحية أخرى قررت ياهو تتبع طول ردود التعليقات والكلمات، وعدد علامات ترقيم، وعناوين المواقع وحجم الحروف، جنبا إلى جنب تتبع استخدام كلمات مثل "يمكن"، "سوف" أو "يجب"، بالإضافة إلى القائمة السوداء لعبارات الإهانة والكراهية.

وتفوقت ياهو بهذه الخوارزمية عن نظامها القديم بنحو 10 فى المئة، إذ تعلم النظام الذكى من موظفين ياهو المدربين تدريبا خاصا على رصد التعليقات وتقييمها.

موضوعات متعلقة:

مارك زوكربيرج يكشف تطوير ذكاء اصطناعى يعد له "الإفطار" يوميا

"كريم".. برنامج ذكاء اصطناعى جديد لتقديم الدعم النفسى للاجئين السوريين