مرصد الأزهر: الذكاء الاصطناعى أداة واعدة فى مواجهة خطاب الكراهية

أكد مرصد الأزهر لمكافحة التطرف في تقرير، أن «خطاب الكراهية» يمثل المحرك الرئيس للكثير من أعمال العداء والعنف والتمييز التي شهدها العالم خلال السنوات الأخيرة، خاصة مع الانتشار الواسع لمواقع التواصل الاجتماعي التي أصبحت بيئة خصبة لترويج الأفكار المتشددة والمتطرفة.

وأشار المرصد، إلى أن الثورة التكنولوجية ضاعفت من خطورة هذه الظاهرة، بعدما تحوَّلت منصات التواصل إلى وعاء واسع لنشر الأفكار المتشددة على نطاق غير مسبوق، حتى أصبح خطاب الكراهية ينتقل بسرعة هائلة ويؤثر سلبًا في الأفراد والمجتمعات. ومن هنا برزت الحاجة إلى أدوات تقنية متطورة قادرة على رصد هذا الخطاب والحد من آثاره المدمرة.

وأوضح المرصد، أن الذكاء الاصطناعي يمثّل أحد أبرز الحلول التكنولوجية في هذا المجال، بفضل قدراته على تحليل البيانات وتصنيف المحتوى والتعلم المستمر، مما يتيح الكشف المبكر عن خطاب الكراهية ورصده بدقة وسرعة عالية.

ورغم أنه لا يشكّل حلًا سحريًّا أو بديلًا عن الدور البشري، فإنه يُعد أداة فاعلة إذا ما وُظِّف ضمن إطار قانوني وأخلاقي واضح، وبالتكامل مع جهود الحكومات والمجتمع المدني وشركات التكنولوجيا.

كما شدد المرصد على أن الذكاء الاصطناعي يسهم في تعزيز بيئة رقمية أكثر أمنًا وشمولًا، من خلال حماية الفئات المستضعفة كالأقليات والنساء والمهاجرين من الاستهداف بخطاب الكراهية، فضلًا عن دعمه لصنّاع القرار عبر توفير بيانات دقيقة حول أنماط هذا الخطاب وانتشاره، بما يتيح وضع استراتيجيات وقائية وتشريعية أكثر فعالية.

وفي هذا السياق، لفت مرصد الأزهر إلى أن تقنيات الذكاء الاصطناعي القائمة على التعلم العميق باتت قادرة على مراقبة المحتوى الرقمي وفهمه وتحليله لحظيًّا، ما يسمح بتدخل سريع لإزالة أو حجب المواد المسيئة. إلا أن فعالية هذه الأنظمة تبقى مرهونة بوجود توازن دقيق بين الكفاءة التقنية من جهة، والحفاظ على الحريات الأساسية واحترام التنوع الثقافي من جهة أخرى.

وحذّر من التحديات المرتبطة باستخدام هذه التكنولوجيا، وعلى رأسها صعوبة التمييز بين حرية التعبير المشروعة وخطاب الكراهية المحظور، واحتمالية تحيز البيانات والنماذج، إضافة إلى صعوبة فهم الفروقات الثقافية واللغوية، والتعامل مع تنوع الوسائط من نصوص وصور ومقاطع فيديو ورموز. كما أشار إلى التطور المستمر في أساليب نشر خطاب الكراهية، يستوجب تحديث النماذج والخوارزميات بشكل دائم، إلى جانب وضع ضوابط قانونية صارمة لحماية الخصوصية ومنع إساءة استخدام البيانات، خاصة في بعض السياقات السياسية التي قد تستغل الذكاء الاصطناعي كأداة لقمع الأصوات المعارضة.

واختتم مرصد الأزهر لمكافحة التطرف تقريره بالتأكيد أن توظيف الذكاء الاصطناعي في رصد خطاب الكراهية لم يعد خيارًا تكنولوجيًّا، بل ضرورة أخلاقية ومجتمعية لحماية الفضاء الرقمي من المحتوى الضار، وتعزيز قيم العدالة والتسامح والتعايش مؤكدًا  أن نجاح هذه الجهود يتطلب تكامل القدرات التقنية مع الأطر القانونية والرقابة الإنسانية، بما يضمن الاستخدام العادل والمسؤول للذكاء الاصطناعي دون المساس بحرية التعبير أو انتهاك الخصوصية.