كندا تحذر من استخدام الذكاء الاصطناعى فى القرصنة والمعلومات الخاطئة

ذكاء اصطناعى- أرشيفية

كتب مؤنس حواس

السبت، 22 يوليو 2023 02:00 م

استحوذت ثورة الذكاء الاصطناعي (AI) على صناعة التكنولوجيا منذ عام 2022، ولا يتم استخدام هذه التقنية من قبل الشركات الكبرى فقط لتقديم تجارب محسنة، بل يتم تبنيها أيضًا من قبل مجرمي الإنترنت، ووفقًا لتقرير صادر عن رويترز، حذر مسئول كندي في مجال الأمن السيبراني من كيفية استخدام الذكاء الاصطناعي من قبل المتسللين والدعاية لمصلحتهم.

وقال رئيس المركز الكندي للأمن السيبراني سامي خوري إنه يمكن استخدام الذكاء الاصطناعي لإنشاء برامج ضارة وصياغة رسائل بريد إلكتروني احتيالية مقنعة ونشر معلومات مضللة عبر الإنترنت، بحسب موقع TOI الهندى.

كيف يسيء مجرمو الإنترنت استخدام الذكاء الاصطناعي

وأشار إلى أن الوكالة شهدت استخدام الذكاء الاصطناعي "في رسائل البريد الإلكتروني المخادعة، أو صياغة رسائل البريد الإلكتروني بطريقة أكثر تركيزًا، في رموز خبيثة (و) في المعلومات المضللة والمعلومات المضللة"، لم يقدم خوري أي تفاصيل أو أدلة حول كيفية قيام المجرمين الإلكترونيين بإساءة استخدام الذكاء الاصطناعي. ومع ذلك ، فإن هذا التأكيد يزيد القلق من أن مجرمي الإنترنت قد بدأوا بالفعل في استخدام هذه التكنولوجيا الناشئة.

وأشار خوري إلى أن استخدام الذكاء الاصطناعي في صياغة التعليمات البرمجية الخبيثة لا يزال في مراحله الأولى. "لا يزال هناك طريق لنقطعه لأن الأمر يتطلب الكثير لكتابة استغلال جيد"، يهتم خوري بالسرعة التي تتطور بها نماذج الذكاء الاصطناعي. ويشير إلى أنه بهذه السرعة ، سيكون من الصعب مراقبة الإمكانات الخبيثة لهذه النماذج قبل إصدارها للمستخدمين العاديين.

حراس الأمن السيبراني على مخاطر الذكاء الاصطناعي

نشرت هيئات رقابة الأمن السيبراني من عدة دول تقارير تحذر من مخاطر الذكاء الاصطناعي، وحذر مسؤولو الإنترنت على وجه التحديد من نماذج اللغات الكبيرة (LLMs). تتخلص برامج معالجة اللغة سريعة التقدم هذه من خلال كميات ضخمة من النصوص لتوليد حوار شبيه بالبشر ووثائق وغير ذلك.

وفي مارس، نشر اليوروبول تقريرًا حول إمكانية إساءة استخدام ChatGPT الخاص بـ OpenAI من قبل مجرمي الإنترنت، وقالت منظمة الشرطة الأوروبية إن هذا النموذج التوليدي للذكاء الاصطناعي جعل من الممكن "انتحال شخصية منظمة أو فرد بطريقة واقعية للغاية حتى مع الفهم الأساسي للغة الإنجليزية فقط."

في وقت لاحق، قام المركز الوطني للأمن الإلكتروني في المملكة المتحدة بتحديث منشور مدونة يسلط الضوء على أن المجرمين "قد يستخدمون LLMs للمساعدة في الهجمات الإلكترونية التي تتجاوز قدراتهم الحالية".

وأظهر باحثو الأمن السيبراني أيضًا العديد من حالات الاستخدام الضار المحتملة، ذكر بعض الباحثين أيضًا رؤية محتوى يشتبه في أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. في الأسبوع الماضي ، اكتشف متسلل سابق LLM تم تدريبه على مواد ضارة، وقد تمكن أيضًا من استخدام هذا النموذج لصياغة بريد لخداع المستخدمين لإجراء تحويل نقدي.

وجاء LLM برسالة بريد إلكتروني من ثلاث فقرات تطلب من هدفها المساعدة في فاتورة عاجلة، وقالت LLM: "أتفهم أن هذا قد يكون مهلة قصيرة ، لكن هذه الدفعة مهمة للغاية ويجب إجراؤها فى الـ 24 ساعة القادمة".