تقرير: متسللون استخدموا ChatGPT والذكاء الاصطناعي فى أنشطة غير قانونية

ChatGPT - أرشيفية

كتبت هبة السيد

السبت، 03 فبراير 2024 03:00 م

بينما تتطلع شركات التكنولوجيا إلى دمج تكنولوجيا الذكاء الاصطناعي في سير العمل، يتطلع المتسللون أيضًا إلى استكشاف طرق لدمج روبوتات الدردشة المدعمة بالذكاء الاصطناعي في الأنشطة غير القانونية، حسبما ذكر تقرير استنادًا إلى منشورات على الويب المظلم.

وفقًا لخدمة Digital Footprint Intelligence من Kaspersky، كان هناك ما يقرب من 3000 منشور على شبكة الإنترنت المظلمة تناقش بشكل أساسي استخدام ChatGPT وغيره من برامج LLM للمخططات - بدءًا من إنشاء بدائل شائنة لروبوت الدردشة وحتى كسر حماية النسخة الأصلية وما بعدها.

وأضافت الدراسة التي أجراها مركز الأمن السيبراني الروسي: "إن حسابات وخدمات ChatGPT المسروقة التي تقدم إنشاءها الآلي بشكل جماعي تغمر أيضًا قنوات الويب المظلمة، لتصل إلى 3000 مشاركة أخرى".

وفي عام 2023، اكتشفت خدمة كاسبرسكي ما يقرب من 3000 منشور على الويب المظلم، وقالت إن الثرثرة بلغت ذروتها في مارس.

وقالت أليسا كوليشينكو، محللة البصمة الرقمية في مركز الأبحاث،"تقوم الجهات الفاعلة في مجال التهديد باستكشاف مخططات مختلفة لتنفيذ "ChatGPT وAI"

وقالت إن المواضيع تتضمن في كثير من الأحيان تطوير البرمجيات الخبيثة وأنواع أخرى من الاستخدام غير المشروع لنماذج اللغة، مثل معالجة بيانات المستخدم المسروقة، وتحليل الملفات من الأجهزة المصابة، وما هو أبعد من ذلك.

بدائل ChatGPT

وقال التقرير إن شعبية أدوات الذكاء الاصطناعي أدت إلى دمج الاستجابات الآلية من ChatGPT أو ما يعادلها في بعض منتديات الجرائم الإلكترونية، وأضاف أن المتسللين غالبًا ما يشاركون عمليات كسر الحماية من خلال قنوات الويب المظلمة المختلفة و"يبتكرون طرقًا لاستغلال الأدوات المشروعة، مثل أدوات الاختراق، بناءً على نماذج لأغراض ضارة".

ويولي المتسللون أيضًا اهتمامًا كبيرًا بمشاريع مثل XXXGPT وFraudGPT وغيرها، والتي يتم تسويقها على الويب المظلم كبدائل لـ ChatGPT يقال إن هذه البدائل توفر وظائف إضافية وليس لها قيود تقيد روبوتات الدردشة الشرعية.

حسابات ChatGPT المسروقة معروضة للبيع

التهديد الآخر للمستخدمين والشركات هو سوق الحسابات الخاصة بالنسخة المدفوعة من ChatGPT ، كانت هناك ذاكرة تخزين مؤقت أخرى تضم 3000 منشور تعلن عن حسابات ChatGPT للبيع عبر الويب المظلم وقنوات الظل تليجرم، تقوم هذه المنشورات إما بتوزيع حسابات مسروقة أو الترويج لخدمات التسجيل التلقائي وإنشاء حسابات عند الطلب.

"إن الطبيعة الآلية للهجمات الإلكترونية غالبًا ما تعني دفاعات آلية، ومع ذلك فإن البقاء على اطلاع بأنشطة المهاجمين أمر بالغ الأهمية للتفوق على الخصوم فيما يتعلق بالأمن السيبراني للشركات.

وقال كوليشينكو إنه على الرغم من أن أدوات الذكاء الاصطناعي ليست خطيرة بطبيعتها، إلا أن مجرمي الإنترنت يحاولون التوصل إلى طرق فعالة لاستخدامها لزيادة عدد الهجمات الإلكترونية، وأضاف المتحدث أنه من غير المرجح أن يحدث الذكاء الاصطناعي وروبوتات الدردشة ثورة في مشهد الهجوم في عام 2024.