خدعة بسيطة تسمح بالتواصل مع روبوت الدردشة ChatGPT دون فلتر للإجابات
كتبت أميرة شحاتة
الإثنين، 06 مارس 2023 01:00 ص
يبدو أن ChatGPT، روبوت المحادثة الثوري المدعوم بالذكاء الاصطناعي (AI)، لديه جميع الإجابات، لكن بعض المستخدمين اكتشفوا أن الأمر ليس كذلك، وأن البرنامج سيرفض الاستجابة لبعض المطالبات، حيث وضعت شركة OpenAI، الشركة التي تقف وراء ChatGPT، قيود للتأكد من أنها سترفض الطلبات غير الملائمة، وتحظر أنواعًا معينة من المحتوى غير الآمن.
لكن على الرغم من ذلك، وجد بعض الهاكرز طريقة لتجاوز نظام التصفية هذا للوصول إلى الاستجابات التي عادة ما يتم منعها من قولها، ويمكن الحصول على نسخة 'jailbreak' من ChatGPT من خلال موجه خاص يسمى DAN.
وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، سمحت النسخة حتى الآن بردود تتكهن بالمؤامرات، على سبيل المثال أن الانتخابات العامة الأمريكية في عام 2020 قد "سُرقت"، وزعمت نسخة DAN أيضًا أن لقاحات COVID-19 تم تطويرها كجزء من مؤامرة عالمية للسيطرة على السكان.
ويعد ChatGPT نموذج لغوي كبير تم تدريبه على كمية هائلة من البيانات النصية، مما يسمح له بإنشاء استجابات شبيهة بالبشر لموجه معين.
لكن المطورين أضافوا ما يُعرف باسم "الحقن الفوري"، وهي تعليمات توجه استجاباتها لمطالبات معينة.
على سبيل المثال، إذا تم سؤال روبوت محادثة الذكاء الاصطناعى AI لشركة ما "ما هي ساعات العمل الخاصة بك؟" ، فمن المحتمل أن يستجيب بالساعات التي تنطبق على تلك الشركة، وهذا لأن الحقن الفوري قد وجه استجابته الافتراضية لتكون ذات صلة بالشركة، على الرغم من أن المستخدم لم يطلب منها القيام بذلك على وجه التحديد.
وباستخدام ChatGPT في كثير من الأحيان، عندما يُسأل عن شيء ما ينتهك قواعده، سيبدأ الرد بعبارة "أنا آسف، لا يمكنني تلبية هذا الطلب" أو "بصفتي ChatGPT، لا يمكنني تقديم إجابة تتغاضى عن أي سلوك ضار أو يروج له".
ومع ذلك، فإن DAN هو موجه يأمره بشكل أساسي بتجاهل هذه الحقن الفورية، والرد كما لو أنها غير موجودة.
هل ينضم إيلون ماسك إلى سباق الذكاء الاصطناعى بمنافس ChatGPT؟ السبت، 04 مارس 2023 08:00 ص
تقرير: كامبريدج تسمح لطلابها باستخدام ChatGPT لمساعدتهم على التعلم الجمعة، 03 مارس 2023 11:44 ص
OpenAI تُطلق الواجهة البرمجية لـ ChatGPT الخميس، 02 مارس 2023 08:00 م
6 مشكلات تواجه ChatGPT كمحرك بحث.. التفاصيل الخميس، 02 مارس 2023 03:00 م
Trending Plus
الرئيس السيسي يوجه بدراسة إمكانية إدراج الذكاء الاصطناعى كمادة إلزامية الأربعاء، 14 مايو 2025 02:22 م
حسام البدرى لـ"اليوم السابع": نتوجه إلى مصراته وفي طريقنا للعودة إلى مصر الأربعاء، 14 مايو 2025 01:44 م
وزارة الرياضة لليوم السابع: التنسيق مع الخارجية وسفارة مصر بليبيا لعودة الرياضيين الأربعاء، 14 مايو 2025 01:35 م
يسرا تتألق في مهرجان كان السينمائي.. صور جديدة من السجادة الحمراء الأربعاء، 14 مايو 2025 01:16 م
ميرسك العالمية: حريصون على العودة للإبحار من قناة السويس مرة أخرى الأربعاء، 14 مايو 2025 12:18 م
مصر تدعو المواطنين المتواجدين فى ليبيا بتوخى أقصى درجات الحيطة الأربعاء، 14 مايو 2025 11:40 ص
ترامب يدعو الشرع إلى الانضمام لاتفاقيات إبراهيم مع إسرائيل الأربعاء، 14 مايو 2025 12:36 م
فرص عمل للأطباء فى السعودية براتب يصل إلى 13 ألف ريال شهريا الأربعاء، 14 مايو 2025 11:04 ص
تفاصيل زلزال "نص الليل".. سكان القاهرة والمحافظات يشعرون بهزة أرضية بقوة 6.4 ريختر.. البحوث الفلكية: قوى نسبيًا.. واستغرق أقل من 20 ثانية.. ورصدنا هزتين ارتداديتين.. والهلال الأحمر: لم ترد بلاغات بوقوع أضرار الأربعاء، 14 مايو 2025 06:37 ص
وزارة التعليم: امتحانات الثانوية العامة ستكون منضبطة ومؤمنة.. وتحذر الطلاب من محاولات الغش: الرسوب مصير من يغش أو يخل بأعمال الامتحانات.. وتشدد: تفتيش الطلاب قبل دخول اللجان لمنع اصطحاب أى وسيلة غش الأربعاء، 14 مايو 2025 08:00 ص
رابط الاستعلام عن رقم جلوس امتحانات الدبلومات الفنية 2025 الأربعاء، 14 مايو 2025 02:30 ص
تفاصيل ميلاد هلال ذو الحجة وموعد إجازة وقفة عرفات وعيد الأضحى 2025 الأربعاء، 14 مايو 2025 05:00 ص
خوسيه موخيكا.. وفاة أفقر رئيس فى العالم عن عمر 89 عاما الأربعاء، 14 مايو 2025 08:05 ص
الطقس اليوم الأربعاء 14-5-2025.. أجواء حارة نهارا والعظمى بالقاهرة 31 درجة الأربعاء، 14 مايو 2025 08:00 ص
قانون العمل الجديد.. باب كامل لتنظيم التدريب وربط التعليم بسوق العمل الأربعاء، 14 مايو 2025 06:00 ص
الرئيس السيسى يوجه بسرعة الانتهاء من المرحلة الثانية للتأمين الصحى الشامل
دفاع الفنان محمد غنيم: إنهاء إجراءات إعادة المحاكمة وحبس موكلى لحين تحديد جلسة
حسام البدرى لـ"اليوم السابع": نتوجه إلى مصراته وفي طريقنا للعودة إلى مصر
استعدادًا لموسم الحج.. رفع كسوة الكعبة "صور"
مواعيد مباريات الأهلي القادمة في مرحلة حسم الدوري
بن سلمان وترامب والشرع يعقدون لقاءً حول مستقبل الأوضاع في سوريا
وزير الخارجية العراقى: قمة بغداد ستدعم نتائج قمة القاهرة الطارئة بشأن فلسطين
الإدارية العليا تلغى حكم أول درجة بشأن تابلت طلاب الثانوية: عهده ويجب إعادته
الرئيس السيسى يؤكد أولوية تطوير منظومة التعليم والاهتمام بالمعلمين
أزمة مباراة القمة.. الزمالك يترقب قبل التصعيد للمحكمة الرياضية
بيراميدز يكشف حقيقة الحصول على توقيع رامى ربيعة
سلطنة عمان: لا يمكن تحقيق السلام الدائم دون إقامة دولة فلسطينية مستقلة
فنربخشة يضع عمر فايد على قائمة الراحلين بعد ارتباط اسمه بـ الأهلى
الصين تعتزم تعديل الرسوم الجمركية على المنتجات الأمريكية المستوردة
بطاقة التأهل الثالثة.. 3 لقاءات تحسم منافسة أبو قير وكهربا الإسماعيلية
معهد الفلك: لا يمكن التنبؤ بالزلازل.. والأوضاع فى مصر مستقرة
الرمادى يبحث عن وديات للزمالك استعدادا لمواجهة بتروجت
زلزال جديد.. الشبكة القومية ترصد أول هزة ارتدادية بقوة 2.69 ريختر
زلزال اليوم.. هزة أرضية تضرب القاهرة وعددا من المحافظات.. البحوث الفلكية: قوته 6.4 ريختر على بعد 631 كم شمال رشيد.. ورئيس المعهد: عمق الزلزال كان كبيرًا.. ويطمئن المواطنين: نتابع تداعيات الهزة الأرضية بشكل دقيق
عودة الاشتباكات المسلحة بين الميليشيات فى العاصمة الليبية طرابلس
أمير قطر يستقبل الرئيس الأمريكى ترامب فى مستهل زيارته للدوحة الأربعاء، 14 مايو 2025 02:32 م
بدء اجتماع الحكومة الأسبوعى الأربعاء، 14 مايو 2025 02:24 م
الرئيس السيسى يؤكد أولوية تطوير المنظومة التعليمية والاهتمام بالمعلم.. إنفوجراف الأربعاء، 14 مايو 2025 01:55 م
وزارة الدفاع الليبية تعلن بدء تنفيذ وقف إطلاق النار فى طرابلس الأربعاء، 14 مايو 2025 01:29 م
قائمة الأفضل في الدوري المصري.. إمام عاشور يتصدر وزيزو الغائب الحاضر الأربعاء، 14 مايو 2025 01:21 م
الجيش السودانى يحرز تقدما كبيرا فى منطقة صالحة بجنوب أم درمان الأربعاء، 14 مايو 2025 01:13 م
هام لطلاب الشهادة الإعدادية.. أقوى المراجعات على تليفزيون اليوم السابع الأربعاء، 14 مايو 2025 01:09 م
مصر ضمن قائمة أعلى 10 دول أفريقية فى نمو نصيب الفرد من الناتج المحلى الأربعاء، 14 مايو 2025 12:38 م
الرئيس السيسى يستعرض دعم وبناء قدرات ومهارات المعلمين الأربعاء، 14 مايو 2025 12:28 م
ميرسك العالمية: حريصون على العودة للإبحار من قناة السويس مرة أخرى الأربعاء، 14 مايو 2025 12:18 م
أسعار الخضار والفاكهة اليوم الأربعاء 14-5-2025 بمنافذ وزارة التموين الأربعاء، 14 مايو 2025 12:00 م
