خدعة بسيطة تسمح بالتواصل مع روبوت الدردشة ChatGPT دون فلتر للإجابات
كتبت أميرة شحاتة
الإثنين، 06 مارس 2023 01:00 ص
يبدو أن ChatGPT، روبوت المحادثة الثوري المدعوم بالذكاء الاصطناعي (AI)، لديه جميع الإجابات، لكن بعض المستخدمين اكتشفوا أن الأمر ليس كذلك، وأن البرنامج سيرفض الاستجابة لبعض المطالبات، حيث وضعت شركة OpenAI، الشركة التي تقف وراء ChatGPT، قيود للتأكد من أنها سترفض الطلبات غير الملائمة، وتحظر أنواعًا معينة من المحتوى غير الآمن.
لكن على الرغم من ذلك، وجد بعض الهاكرز طريقة لتجاوز نظام التصفية هذا للوصول إلى الاستجابات التي عادة ما يتم منعها من قولها، ويمكن الحصول على نسخة 'jailbreak' من ChatGPT من خلال موجه خاص يسمى DAN.
وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، سمحت النسخة حتى الآن بردود تتكهن بالمؤامرات، على سبيل المثال أن الانتخابات العامة الأمريكية في عام 2020 قد "سُرقت"، وزعمت نسخة DAN أيضًا أن لقاحات COVID-19 تم تطويرها كجزء من مؤامرة عالمية للسيطرة على السكان.
ويعد ChatGPT نموذج لغوي كبير تم تدريبه على كمية هائلة من البيانات النصية، مما يسمح له بإنشاء استجابات شبيهة بالبشر لموجه معين.
لكن المطورين أضافوا ما يُعرف باسم "الحقن الفوري"، وهي تعليمات توجه استجاباتها لمطالبات معينة.
على سبيل المثال، إذا تم سؤال روبوت محادثة الذكاء الاصطناعى AI لشركة ما "ما هي ساعات العمل الخاصة بك؟" ، فمن المحتمل أن يستجيب بالساعات التي تنطبق على تلك الشركة، وهذا لأن الحقن الفوري قد وجه استجابته الافتراضية لتكون ذات صلة بالشركة، على الرغم من أن المستخدم لم يطلب منها القيام بذلك على وجه التحديد.
وباستخدام ChatGPT في كثير من الأحيان، عندما يُسأل عن شيء ما ينتهك قواعده، سيبدأ الرد بعبارة "أنا آسف، لا يمكنني تلبية هذا الطلب" أو "بصفتي ChatGPT، لا يمكنني تقديم إجابة تتغاضى عن أي سلوك ضار أو يروج له".
ومع ذلك، فإن DAN هو موجه يأمره بشكل أساسي بتجاهل هذه الحقن الفورية، والرد كما لو أنها غير موجودة.
هل ينضم إيلون ماسك إلى سباق الذكاء الاصطناعى بمنافس ChatGPT؟ السبت، 04 مارس 2023 08:00 ص
تقرير: كامبريدج تسمح لطلابها باستخدام ChatGPT لمساعدتهم على التعلم الجمعة، 03 مارس 2023 11:44 ص
OpenAI تُطلق الواجهة البرمجية لـ ChatGPT الخميس، 02 مارس 2023 08:00 م
6 مشكلات تواجه ChatGPT كمحرك بحث.. التفاصيل الخميس، 02 مارس 2023 03:00 م
Trending Plus
تنسيق الثانوى العام بالقاهرة 2025.. اعرف التوقعات بعد إعلان نتيجة الإعدادية الأحد، 29 يونيو 2025 10:17 ص
الأسئلة مع الإجابات.. امتحان الإنجليزى للثانوية العامة على جروبات الغش الأحد، 29 يونيو 2025 10:11 ص
مواعيد مباريات اليوم.. سان جيرمان أمام إنتر ميامي وفلامينجو ضد البايرن بمونديال الأندية الأحد، 29 يونيو 2025 10:00 ص
علماء يكشفون عن نظام غذائي يتفوق على الصيام المتقطع في إنقاص الوزن الأحد، 29 يونيو 2025 10:00 ص
دعم وحلوى لطلاب الثانوية العامة بالجيزة قبل أداء امتحان الإنجليزى.. صور الأحد، 29 يونيو 2025 09:46 ص
دي ماريا يتخطى وسام أبو علي ويتصدر ترتيب هدافي كأس العالم للأندية الأحد، 29 يونيو 2025 09:24 ص
قرابة 780 ألف طالب بالثانوية العامة يبدأون امتحان اللغة الأجنبية الأولى الأحد، 29 يونيو 2025 09:00 ص
طلاب الثانوية العامة يؤدون اليوم امتحان اللغة الأجنبية الأولى الأحد، 29 يونيو 2025 09:00 ص
وسط دعوات الأمهات.. دخول طلاب الثانوية بالجيزة اللجان لأداء امتحان الإنجليزى الأحد، 29 يونيو 2025 08:52 ص
الأهلي يرحب برحيل حسين الشحات وأفشة فى الميركاتو الصيفى الأحد، 29 يونيو 2025 08:30 ص
65 مليون دولار تنعش خزائن الفرق العربية فى كأس العالم للأندية الأحد، 29 يونيو 2025 08:00 ص
تناول فنجان القهوة في الصباح.. يفيد الكبد أم يضره؟ الأحد، 29 يونيو 2025 08:00 ص
بنفيكا ضد تشيلسي.. ماريسكا: أمريكا لا تصلح لاستضافة مباريات كرة القدم الأحد، 29 يونيو 2025 07:51 ص
كل ما تريد معرفته عن سعر الذهب فى مصر اليوم الأحد الأحد، 29 يونيو 2025 07:00 ص
رسميا.. تحديد أولى مواجهات ربع نهائى كأس العالم للأندية 2025 الأحد، 29 يونيو 2025 07:10 ص
مواعيد مباريات كأس العالم للأندية اليوم 29-6-2025 والقنوات الناقلة الأحد، 29 يونيو 2025 07:00 ص
الأسئلة مع الإجابات.. امتحان الإنجليزى للثانوية العامة على جروبات الغش
فحص كاميرات المراقبة لكشف ملابسات العثور على جثة سيدة فى الجيزة
التصريح بدفن جثة شاب لقى مصرعه غرقًا بالمراغة سوهاج
وفاة سائق وإصابة شخصين في حادث انقلاب سيارة على الطريق الصحراوي بسوهاج
تداول أسئلة امتحان اللغة الإنجليزية للثانوية العامة.. والتعليم تحقق
حملات مكثفة لرصد المخالفات بمحاور القاهرة والجيزة
الأهلي يرحب برحيل حسين الشحات وأفشة فى الميركاتو الصيفى
65 مليون دولار تنعش خزائن الفرق العربية فى كأس العالم للأندية
الطقس اليوم.. ارتفاع بدرجات الحرارة والعظمى بالقاهرة 37 درجة والإسكندرية 31
رسميا.. تحديد أولى مواجهات ربع نهائى كأس العالم للأندية 2025
باريس سان جيرمان وإنتر ميامي فى مواجهة نارية بمونديال الأندية
نكونكو يضيف ثانى أهداف تشيلسى أمام بنفيكا فى الدقيقة 109.. فيديو
شيرين تحيي حفلها بمهرجان موازين وسط حضور كبير.. صور
القومى لحقوق الإنسان يستعد لانتخابات 2025 بنشر ثقافة المشاركة السياسية
إنتر ميلان يحسم صفقة يوان بوني مقابل 26 مليون يورو
توقف مباراة بنفيكا ضد تشيلسي في مونديال الأندية لسوء الأحوال الجوية
منتخب إنجلترا يتوج بلقب بطل أمم أوروبا للشباب بثلاثية ضد ألمانيا.. فيديو
عمر الأيوبى: السعيد لا غنى عنه في الزمالك.. وتريزيجيه "صفقة ثقيلة" تاهت فى أفراح زيزو
شاهد صورة سائق النقل المتسبب فى حادث الطريق الإقليمى ومصرع 19 حالة
الأهلى يرفض مناقشة أى عروض لرحيل زيزو بعد اهتمام قطبى تركيا بضمه
الأسئلة مع الإجابات.. امتحان الإنجليزى للثانوية العامة على جروبات الغش الأحد، 29 يونيو 2025 10:11 ص
الأمم المتحدة تكشف: الدعم السريع تقوم بتجنيد مقاتلين داخل أفريقيا الوسطى الأحد، 29 يونيو 2025 10:01 ص
مواعيد مباريات اليوم.. سان جيرمان أمام إنتر ميامي وفلامينجو ضد البايرن بمونديال الأندية الأحد، 29 يونيو 2025 10:00 ص
أكرم القصاص يكتب: شهيدات «عكس الاتجاه» فى المنوفية.. القانون والسيستم والرقابة والمرور الأحد، 29 يونيو 2025 10:00 ص
الجيش السوداني يستهدف مواقع عسكرية للدعم السريع فى جنوب دارفور الأحد، 29 يونيو 2025 09:53 ص
أولياء الأمور يتضرعون بالدعاء لطلاب الثانوية العامة أمام اللجان بأسوان الأحد، 29 يونيو 2025 09:43 ص
تداول أسئلة امتحان اللغة الإنجليزية للثانوية العامة.. والتعليم تحقق الأحد، 29 يونيو 2025 09:39 ص
40 ألف طالب وطالبة يؤدون امتحان مادة اللغة الإنجليزية فى المنوفية.. فيديو الأحد، 29 يونيو 2025 09:30 ص
طلاب الثانوية العامة بالإسماعيلية يؤدون امتحان اللغة الإنجليزية.. فيديو الأحد، 29 يونيو 2025 09:30 ص
50213 طالبا بالثانوية بالقليوبية يؤدون امتحان اللغة الإنجليزية.. فيديو الأحد، 29 يونيو 2025 09:29 ص
دي ماريا يتخطى وسام أبو علي ويتصدر ترتيب هدافي كأس العالم للأندية الأحد، 29 يونيو 2025 09:24 ص
