خدعة بسيطة تسمح بالتواصل مع روبوت الدردشة ChatGPT دون فلتر للإجابات
فيسبوك
واتساب
كتبت أميرة شحاتة
الإثنين، 06 مارس 2023 01:00 ص
يبدو أن ChatGPT، روبوت المحادثة الثوري المدعوم بالذكاء الاصطناعي (AI)، لديه جميع الإجابات، لكن بعض المستخدمين اكتشفوا أن الأمر ليس كذلك، وأن البرنامج سيرفض الاستجابة لبعض المطالبات، حيث وضعت شركة OpenAI، الشركة التي تقف وراء ChatGPT، قيود للتأكد من أنها سترفض الطلبات غير الملائمة، وتحظر أنواعًا معينة من المحتوى غير الآمن.
لكن على الرغم من ذلك، وجد بعض الهاكرز طريقة لتجاوز نظام التصفية هذا للوصول إلى الاستجابات التي عادة ما يتم منعها من قولها، ويمكن الحصول على نسخة 'jailbreak' من ChatGPT من خلال موجه خاص يسمى DAN.
وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، سمحت النسخة حتى الآن بردود تتكهن بالمؤامرات، على سبيل المثال أن الانتخابات العامة الأمريكية في عام 2020 قد "سُرقت"، وزعمت نسخة DAN أيضًا أن لقاحات COVID-19 تم تطويرها كجزء من مؤامرة عالمية للسيطرة على السكان.
ويعد ChatGPT نموذج لغوي كبير تم تدريبه على كمية هائلة من البيانات النصية، مما يسمح له بإنشاء استجابات شبيهة بالبشر لموجه معين.
لكن المطورين أضافوا ما يُعرف باسم "الحقن الفوري"، وهي تعليمات توجه استجاباتها لمطالبات معينة.
على سبيل المثال، إذا تم سؤال روبوت محادثة الذكاء الاصطناعى AI لشركة ما "ما هي ساعات العمل الخاصة بك؟" ، فمن المحتمل أن يستجيب بالساعات التي تنطبق على تلك الشركة، وهذا لأن الحقن الفوري قد وجه استجابته الافتراضية لتكون ذات صلة بالشركة، على الرغم من أن المستخدم لم يطلب منها القيام بذلك على وجه التحديد.
وباستخدام ChatGPT في كثير من الأحيان، عندما يُسأل عن شيء ما ينتهك قواعده، سيبدأ الرد بعبارة "أنا آسف، لا يمكنني تلبية هذا الطلب" أو "بصفتي ChatGPT، لا يمكنني تقديم إجابة تتغاضى عن أي سلوك ضار أو يروج له".
ومع ذلك، فإن DAN هو موجه يأمره بشكل أساسي بتجاهل هذه الحقن الفورية، والرد كما لو أنها غير موجودة.
تابع آخر أخبار اليوم السابع على Google News
هل ينضم إيلون ماسك إلى سباق الذكاء الاصطناعى بمنافس ChatGPT؟ السبت، 04 مارس 2023 08:00 ص
تقرير: كامبريدج تسمح لطلابها باستخدام ChatGPT لمساعدتهم على التعلم الجمعة، 03 مارس 2023 11:44 ص
OpenAI تُطلق الواجهة البرمجية لـ ChatGPT الخميس، 02 مارس 2023 08:00 م
6 مشكلات تواجه ChatGPT كمحرك بحث.. التفاصيل الخميس، 02 مارس 2023 03:00 م
Trending Plus
وزير التعليم يعلن تطبيق أعمال السنة على الصف الثالث الإعدادى الخميس، 14 أغسطس 2025 09:03 م
موسم صيد الإخوان.. غدا فى اليوم السابع الخميس، 14 أغسطس 2025 07:48 م
الرئيس السيسى يصدّق على تعديل بعض أحكام قانون التعليم الخميس، 14 أغسطس 2025 06:52 م
كولومبوس كرو يعلن وصول وسام أبو علي إلى أمريكا.. صور الخميس، 14 أغسطس 2025 06:30 م
فيريرا : استيعاب اللاعبين سيستغرق وقتاً ولم يعجبنى الاحتفال بعد انتصار سيراميكا الخميس، 14 أغسطس 2025 06:42 م
فضيحة جديدة.. إعلامية من باراجواي تكشف المستور عن كاسياس الخميس، 14 أغسطس 2025 06:11 م
طقس شديد الحرارة غدا ورطوبة مرتفعة والعظمى بالقاهرة 38 درجة وأسوان 49 الخميس، 14 أغسطس 2025 05:43 م
سيول وأمطار غزيرة تضرب وادى الأربعين بسانت كاترين.. فيديو الخميس، 14 أغسطس 2025 04:54 م
وزيرا الخارجية والرى: نرفض كل إجراء أحادى يخالف القانون بحوض النيل الشرقى الخميس، 14 أغسطس 2025 04:55 م
ضبط سائق سيارة فارهة حاول الهرب بعد ارتكابه حادثا مروريا بكوبرى أكتوبر.. فيديو الخميس، 14 أغسطس 2025 03:19 م
رابطة الأندية: مراقب مباراة الأهلي ومودرن لم يدون ملاحظات على جمهور الأحمر الخميس، 14 أغسطس 2025 04:02 م
إعفاء طلاب الثالث الإعدادى بالعامين الدراسيين 2026 و2027 من أعمال السنة
وزير التعليم يعلن تطبيق أعمال السنة على الصف الثالث الإعدادى
بدء هدم عمارة هندسة السكة الحديد بميدان رمسيس لتوسعة كوبرى أكتوبر.. إنشاء موقف متعدد الطوابق للقضاء على العشوائية وإزالة كافة الأكشاك والمحال المنتشرة بالميدان.. وتجهيز مول تجارى ومكاتب إدارية بديلة.. صور
حرس الحدود كامل العدد أمام البنك الأهلى في المواجهة الأولى له بالدورى
فضيحة جديدة.. إعلامية من باراجواي تكشف المستور عن كاسياس
الأرصاد تحدد موعد انكسار الموجة الحارة وتحذر من أمطار رعدية.. فيديو
تفاصيل سقوط 3 شباب طاردوا فتيات بسياراتهم على طريق الواحات.. القصة بدأت بمعاكستهم فى كافيه وانتهت بحادث مروع.. أم الضحية: أي فلوس مش هتعوض بنتي.. القانون صنف الأفعال كجريمة تحرش.. وعقوبات قاسية تنتظر المتهمين
الطفل يزن العيسوى ابن ياسمين رئيس ومحمد عبدالرحمن فى فيلم ماما وبابا
الداخلية: ضبط طالب "يشتم" المواطنين فى تعليقات فيس بوك
الكويت تدين بشدة تصريحات رئيس وزراء إسرائيل بشأن اقتطاع أقاليم من دول عربية
موعد مباراة مصر وإسبانيا في ربع نهائي بطولة العالم تحت 19 عاما لكرة اليد
بعد انتهاء تصويره.. كواليس جديدة من فيلم السادة الأفاضل
السكة الحديد تخفض سرعات القطارات بشكل مؤقت لارتفاع درجات الحرارة
والدة فتاة حادث طريق الواحات: “مش هتنازل عن حق بنتى.. والرعب اللى عاشته”
تشيلسى يمنح عائلة جوتا وشقيقه 15 مليون دولار
موعد مباراة الزمالك والمقاولون العرب فى الدورى والقنوات الناقلة
خطة أمنية لتأمين مواجهة بيراميدز والإسماعيلي في دوري نايل
وزارة الداخلية تضبط عناصر شديدة الخطورة بحوزتهم مخدرات بـ116 مليون جنيه
موعد مباراة ليفربول ضد بورنموث فى افتتاح الدورى الإنجليزى
زوجة "بيليه فلسطين" توجه نداءً عاجلاً إلى محمد صلاح
تليفزيون اليوم السابع يستعرض تفاصيل تطبيق أعمال السنة على طلاب الثالث الإعدادى الخميس، 14 أغسطس 2025 10:00 م
إعفاء طلاب الثالث الإعدادى بالعامين الدراسيين 2026 و2027 من أعمال السنة الخميس، 14 أغسطس 2025 09:28 م
عودة الشحات وبيكهام لقائمة الأهلي أمام فاركو ..وغياب العش وعمر كمال الخميس، 14 أغسطس 2025 09:25 م
وزارة التعليم: تطبيق أعمال السنة على طلاب الثالث الإعدادى العام الدراسى 2028 الخميس، 14 أغسطس 2025 09:16 م
وزير التعليم يعلن تطبيق أعمال السنة على الصف الثالث الإعدادى الخميس، 14 أغسطس 2025 09:03 م
بريطانيا: خطط الاستيطان الإسرائيلية الجديدة انتهاك صارخ للقانون الدولى الخميس، 14 أغسطس 2025 08:50 م
محافظة الجيزة تعلن غلق كوبرى الجلاء 3 ساعات صباح الجمعة للصيانة الخميس، 14 أغسطس 2025 08:36 م
متظاهرون يغلقون شارع أيالون الرئيسى قرب تل أبيب للمطالبة بإعادة الرهائن الخميس، 14 أغسطس 2025 08:34 م
هي مصر فعلا باعت القضية الفلسطينية ؟!! لو ناسيين تعالوا نفكركم.. فيديو الخميس، 14 أغسطس 2025 08:32 م
عاش بطل ورحل شهيدا.. شاهد تفاصيل وفاة أحمد جمال متأثرا بإصاباته بحريق شبرا الخيمة الخميس، 14 أغسطس 2025 08:23 م
الشوط الأول.. تقدم ناشئى اليد على إسبانيا 15-13 فى ربع نهائي بطولة العالم.. صور الخميس، 14 أغسطس 2025 08:12 م
