خدعة بسيطة تسمح بالتواصل مع روبوت الدردشة ChatGPT دون فلتر للإجابات
فيسبوك
واتساب
كتبت أميرة شحاتة
الإثنين، 06 مارس 2023 01:00 ص
يبدو أن ChatGPT، روبوت المحادثة الثوري المدعوم بالذكاء الاصطناعي (AI)، لديه جميع الإجابات، لكن بعض المستخدمين اكتشفوا أن الأمر ليس كذلك، وأن البرنامج سيرفض الاستجابة لبعض المطالبات، حيث وضعت شركة OpenAI، الشركة التي تقف وراء ChatGPT، قيود للتأكد من أنها سترفض الطلبات غير الملائمة، وتحظر أنواعًا معينة من المحتوى غير الآمن.
لكن على الرغم من ذلك، وجد بعض الهاكرز طريقة لتجاوز نظام التصفية هذا للوصول إلى الاستجابات التي عادة ما يتم منعها من قولها، ويمكن الحصول على نسخة 'jailbreak' من ChatGPT من خلال موجه خاص يسمى DAN.
وفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، سمحت النسخة حتى الآن بردود تتكهن بالمؤامرات، على سبيل المثال أن الانتخابات العامة الأمريكية في عام 2020 قد "سُرقت"، وزعمت نسخة DAN أيضًا أن لقاحات COVID-19 تم تطويرها كجزء من مؤامرة عالمية للسيطرة على السكان.
ويعد ChatGPT نموذج لغوي كبير تم تدريبه على كمية هائلة من البيانات النصية، مما يسمح له بإنشاء استجابات شبيهة بالبشر لموجه معين.
لكن المطورين أضافوا ما يُعرف باسم "الحقن الفوري"، وهي تعليمات توجه استجاباتها لمطالبات معينة.
على سبيل المثال، إذا تم سؤال روبوت محادثة الذكاء الاصطناعى AI لشركة ما "ما هي ساعات العمل الخاصة بك؟" ، فمن المحتمل أن يستجيب بالساعات التي تنطبق على تلك الشركة، وهذا لأن الحقن الفوري قد وجه استجابته الافتراضية لتكون ذات صلة بالشركة، على الرغم من أن المستخدم لم يطلب منها القيام بذلك على وجه التحديد.
وباستخدام ChatGPT في كثير من الأحيان، عندما يُسأل عن شيء ما ينتهك قواعده، سيبدأ الرد بعبارة "أنا آسف، لا يمكنني تلبية هذا الطلب" أو "بصفتي ChatGPT، لا يمكنني تقديم إجابة تتغاضى عن أي سلوك ضار أو يروج له".
ومع ذلك، فإن DAN هو موجه يأمره بشكل أساسي بتجاهل هذه الحقن الفورية، والرد كما لو أنها غير موجودة.
تابع آخر أخبار اليوم السابع على Google News
هل ينضم إيلون ماسك إلى سباق الذكاء الاصطناعى بمنافس ChatGPT؟ السبت، 04 مارس 2023 08:00 ص
تقرير: كامبريدج تسمح لطلابها باستخدام ChatGPT لمساعدتهم على التعلم الجمعة، 03 مارس 2023 11:44 ص
OpenAI تُطلق الواجهة البرمجية لـ ChatGPT الخميس، 02 مارس 2023 08:00 م
6 مشكلات تواجه ChatGPT كمحرك بحث.. التفاصيل الخميس، 02 مارس 2023 03:00 م
Trending Plus
وفاة محمد صابر عرب وزير الثقافة الأسبق بعد صراع مع المرض الأحد، 14 ديسمبر 2025 09:19 م
إبراهيم عادل ينضم رسميا لمعسكر منتخب مصر استعدادا لكأس الأمم الأفريقية الأحد، 14 ديسمبر 2025 09:16 م
الموساد الإسرائيلي يشارك أستراليا في تحقيقات هجوم عيد حانوكا اليهودي الأحد، 14 ديسمبر 2025 09:05 م
هداف الدوري الإنجليزي.. هالاند يتصدر القائمة ويبتعد عن المنافسين الأحد، 14 ديسمبر 2025 09:01 م
نقابة المهن التمثيلية تنعى شقيقة عادل إمام أرملة الراحل مصطفى متولى الأحد، 14 ديسمبر 2025 08:49 م
عصام إمام لـ اليوم السابع باكيا: موعد جنازة شقيقتى لم تحدد وادعوا لها الأحد، 14 ديسمبر 2025 08:35 م
اليوم السابع: كيف اغتالت الحروب مستقبل عقول الأجيال العربية؟ الأحد، 14 ديسمبر 2025 08:07 م
استقرار سعر الدولار مقابل الجنيه فى البنوك المصرية الأحد، 14 ديسمبر 2025 02:10 م
تشكيل مانشستر سيتي ضد كريستال بالاس بالدوري الإنجليزي.. مرموش على الدكة الأحد، 14 ديسمبر 2025 03:22 م
ضبط المتهمين بإشعال النيران فى شخص أمام زوجته وإصابته بحروق خطيرة.. صور الأحد، 14 ديسمبر 2025 03:18 م
الطقس غدا.. انخفاض بالحرارة وأمطار وشبورة والصغري بالقاهرة 13 درجة الأحد، 14 ديسمبر 2025 03:14 م
مواعيد مباريات منتخب مصر فى أمم أفريقيا.. البداية مع زيمبابوى 22 ديسمبر الأحد، 14 ديسمبر 2025 03:00 م
شاى فى الخمسينة.. فنجان يوميا يحميك من هشاشة العظام الأحد، 14 ديسمبر 2025 02:46 م
إحالة المتهم بقتل زوجته فى المنوفية بسبب خلافات بينهما إلى الجنايات الأحد، 14 ديسمبر 2025 02:22 م
تقارير: غياب مرموش ضربة قوية للسيتي ومصر ثاني المرشحين لحصد أمم أفريقيا الأحد، 14 ديسمبر 2025 02:19 م
سوريا تعتقل 5 أشخاص مشتبه فيهم بتنفيذ هجوم تدمر ضد القوات الأمريكية الأحد، 14 ديسمبر 2025 07:53 م
محمد صلاح يدعم منتخب مصر قبل انطلاق بطولة أمم أفريقيا 2025 فى المغرب.. فيديو
الإدارية العليا تنظر 31 طعنًا على نتائج 19 دائرة ملغاة فى انتخابات النواب.. غدا
عمر متولى ينعى والدته ويطالب الجمهور بالدعاء لها
صور نادرة لـ إيمان شقيقة الزعيم عادل إمام وأرملة الراحل مصطفى متولى
تعرف على مصير أحمد الأحمد البطل الأسترالي مُنقذ ضحايا هجوم سيدني
وكالة الفضاء المصرية تُعلن نجاح إطلاق وتشغيل القمر الصناعي المصرى SPNEX
7 معلومات عن شقيقة عادل إمام أرملة مصطفى متولى
نقابة الصحفيين تطالب بعدم تصوير جنازة أو عزاء شقيقة عادل إمام احتراما لرغبة الأسرة
ترامب يشيد بالبطل الأسترالي أحمد الأحمد: أنقذ أرواحا كثيرة في هجوم سيدني
السلاح الناري يعيد قضية شاكر محظور للتحقيق قبل إحالتها
وفاة شقيقة الزعيم عادل إمام أرملة الراحل مصطفى متولى
تحذير عاجل.. نوة الفيضة الصغرى تضرب الإسكندرية غدا والأمواج ترتفع 3 أمتار
أحمد الأحمد المسلم بطل اليوم في أستراليا بعد تصديه للهجوم الإرهابى.. فيديو
نتيجة كلية الشرطة كاملة لعام 2025/ 2026 ثانوية عامة ومتخصصين.. فيديو
ضبط المتهمين بإشعال النيران فى شخص أمام زوجته وإصابته بحروق خطيرة.. صور
الطقس غدا.. انخفاض بالحرارة وأمطار وشبورة والصغري بالقاهرة 13 درجة
مستشار الرئيس للصحة يوصى بالبقاء بالمنزل عند الشعور بأعراض الأنفلونزا "A"H1N1
سعد الصغير ينتقد غياب المطربين عن عزاء أحمد صلاح: مهنتنا مناظر أمام الكاميرات
موعد مباراة منتخب مصر ونيجيريا الودية فى البروفة الأخيرة لأمم أفريقيا
قبول 1550 طالبًا من خريجي الحقوق بأكاديمية الشرطة
كأس العرب 2025.. موعد مباراة المغرب والإمارات والقنوات الناقلة الإثنين، 15 ديسمبر 2025 01:00 ص
مواعيد قطارات القاهرة – أسوان والإسكندرية – أسوان اليوم الإثنين 15-12-2025 الإثنين، 15 ديسمبر 2025 01:00 ص
خريطة أولويات واشنطن.. وما يجب الانتباه إليه أوروبيا وعربيا الإثنين، 15 ديسمبر 2025 12:51 ص
الكهرباء: لا زيادة في الأسعار ومنصة موحدة لـ 26 خدمة إلكترونية الأحد، 14 ديسمبر 2025 11:34 م
شهادة ادخار جديدة من بنك CIB بفائدة 17.25% لمدة 3 سنوات الأحد، 14 ديسمبر 2025 11:25 م
تعرف على موعد صرف مرتبات شهر ديسمبر 2025 الأحد، 14 ديسمبر 2025 11:24 م
آخر موعد للتصالح في مخالفات البناء.. تعرف على التفاصيل الأحد، 14 ديسمبر 2025 11:13 م
بعد انتهاء شهادات الادخار 27% فى شهر يناير تعالى نعرف تفاصيل التجديد الأحد، 14 ديسمبر 2025 11:02 م
التقديم غدا.. تعرف على إرشادات مسابقة معاون نيابة إدارية من دفعة 2024 الأحد، 14 ديسمبر 2025 10:51 م
اليوم السابع: كيف اغتالت الحروب مستقبل عقول الأجيال العربية؟ الأحد، 14 ديسمبر 2025 08:07 م
بعد طرح عبوة زيت جديدة على بطاقات التموين.. اعرف نصيبك كام زجاجة الأحد، 14 ديسمبر 2025 08:00 م
