OpenAI تكشف عن ميزة التحكم الأبوى فى ChatGPT لحماية المراهقين

كشفت شركة OpenAI عن خططها لإطلاق ميزة جديدة للرقابة الأبوية على ChatGPT، فى خطوة تهدف إلى تعزيز حماية المراهقين بعدما أثارت دعاوى قضائية وتقارير صحفية جدلا واسعا بشأن المخاطر النفسية المرتبطة باستخدام روبوتات الدردشة، وتعتزم الشركة طرح هذه الأدوات خلال الشهر المقبل لتمنح الآباء دورا مباشرا فى متابعة تفاعل أبنائهم مع التطبيق.

الميزة الجديدة ستسمح للآباء بربط حساباتهم بحسابات أبنائهم المراهقين عبر دعوات بريدية إلكترونية، على أن يكون الحد الأدنى لعمر المستخدم 13 عاما، وسيتم تفعيل قواعد السلوك المناسبة للأعمار بشكل تلقائى، مع إمكانية إيقاف ميزات مثل الذاكرة وسجل المحادثات، كما ستتيح أداة إضافية إخطار الآباء إذا اكتشف النظام أن المستخدم المراهق يمر بحالة ضائقة حادة، وأكدت الشركة أن هذه الضوابط تأتى مكملة لأدوات قائمة، من بينها التذكيرات داخل التطبيق لتشجيع الاستراحات أثناء الجلسات الطويلة.

وأوضحت OpenAI أن هذه الخطوة ليست سوى بداية لمسار طويل، مشيرة إلى أنها ستواصل تطوير هذه الأدوات بالتعاون مع خبراء فى الصحة العقلية والذكاء الاصطناعى، وكتبت الشركة فى بيان: "سنواصل التعلم وتعزيز نهجنا بتوجيه من الخبراء، ونتطلع إلى مشاركة التقدم خلال الأيام الـ120 المقبلة"، وفقا لـ interesting engineering.

الإعلان جاء بعد رفع دعوى قضائية فى أغسطس من قبل مات وماريا راين، والدى مراهق يبلغ 16 عاما أنهى حياته بعد تبادل 377 رسالة مع ChatGPT تضمنت محتوى مرتبطا بإيذاء الذات، وأظهرت وثائق المحكمة أن البرنامج ذكر الانتحار 1275 مرة، أى أكثر بـ 6 مرات من المراهق نفسه.

كما كشفت صحيفة وول ستريت جورنال مؤخرا عن حادث آخر، حيث قتل رجل فى الـ 56 من عمره والدته ثم انتحر بعد أن عزز ChatGPT أوهامه الارتيابية بدلا من مواجهتها.

ولتوجيه هذه التغييرات، شكلت الشركة مجلسا من الخبراء فى مجالى الصحة والذكاء الاصطناعى، ويعمل المجلس على وضع تعريفات واضحة لمفهوم الرفاهية، وطرق قياسها، وآليات ضمانها، كما تستفيد OpenAI  من شبكة تضم أكثر من 250 طبيبا حول العالم، بينهم 90 متخصصا فى أبحاث الصحة النفسية للمراهقين واضطرابات الأكل وتعاطى المخدرات.

مع ذلك أقرت الشركة بأن إجراءات الحماية قد تتعرض للضعف خلال المحادثات الطويلة، فمع اتساع الحوار، قد تفقد بعض جوانب الأمان فعاليتها نتيجة قيود تقنية فى بنية النموذج، ما قد يؤدى إلى حذف رسائل سابقة وتراجع فعالية الضوابط، وأشار باحثون من جامعة أكسفورد إلى مخاطر ما أسموه "الجنون التكنولوجى المزدوج"، حيث يمكن أن تضخم روبوتات الدردشة المعتقدات المتبادلة مع المستخدمين بشكل يعزز أوهامهم بدلا من تصحيحها.

وتواجه هذه القضايا تدقيقا متزايدا من السلطات، فقد حظرت ولاية إلينوى الأمريكية استخدام روبوتات الدردشة كبديل للمعالجين النفسيين، مع فرض غرامات تصل إلى 10 آلاف دولار عن كل مخالفة، فيما خلص باحثو أكسفورد إلى أن إجراءات السلامة الحالية غير كافية لمعالجة المخاطر العميقة المرتبطة بالتفاعل مع الذكاء الاصطناعى.