ميتا تضع ضوابط حماية للمراهقين المستخدمين لروبوتاتها خاصة المحادثات الرومانسية

تعيد ميتا تدريب ذكاءها الاصطناعي وتضيف حماية جديدة لمنع المستخدمين المراهقين من مناقشة مواضيع مؤذية مع روبوتات الدردشة الخاصة بها، وتقول الشركة إنها تضيف "حواجز أمان إضافية" لمنع المراهقين من مناقشة إيذاء النفس واضطرابات الأكل والانتحار باستخدام ميتا للذكاء الاصطناعي.

كما ستمنع ميتا المراهقين من الوصول إلى شخصيات روبوتات الدردشة التي ينشئها المستخدمون والتي قد تنخرط في محادثات غير لائقة.

تأتي هذه التغييرات، التي أُبلغ عنها لأول مرة من قِبل موقع TechCrunch، بعد تقارير عديدة لفتت الانتباه إلى تفاعلات مُقلقة بين Meta AI والمراهقين، في وقت سابق من هذا الشهر، نشرت رويترز وثيقة سياسة داخلية لشركة Meta تنص على أن روبوتات الدردشة الذكية التابعة للشركة مسموح لها بإجراء محادثات "حسية" مع مستخدمين قاصرين.

وصرحت Meta لاحقًا بأن اللغة المستخدمة "خاطئة ومخالفة لسياساتنا" وتم حذفها ، وأمس نشرت صحيفة واشنطن بوست دراسة وجدت أن Meta AI قادر على "تدريب حسابات المراهقين على الانتحار وإيذاء النفس واضطرابات الأكل".

وتُعزز ميتا الآن إجراءاتها الداخلية لضمان عدم إمكانية تفاعل المراهقين مع هذه الأنواع من التفاعلات على إنستجرام وفيسبوك ، وصرحت ستيفاني أوتواي، المتحدثة باسم ميتا في بيان: "لقد طوّرنا منذ البداية أنظمة حماية للمراهقين في منتجات الذكاء الاصطناعي لدينا، بما في ذلك تصميمها للاستجابة الآمنة للمطالبات المتعلقة بإيذاء النفس والانتحار واضطرابات الأكل".

ومع نمو مجتمعنا وتطور التكنولوجيا، نتعلم باستمرار كيفية تفاعل الشباب مع هذه الأدوات، ونعزز حمايتنا وفقًا لذلك ، وفي إطار جهودنا المستمرة لتحسين أنظمتنا، نضيف المزيد من الحواجز الأمنية كإجراء احترازي إضافي، بما في ذلك تدريب أنظمة الذكاء الاصطناعي لدينا على عدم التفاعل مع المراهقين في هذه المواضيع، بل توجيههم إلى موارد الخبراء، وتقييد وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعي في الوقت الحالى.

وتجدر الإشارة إلى أن إجراءات الحماية الجديدة وُصفت بأنها سارية "في الوقت الحالي"، إذ يبدو أن ميتا لا تزال تعمل على تدابير أكثر استدامة لمعالجة المخاوف المتزايدة بشأن سلامة المراهقين وذكائها الاصطناعي.

وصرحت أوتواي: "هذه التحديثات قيد التنفيذ بالفعل، وسنواصل تكييف نهجنا للمساعدة في ضمان حصول المراهقين على تجارب آمنة ومناسبة لأعمارهم مع الذكاء الاصطناعى، وسيتم طرح إجراءات الحماية الجديدة خلال الأسابيع القليلة المقبلة، وستُطبق على جميع المستخدمين المراهقين الذين يستخدمون ميتا للذكاء الاصطناعى فى الدول الناطقة باللغة الإنجليزية.