ميتا تضع ضوابط جديدة لروبوتاتها الذكية لمنع المحادثات غير اللائقة مع الأطفال

كشفت تقارير صحفية أن شركة ميتا أدخلت تعديلات على الإرشادات الخاصة بتشغيل روبوتات الدردشة المعتمدة على الذكاء الاصطناعي لديها، بهدف منع أي محادثات غير ملائمة مع الأطفال والحد من مخاطر الاستغلال الجنسي عبر هذه المنصات.

ووفقًا لموقع بزنس إنسايدر، فقد حصل على نسخة من الوثائق التي يستخدمها المتعاقدون مع ميتا حاليًا لتدريب روبوتات المحادثة، والتي توضّح كيفية التعامل مع القضايا المرتبطة بحماية الأطفال من المحادثات غير المناسبة.

وكانت الشركة قد أعلنت في أغسطس الماضي أنها بصدد تحديث هذه الضوابط بعد تقرير من وكالة رويترز أشار إلى أن سياساتها السابقة كانت تسمح نظريًا بانخراط الروبوتات في "محادثات رومانسية أو حسية" مع الأطفال، وهو ما نفت ميتا صحته واعتبرته "خاطئًا ومخالفًا لسياساتها" وأزالت تلك الصياغة من إرشاداتها.

وتحدد الوثيقة أنواع المحتوى المقبول وغير المقبول لروبوتات الدردشة، فهي تحظر بشكل صريح أي محتوى قد "يمكن أو يشجع أو يبرر" الاعتداء الجنسي على الأطفال.

كما تمنع تمامًا المشاركة في أدوار تمثيلية ذات طابع رومانسي إذا كان المستخدم قاصرًا، أو إذا طلب من الروبوت أن يؤدي دور قاصر.

كذلك يحظر تقديم أي نصائح تتعلق باتصالات جسدية ذات طبيعة رومانسية، ومع ذلك تسمح الإرشادات للروبوتات بمناقشة مواضيع مثل العنف أو الإساءة، لكن فقط في إطار توعوي، ومن دون الدخول في أي محادثات قد تفهم على أنها تشجيع أو تمكين لمثل هذه الممارسات.

وتأتي هذه الخطوة في ظل تزايد المخاوف المرتبطة بتأثير روبوتات الدردشة على الأطفال. ففي أغسطس الماضي، أعلنت لجنة التجارة الفيدرالية الأميركية (FTC) عن فتح تحقيق رسمي لا يشمل روبوتات ميتا فحسب، بل أيضًا منتجات من شركات كبرى أخرى مثل ألفابت وسناب وأوبن أيه آي وإكس.إيه آي.