شركة Character.AI تمنع المستخدمين دون 18 عامًا من استخدام روبوتاتها

أصدرت الشركة المالكة لتطبيق "كاراكتر إيه آى" Character.AI قرارًا يقضى بمنع القُصّر من استخدام روبوتات الدردشة الخاصة بها وسط مخاوف متزايدة بشأن آثار المحادثات باستخدام الذكاء الاصطناعى على الأطفال.

دعاوى قضائية لحماية الطفل
 

وتواجه الشركة عدة دعاوى قضائية تتعلق بحماية الطفل، منها دعوى رفعتها أم تزعم أن روبوتات الدردشة الخاصة بالشركة دفعت ابنها المراهق إلى الانتحار.

وأعلنت شركة Character Technologies أن المستخدمين دون سن 18 عامًا لن يتمكنوا من المشاركة فى محادثات مفتوحة مع روبوتات الدردشة الخاصة بها، وأن الروبوت سيطبق حدًا أقصى للاستخدام لمدة ساعتين بحلول 25 نوفمبر كما نقلت قناة "يورونيوز" الإخبارية.

وتتيح الشركة للمستخدمين إنشاء شخصيات قابلة للتخصيص أو التفاعل معها، تبدو واقعية وبشرية، لأنشطة مختلفة مثل لعب الألعاب أو التدرب على مقابلات عمل وهمية.

وأعلنت الشركة أنها ستطرح ميزات التحقق من العمر للمساعدة في تحديد المستخدمين دون سن 18 عامًا، ويستخدم عددٌ متزايد من منصات التكنولوجيا هذه الميزات للتحقق من العمر لمنع الأطفال من الوصول إلى أدوات غير مناسبة.

لكن هذه الأساليب غير مثالية، ويجد العديد من الأطفال طرقًا للتحايل عليها. على سبيل المثال، لا تميز عمليات مسح الوجه دائمًا بين من يبلغ من العمر 17 عامًا ومن يبلغ من العمر 18 عامًا. كما أن مطالبة المستخدمين بتحميل بطاقات هوية رسمية تثير مخاوف تتعلق بالخصوصية.

ميزات جديدة للأطفال من شركة Character.AI 

وأضافت شركة Character.AI أنها تعمل على ميزات جديدة للأطفال، مثل إنشاء مقاطع فيديو وقصص وبث مباشر باستخدام شخصيات الذكاء الاصطناعي، بالإضافة إلى مختبر أمان للذكاء الاصطناعي. كما تُنشئ الشركة مختبرًا لأمن الذكاء الاصطناعى.

وعلقت ميتالي جين، المديرة التنفيذية لمشروع قانون العدالة التقنية، قائلة إن قرار الشركة "لا يزال يحمل العديد من الأسئلة التي لم تُجب عليها".

وأضافت جين "لم يُحددوا كيفية تطبيقهم للتحقق من العمر، وكيف سيضمنون حماية أساليبهم للخصوصية، أو معالجة التأثير النفسي لتعطيل وصول الشباب المفاجئ، نظرًا للتبعيات العاطفية التي تطورت لديهم".

وأضافت "علاوة على ذلك، لا تُعالج هذه التغييرات سمات التصميم الأساسية التي تُعزز هذه التبعيات العاطفية، ليس فقط لدى الأطفال، بل أيضًا لدى الأشخاص الذين تزيد أعمارهم عن 18 عامًا".

ووفقًا لدراسة حديثة أجرتها مجموعة "كومن سينس ميديا" Common Sense Media، وهي مجموعة تدرس وتروج للاستخدام المسئول للشاشات والوسائط الرقمية، فإن أكثر من 70% من المراهقين استخدموا المساعدين الشخصيين للذكاء الاصطناعي، ونصفهم يستخدمونها بانتظام.