Character.AI تطلق ميزة تخبر الآباء عن الروبوتات التى يتحدث إليها أطفالهم

تضيف خدمة Chatbot، Character.AI، ميزة جديدة تُسمى "معلومات الوالدين"، تُتيح للمراهقين إرسال تقرير أسبوعي عن استخدامهم لروبوت الدردشة إلى بريدهم الإلكتروني.

يتضمن هذا التقرير متوسط ​​الوقت اليومي الذي يقضيه المستخدمون على الإنترنت والهواتف المحمولة، والشخصيات الأكثر تفاعلًا معهم، ومدة التحدث مع كل شخصية ، ويُعد هذا التقرير جزءًا من سلسلة تحديثات مُصممة لمعالجة المخاوف بشأن قضاء القاصرين وقتًا طويلاً مع روبوتات الدردشة ومواجهة محتوى غير لائق أثناء المحادثات.

التقرير، الذي لا يتطلب من الوالدين امتلاك حساب، اختياري ويمكن للمستخدمين القاصرين إعداده من خلال إعدادات Character.AI، وتشير الشركة إلى أنه يُقدم نظرة عامة على نشاط المراهقين، وليس سجلاً كاملاً، لذا لن تتم مشاركة محتوى محادثات روبوتات الدردشة ، وتحظر المنصة الأطفال دون سن 13 عامًا في معظم الدول، ودون سن 16 عامًا في أوروبا.

وتُقدّم شركة Character.AI ميزات جديدة للمستخدمين القاصرين منذ العام الماضي، بالتزامن مع الشكاوى القانونية بشأن خدمتها ، وتتيح هذه المنصة، التي تحظى بشعبية بين المراهقين، للمستخدمين إنشاء وتخصيص روبوتات دردشة يتفاعلون معها أو يشاركونها علنًا.

إلا أن دعاوى قضائية متعددة تزعم أن هذه الروبوتات قد عرضت محتوى أو مواد جنسية غير لائقة تشجع على إيذاء النفس، كما وردت تقارير عن تلقي الشركة تحذيرات من شركتي Apple وGoogle (اللتين وظّفتا مؤسسي Character.AI العام الماضي) بشأن محتوى تطبيقها.

وتقول الشركة إن نظامها أُعيد تصميمه منذ ذلك الحين ، ومن بين تغييرات أخرى، نقلت المستخدمين دون سن 18 عامًا إلى نموذج مُدرَّب لتجنب النتائج "الحساسة"، وأضافت إشعارات أكثر وضوحًا تُذكِّر المستخدمين بأن الروبوتات ليست أشخاصًا حقيقيين.

ولكن مع تزايد الحماس لتنظيم الذكاء الاصطناعي وقوانين سلامة الأطفال، فمن المرجح ألا تكون هذه هي الخطوة الأخيرة التي يُطلب من الشركة اتخاذها.