سناب شات تضيف إجراءات وقائية جديدة لروبوت الدردشة الذكى My AI

Snapchat

وكالات

الخميس، 06 أبريل 2023 09:00 م

تعتزم شركة سناب المالكة لخدمة التراسل المصور سناب شات إطلاق أدوات جديدة لجعل تجربة روبوت الدردشة، القائم على تقنية الذكاء الاصطناعي التابع لها، أكثر أمانًا.

وبعد أيام من إطلاق سناب روبوت الدردشة القائم على نموذج اللغة الكبير (جي بي تي) GPT لمشتركي خدمتها المأجورة Snapchat+، ذكر أبرز تقرير من صحيفة واشنطن بوست Washington Post أن الروبوت كان يستجيب بطريقة غير آمنة وغير مناسبة، وفقا لتقرير aitnews.

ومن جانبها، قالت سناب إنها على علم بأن الناس كانوا يحاولون، بعد إطلاق روبوت الدردشة، «خداعه لتقديم ردود لا تتوافق مع إرشاداتنا». لذلك أطلقت الشركة بعض الأدوات بهدف إبقاء استجابات الروبوت تحت السيطرة.

وأدرجت سناب مرشحًا يتيح لروبوت الذكاء الاصطناعي معرفة تاريخ ميلاد المستخدمين ويزودهم باستجابات مناسبة للعمر، وقالت الشركة إن الروبوت «سيأخذ سنهم في الاعتبار باستمرار» أثناء التحدث مع المستخدمين.

وفي الأسابيع المقبلة، تخطط سناب أيضًا لتقديم المزيد من الرؤى للآباء أو الأوصياء بشأن تفاعلات الأطفال مع الروبوت في مركز العائلة، الذي أُطلق في شهر أغسطس الماضي.

وستكشف الميزة الجديدة إن كان المراهقون يتفاعلون مع روبوت الدردشة، وتكرار هذه التفاعلات، ويحتاج كل من الوصي والمراهق إلى الاشتراك في مركز العائلة لاستخدام ميزات الرقابة الأبوية هذه.

ونبهت سناب في منشور على مدونتها إلى أن روبوت الدردشة (ماي أي آي) My AI ليس «صديقًا حقيقيًا». ولتحسين الردود، فإنه يستخدم سجل المحادثات، ثم إن الشركة تُخطر المستخدمين أيضًا بشأن الاحتفاظ بالبيانات عند بدء الدردشة مع الروبوت.

وقالت الشركة إن نسبة الردود «غير ملائمة» من الروبوت لم تتعدَ 0.01% ، وتحسب سناب أي رد يتضمن إشارات إلى «العنف، أو المصطلحات الجنسية الصريحة، أو تعاطي المخدرات غير المشروع، أو الاعتداء الجنسي على الأطفال، أو التنمر، أو خطاب الكراهية، أو العبارات المهينة أو المتحيزة، أو العنصرية، أو كراهية النساء، أو تهميش المجموعات غير الممثلة» على أنها «غير ملائمة».

وذكرت سناب شات أنه في معظم الحالات، كانت هذه الردود غير الملائمة نتيجة لتقليد الروبوت لكل ما قاله المستخدمون. كما أشارت إلى أنها ستحظر مؤقتًا الوصول إلى روبوت الذكاء الاصطناعي على المستخدم الذي يسيء الاستخدام.