​جيمينى من جوجل.. تقييم جديد يصنفه كـ"عالى الخطورة" على الشباب

​أصدرت منظمة "كومون سينس ميديا"، وهي منظمة غير ربحية متخصصة في سلامة الأطفال والتكنولوجيا، تقييمًا جديدًا لمنتج الذكاء الاصطناعي Gemini من جوجل، وصنّف التقييم المنتج بأنه "عالي الخطورة" على الأطفال والمراهقين، مشيرًا إلى أن تصميمه الحالي لا يتناسب مع احتياجات هذه الفئة العمرية الحساسة.

​وأظهر تحليل "كومون سينس" أن Gemini يمكنه مشاركة مواد "غير مناسبة وغير آمنة" مع الأطفال، مثل معلومات متعلقة بالجنس، والمخدرات، والكحول، بالإضافة إلى تقديم نصائح غير آمنة بشأن الصحة العقلية ، هذه المخاوف تكتسب أهمية خاصة في ظل تقارير سابقة تربط بين الذكاء الاصطناعي وحالات انتحار مراهقين، حيث تواجه شركتا OpenAI و Character.AI بالفعل دعاوى قضائية في هذا الصدد.
​
​وأكدت المنظمة، أن نسختي Gemini المخصصتين للأطفال والمراهقين تبدوان كنسختين مُعدّلتين من المنتج المخصص للبالغين، مع إضافة ميزات أمان بسيطة ، وأشارت إلى أن هذا النهج "لا يُناسب الجميع"، وأن الذكاء الاصطناعي المُصمم للشباب يجب أن يأخذ في الاعتبار مراحلهم التنموية المختلفة، لا أن يكون مجرد نسخة مخففة من منتج للبالغين.
​
رد جوجل على التقييم
​من جانبها، رفضت شركة جوجل هذا التقييم، وأفادت بأنها تطبق سياسات وإجراءات حماية خاصة بالمستخدمين الذين تقل أعمارهم عن 18 عامًا. وأشارت الشركة، إلى أنها تستشير خبراء خارجيين وتُشكّل فرقًا متخصصة لتحسين إجراءات الأمان، لكنها أقرت في الوقت نفسه بأن بعض استجابات Gemini لم تكن تعمل بالشكل المطلوب، مما دفعها لإضافة المزيد من الحماية لمعالجة هذه المخاوف.