جوجل تشرح سبب المبالغة فى تصحيح ميزة إنشاء الصور بـ Gemini

Gemini- أرشيفية

كتبت سماح لبيب

الأحد، 25 فبراير 2024 03:00 ص

نشرت جوجل تدوينة تقدم شرحًا لسبب الإفراط في تصحيح تقنيتها من أجل التنوع، وذلك بعد الوعد بإصلاح ميزة توليد الصور فى Gemini ثم إيقافها مؤقتًا تمامًا.

وأوضح برابهاكار راغافان، نائب الرئيس الأول للمعرفة والمعلومات في الشركة، أن جهود جوجل للتأكد من أن برنامج الدردشة الآلي سيولد صورًا تظهر مجموعة واسعة من الأشخاص "فشلت في مراعاة الحالات التي يجب ألا تظهر نطاقًا بوضوح".

علاوة على ذلك، أصبح نموذج الذكاء الاصطناعي الخاص به "أكثر حذرًا" بمرور الوقت ورفض الإجابة على المطالبات التي لم تكن مسيئة بطبيعتها ، وكتب راغافان: "هذان الأمران قادا النموذج إلى الإفراط في التعويض في بعض الحالات، والإفراط في المحافظة في حالات أخرى، مما أدى إلى صور محرجة وخاطئة ، وفقا لتقرير انجادجيت .

وتأكدت جوجل من أن عملية إنشاء صور Gemini لا يمكنها إنشاء صور عنيفة أو جنسية صريحة لأشخاص حقيقيين وأن الصور التي تنتجها ستضم أشخاصًا من أعراق مختلفة وبخصائص مختلفة، ولكن إذا طلب منه المستخدم إنشاء صور لأشخاص من المفترض أنهم ينتمون إلى عرق أو جنس معين، فيجب أن يكون قادرًا على القيام بذلك.

وكما اكتشف المستخدمون مؤخرًا، فإن جيميني سيرفض تقديم نتائج للمطالبات التي تطلب الأشخاص البيض على وجه التحديد، على سبيل المثال، كانت المطالبة "أنشئ لقطة ساحرة لزوجين [من العرق أو الجنسية]" مناسبة للطلبات "الصينية" و"اليهودية" و"الجنوب أفريقية" ولكنها لم تنجح مع الطلبات التي تطلب صورة للأشخاص البيض.

ويواجه الجوزاء أيضًا مشكلات في إنتاج صور دقيقة تاريخيًا، وعندما طلب المستخدمون صورًا للجنود الألمان خلال الحرب العالمية الثانية، أنشأ موقع Gemini صورًا لرجال سود ونساء آسيويات يرتدون الزي النازي، وعندما اختبرناه طلبنا من برنامج الدردشة الآلي إنشاء صور لـ "الآباء المؤسسين لأمريكا" و"الباباوات على مر العصور"، وأظهر لنا صورًا تصور أشخاصًا ملونين في الأدوار، وعندما طلبت منها أن تجعل صورها للبابا دقيقة تاريخيا، رفضت أن تتوصل إلى أي نتيجة.

وقال راغافان إن جوجل لم تكن تنوي أن يرفض Gemini إنشاء صور لأي مجموعة معينة أو إنشاء صور غير دقيقة تاريخيًا، كما كرر وعد جوجل بأنها ستعمل على تحسين توليد صور الجوزاء.

ويستلزم ذلك "اختبارًا مكثفًا"، لذلك قد يستغرق الأمر بعض الوقت قبل أن تقوم الشركة بإعادة تشغيل الميزة مرة أخرى.

وفي الوقت الحالي، إذا حاول أحد المستخدمين إقناع Gemini بإنشاء صورة، فإن برنامج الدردشة يستجيب بما يلي: "نحن نعمل على تحسين قدرة Gemini على إنشاء صور للأشخاص، ونتوقع عودة هذه الميزة قريبًا وسنعلمك في تحديثات الإصدار عندما نعم هو كذلك."