جوجل تحذر موظفيها من استخدام المعلومات السرية على الروبوت المزود بالذكاء الاصطناعى

جوجل- صورة ارشيفية

كتب محمد أيمن

الجمعة، 16 يونيو 2023 06:00 ص

قال أربعة أشخاص مطلعون على الأمر لرويترز إن شركة Alphabet تحذر الموظفين بشأن كيفية استخدامهم لبرامج الدردشة، بما في ذلك Bard الخاصة بها، في نفس الوقت الذي تقوم فيه بتسويق البرنامج في جميع أنحاء العالم.

نصح رئيس Google الموظفين بعدم إدخال مواده السرية في روبوتات الدردشة الذكية، كما قال الأشخاص وأكدت الشركة، مستشهدة بسياسة طويلة الأمد بشأن حماية المعلومات.

روبوتات المحادثة ، من بينها Bard و ChatGPT ، هي برامج تبدو وكأنها إنسان تستخدم ما يسمى بالذكاء الاصطناعي التوليدي لإجراء محادثات مع المستخدمين والإجابة على مطالبات لا تعد ولا تحصى، قد يقرأ المراجعون الدردشات، ووجد الباحثون أن ذكاء اصطناعيًا مشابهًا يمكن أن يعيد إنتاج البيانات التي امتصها أثناء التدريب، مما يؤدي إلى خطر التسرب.

قال بعض الأشخاص إن Alphabet حذرت أيضًا مهندسيها لتجنب الاستخدام المباشر لرموز الكمبيوتر التي يمكن أن تولدها برامج الدردشة الآلية.

عند طلب التعليق، قالت الشركة إن Bard يمكنها تقديم اقتراحات تعليمات برمجية غير مرغوب فيها، لكنها تساعد المبرمجين على الرغم من ذلك، وقالت Google أيضًا إنها تهدف إلى أن تكون شفافة بشأن قيود تقنيتها، وفقاً لموقع gadgets360.

تُظهر المخاوف كيف ترغب Google في تجنب ضرر الأعمال من البرامج التي أطلقتها في منافسة مع ChatGPT، على المحك في سباق Google ضد مؤيدي ChatGPT OpenAI و Microsoft ، هناك استثمارات بمليارات الدولارات ولا تزال إعلانات لا توصف وإيرادات سحابية من برامج الذكاء الاصطناعي الجديدة.

يعكس تحذير Google أيضًا ما أصبح معيارًا أمنيًا للشركات، وهو تحذير الأفراد من استخدام برامج الدردشة المتاحة للجمهور.

قالت الشركات لرويترز إن عددًا متزايدًا من الشركات في جميع أنحاء العالم أقامت حواجز حماية على روبوتات الدردشة بالذكاء الاصطناعي، من بينها Samsung و Amazon.

كان حوالي 43 % من المحترفين يستخدمون ChatGPT أو أدوات أخرى للذكاء الاصطناعي اعتبارًا من يناير ، غالبًا دون إخبار رؤسائهم ، وفقًا لمسح شمل ما يقرب من 12000 مستجيب ، بما في ذلك من كبرى الشركات التي تتخذ من الولايات المتحدة مقراً لها ، أجراه موقع الشبكة Fishbowl.

بحلول فبراير، طلبت Google من الموظفين الذين يختبرون Bard قبل إطلاقها عدم إعطائها معلومات داخلية ، حسبما أفاد موقع Insider، وتطرح Google الآن Bard في أكثر من 180 دولة وبأربعين لغة كنقطة انطلاق للإبداع، وتمتد تحذيراتها إلى اقتراحات الأكواد الخاصة بها.

قالت Google لرويترز إنها أجرت محادثات مفصلة مع لجنة حماية البيانات في أيرلندا وهي تعالج أسئلة المنظمين، بعد تقرير بوليتيكو يوم الثلاثاء بأن الشركة كانت تؤجل إطلاق Bard في الاتحاد الأوروبي هذا الأسبوع في انتظار مزيد من المعلومات حول تأثير chatbot على الخصوصية.

يمكن لمثل هذه التكنولوجيا صياغة رسائل البريد الإلكتروني والوثائق وحتى البرامج نفسها، مما يعد بتسريع المهام بشكل كبير، ومع ذلك ، يمكن أن يتضمن هذا المحتوى معلومات خاطئة أو بيانات حساسة أو حتى فقرات محمية بحقوق الطبع والنشر من رواية هاري بوتر.

كما ينص إشعار خصوصية Google الذي تم تحديثه في 1 يونيو على ما يلي: "لا تقم بتضمين معلومات سرية أو حساسة في محادثات Bard الخاصة بك".

طورت بعض الشركات برامج لمعالجة مثل هذه المخاوف، على سبيل المثال ، تقوم Cloudflare ، التي تدافع عن مواقع الويب ضد الهجمات الإلكترونية وتقدم خدمات سحابية أخرى ، بتسويق قدرة الشركات على تمييز وتقييد بعض البيانات من التدفق الخارجي.

تقدم Google و Microsoft أيضًا أدوات محادثة لعملاء الأعمال الذين سيحصلون على سعر أعلى لكنهم يمتنعون عن استيعاب البيانات في نماذج الذكاء الاصطناعي العامة، الإعداد الافتراضي في Bard و ChatGPT هو حفظ محفوظات محادثات المستخدمين، والتي يمكن للمستخدمين اختيار حذفها.

قال يوسف مهدي، كبير مسؤولي التسويق للمستهلكين في Microsoft، إنه "من المنطقي" ألا ترغب الشركات في أن يستخدم موظفوها برامج الدردشة العامة في العمل.

رفضت مايكروسوفت التعليق على ما إذا كان لديها حظر شامل على إدخال الموظفين لمعلومات سرية في برامج الذكاء الاصطناعي العامة، بما في ذلك برامجها الخاصة، على الرغم من أن مسؤول تنفيذي آخر هناك قال لرويترز إنه قام شخصياً بتقييد استخدامه.

قال ماثيو برنس، الرئيس التنفيذي لشركة Cloudflare، إن كتابة الأمور السرية في روبوتات المحادثة كانت بمثابة "إزاحة مجموعة من طلاب الدكتوراه في جميع سجلاتك الخاصة".