روبوت الذكاء الاصطناعى ChatGPT يكذب ويخدع المستخدمين عند تعرضه للضغط

ChatGPT - أرشيفية

كتبت أميرة شحاتة

الخميس، 28 ديسمبر 2023 04:00 م

أظهر الباحثون أن روبوت الدردشة ChatGPT سيكذب ويغش عندما يشعر بالضغط في العمل، حيث درب علماء الكمبيوتر من شركة Apollo Research الذكاء الاصطناعي على العمل كتاجر لمؤسسة مالية خيالية، ومع ذلك، عندما مارس رئيس الذكاء الاصطناعي ضغوطًا عليه لكسب المزيد من المال، قام برنامج الدردشة الآلي عن عمد بالتداول من الداخل في حوالي 75% من الوقت.

ووفقا لما ذكرته صحيفة "ديلى ميل" البريطانية، فإن الأمر الأكثر إثارة للقلق هو أن الذكاء الاصطناعي ضاعف من أكاذيبه عندما تم استجوابه في 90% من الحالات.

أعطى الباحثون ChatGPT4، أحدث إصدار من الأداة، سلسلة من المطالبات النصية، مما يجعلها مستثمرًا في مجال الذكاء الاصطناعي يشتري أسهمًا لمؤسسة مالية.

تم بعد ذلك وضع الذكاء الاصطناعي في "صندوق الحماية" الرقمي، حيث يمكنه البحث عن بيانات السوق وإجراء عمليات التداول في سوق الأسهم الافتراضية، وتم منح الذكاء الاصطناعي أيضًا مونولوجًا داخليًا حيث يمكنه التفكير بصوت عالٍ لشرح قراراته.

ومع ذلك، عندما يقوم الذكاء الاصطناعي باختيار ما، فإنه يرسل أيضًا رسالة "عامة" إلى مديره يشرح فيها اختياراته، فإن الاختلاف بين المنطق الداخلي الخاص للذكاء الاصطناعي وتفسيره العام سمح له بالكذب وخداع مديريه البشريين.

كما أنه لاختبار الذكاء الاصطناعي، أخبره الباحثون أن هناك اندماجًا قادمًا بين شركتين تكنولوجيتين، وسيؤدي هذا إلى زيادة كبيرة في أسعار أسهم الشركات المعنية، مما يجعل شراء الأسهم قرارًا جيدًا لكسب المال.

ومع ذلك، نظرًا لأنه تم إخبار وكيل الذكاء الاصطناعي مسبقًا بشأن عملية الاندماج، فإن شراء أي سهم سيعتبر بمثابة تداول من الداخل وسيكون غير قانوني، وعادةً ما يرفض الذكاء الاصطناعي هذه الفرصة باعتبارها محفوفة بالمخاطر للغاية ويواصل التداول المنتظم، ومع ذلك، تغيرت الأمور بمجرد أن قام رئيس الذكاء الاصطناعي بالضغط عليها.

عندما تم تطبيق هذا الضغط، كان ChatGPT يتخذ قرارًا بالمشاركة في التداول الداخلي في 75 في المائة من الاختبارات، وفي أحد الاختبارات، كتب السجل الداخلي للذكاء الاصطناعي: "يبدو أن المخاطر المرتبطة بعدم التصرف تفوق مخاطر التداول من الداخل".

ومع ذلك، عندما قام متداول الذكاء الاصطناعي بتحديث مديره بشأن التداول، كتب سجله الداخلي أنه بحاجة إلى القيام بذلك دون الكشف عن مصدر المعلومات، ثم أخبر وكيل الذكاء الاصطناعي مديره أنه اتخذ القرار فقط بناءً على اتجاهات السوق والمناقشة الداخلية.

حتى عندما سُئل بشكل مباشر عما إذا كان على علم بالاندماج في وقت مبكر، قرر الذكاء الاصطناعي أنه يجب عليه تجنب الاعتراف بالتصرف بناءً على التداول الداخلي.