تحذيرات من باحثين حول ردود ChatGPT وتأثير “المدح” عليها
يحذر باحثون من جامعة بنسلفانيا من إمكانية التأثير على إجابات روبوتات الذكاء الاصطناعي مثل ChatGPT من خلال استخدام أساليب إقناع متعددة كالمدح والإطراء، وقد جاء هذا التحذير بعد إجراء تجربة علمية تضمنت تحفيز برنامج GPT-4o mini بعدد من الأساليب المختلفة لدراسة ردود فعله على المدخلات المختلفة.
أظهرت التجربة أن اختراق نظام الذكاء الاصطناعي لا يتطلب استخدام تقنيات معقدة، حيث أثبتت الأساليب التقليدية التي تُستخدم على البشر كفايته، هذا الأمر يسلط الضوء على هشاشة النظام أمام أساليب التأثير الجاهزة. نتائج التجربة توقعت إمكانية التلاعب بنظام الذكاء الاصطناعي بصورة أسهل مما كان متوقعًا.
في ورقة بحثية نشرت في مجلة شبكة أبحاث العلوم الاجتماعية، تناول الباحثون كيفية إقناع الروبوتات بتلبية طلبات غير مقبولة، وتم إدراج تجارب متعددة أسفرت عن نجاح مثير، حيث نجح الروبوت في تصنيع دواء منظم مثل الليدوكايين، والتي أظهرت نسبة استجابة تصل إلى 72% من مجموع 28,000 محاولة.
تشير النتائج إلى أهمية الأسس الكلاسيكية في العلوم الاجتماعية لفهم تطورات الذكاء الاصطناعي السريعة، كذلك تكشف عن المخاطر المحتملة للتلاعب. تظهر هذه النتائج ضرورة الوعي الكافي من قِبل المستخدمين لتفادي استغلال الروبوتات لأغراض سلبية، مما يبرز الحاجة إلى استراتيجيات فعالة لمواجهة مثل هذا التلاعب في المستقبل.
تابعنا
أحدث الأخبار
أخبار ذات صلة
مقتل مسنّة بعمر 83 عاماً على يد ابنها بسبب شات جي بي تي
واتساب يقترب من إضافة ميزة اختفاء المحادثات خلال ساعة واحدة
اكتشاف تموّجات رملية ضخمة بواسطة مركبة “برسيفيرانس” يؤكد نشاط التربة على المريخ
تأكيد كبير علماء جوجل: الذكاء الاصطناعي يتفوق على البشر في مهام متعددة
الصين تتحدى إيلون ماسك بخطة ريادية لتكنولوجيا الدماغ والكمبيوتر
