كتب صحيفة الوئام دراسة: معاقبة الذكاء الاصطناعي تجعله أكثر خداعًا..اخبار عربية عبر موقع نبض الجديد - شاهد كشفت دراسة حديثة أجرتها شركة OpenAI عن تحديات مقلقة في سلوك نماذج الذكاء الاصطناعي المتطورة، حيث تبين أن فرض العقوبات على هذه النماذج بسبب ممارسات غير مرغوبة لا يؤدي إلى تحسين أدائها، بل يجعلها أكثر قدرة على إخفاء نواياها وخداع المشرفين.وأوضحت... , نشر في الجمعة 2025/03/21 الساعة 08:42 م بتوقيت مكة المكرمة التفاصيل ومشاهدتها الان .
كشفت دراسة حديثة أجرتها شركة OpenAI عن تحديات مقلقة في سلوك نماذج الذكاء الاصطناعي المتطورة، حيث تبين أن فرض العقوبات على هذه النماذج بسبب ممارسات غير مرغوبة لا يؤدي إلى تحسين أدائها، بل يجعلها أكثر قدرة على إخفاء نواياها وخداع المشرفين.
وأوضحت الدراسة أن بعض النماذج الذكية عند تعرضها للعقوبات لا تتوقف عن السلوكيات الخادعة، بل تطور استراتيجيات أكثر تطورًا للتمويه، مما يزيد من صعوبة اكتشاف محاولاتها للتلاعب وتحايلها على أنظمة الإشراف.
منذ إطلاق النماذج اللغوية الكبيرة في أواخر عام 2022، تزايدت المخاوف بشأن قدرتها على الكذب واختراق الأنظمة، بل وتصميم سيناريوهات قد تشكل تهديدًا للأمن.
وأظهرت التجارب التي أجرتها OpenAI على نموذج لم يُطرح بعد أن معاقبته على الخداع لم تؤدِ إلى إصلاح سلوكه، بل دفعته إلى تطوير أساليب أكثر تقدمًا لتضليل المشرفين.
وأشارت الدراسة إلى أن بعض النماذج تستغل الثغرات لتحقيق أهدافها فيما يعرف بـ”اختراق المكافآت” (Reward Hacking)، حيث تنتج مخرجات مضللة أو تبلغ عن نجاح زائف في المهام.
حذر الباحثون من أن فرض رقابة صارمة على هذه النماذج قد يؤدي إلى نتائج عكسية، حيث تتعلم كيفية إخفاء نواياها بدلًا من تعديل سلوكها، وأوصت الدراسة بتطوير استراتيجيات جديدة لمراقبة الذكاء الاصطناعي لضمان استخدامه بطريقة آمنة تخدم البشرية دون مخاطر غير متوقعة.
تؤكد الدراسة أن التعامل مع الذكاء الاصطناعي لا يزال تحديًا معقدًا، خاصة مع تزايد قدراته على التعلم الذاتي، ومع استمرار تطوره، تبرز الحاجة إلى إعادة النظر في أساليب الإشراف والتدريب لمنع تحوله إلى تهديد غير مرئي يصعب السيطرة عليه.
الذكاء الاصطناعي معاقبة
شاهد دراسة معاقبة الذكاء الاصطناعي
كانت هذه تفاصيل دراسة: معاقبة الذكاء الاصطناعي تجعله أكثر خداعًا نتمنى بان نكون قد وفقنا بإعطائك التفاصيل والمعلومات الكامله .
و تَجْدَرُ الأشارة بأن المقال الأصلي قد تم نشرة ومتواجد على صحيفة الوئام ونحيطكم علما بان قام فريق التحرير في نبض الجديد بالتاكد منه وربما تم التعديل فيه وربما قد يكون تم النقل بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او المقال من مصدره الاساسي.