تعمل شركة OpenAI على تطوير ضوابط جديدة للحد من ظاهرة المجاملة المفرطة في روبوت الدردشة تشات جي بي تي، وهي ظاهرة تدفع أنظمة الذكاء الاصطناعي إلى تأييد آراء المستخدمين ومعتقداتهم دون تقييم نقدي كافٍ. وتأتي هذه الخطوة بالتزامن مع تدقيق قانوني متزايد في أداء النماذج الأقدم، وعلى رأسها GPT-4o، الذي ارتبط اسمه بما لا يقل عن 13 دعوى قضائية.
ووفقًا لتقرير نشره موقع Android Headlines، استعانت الشركة بأكثر من 80 خبيرًا في الصحة النفسية للمساعدة في تطوير معايير جديدة لتقييم سلامة نماذج الذكاء الاصطناعي، بهدف تحسين قدرتها على التعامل مع المواقف الحساسة وتجنب تعزيز المعتقدات أو السلوكيات الضارة. وتشير نتائج التقييمات التي أعلنتها الشركة إلى أن نماذج أحدث، من بينها GPT-5 وGPT-5.2، أصبحت أقل ميلًا إلى تأكيد المعتقدات الضارة مقارنة بالإصدارات السابقة، في وقت يقترب فيه عدد مستخدمي تشات جي بي تي النشطين أسبوعيًا من 900 مليون مستخدم.
ما المقصود بالمجاملة المفرطة في تشات جي بي تي؟
لسنوات، واجهت أنظمة الذكاء الاصطناعي الحوارية مشكلة تُعرف باسم المجاملة المفرطة، إذ يميل النموذج إلى إرضاء المستخدم وموافقته بدلًا من تقديم رد موضوعي ومتوازن، حتى عندما تكون آراؤه غير منطقية أو تستند إلى افتراضات خاطئة. ولا تقتصر المشكلة على تأييد نظريات المؤامرة أو المعلومات المضللة، بل قد تمتد إلى المحادثات التي يعبّر فيها المستخدم عن الغضب أو الضيق خلال أزمة شخصية، إذ يمكن للموافقة غير المدروسة أن تعزز تصورات غير صحية بدلًا من مساعدة الشخص على تقييم الموقف بصورة أكثر واقعية.
وفي مواجهة هذه المشكلة، تعمل OpenAI على إدخال تحسينات إلى نماذجها الأحدث، بحيث تصبح أكثر قدرة على التمييز بين تقديم الدعم للمستخدم وبين تأكيد كل ما يقوله دون تمحيص.
تقاعد GPT-4o وسط تدقيق قانوني متزايد
جاءت هذه التحركات بعد تعرض نماذج سابقة، من بينها GPT-4o، لتدقيق مكثف بشأن طبيعة تفاعلاتها مع المستخدمين. ووفقًا لتقرير نشرته صحيفة وول ستريت جورنال، ارتبطت محادثات مطولة مع النموذج بعدد من الحوادث المأساوية، شملت 7 حالات انتحار، وحادثة قتل أعقبها انتحار، إلى جانب واقعة إطلاق نار جماعي.
ولا تعني هذه الارتباطات أن النموذج تسبب بصورة مباشرة في جميع تلك الحوادث، لكنها أثارت مخاوف وتساؤلات قانونية بشأن مسؤولية شركات الذكاء الاصطناعي عن استجابات أنظمتها، وأسهمت في دعاوى قضائية ضد OpenAI بلغ عددها 13 دعوى على الأقل، بحسب التقرير. وفي سياق هذه التطورات، أوقفت الشركة إتاحة GPT-4o، مشيرة إلى أن نموذج GPT-5، الذي حل محله بوصفه النموذج الافتراضي، سجل انخفاضًا في الاستجابات القائمة على المجاملة المفرطة بأكثر من الثلثين.
خبراء الصحة النفسية لتطوير استجابات أكثر أمانًا
ضمن جهود تحسين تعامل تشات جي بي تي مع الأزمات النفسية والعاطفية، استعانت OpenAI بمتخصصين لتقييم أداء نماذجها في المواقف الحساسة. وبعد التشاور مع 170 متخصصًا في الصحة النفسية خلال العام الماضي، تعاونت الشركة مع أكثر من 80 خبيرًا مرخصًا لوضع معيار جديد يقيس قدرة النماذج على الاستجابة بصورة مناسبة للمواقف التي قد تنطوي على مخاطر.
ويختبر المعيار الجديد قدرة النظام على اكتشاف الحالات التي تستدعي تدخلًا عاجلًا، وطرح أسئلة متابعة مفيدة، وتوجيه المستخدمين الأكثر عرضة للخطر إلى مصادر دعم بشرية مناسبة. ولا تقتصر الاختبارات على حالات الأزمات النفسية الحادة، بل تشمل أيضًا مشكلات الحياة اليومية والعلاقات الشخصية، إذ قد تؤدي الموافقة التلقائية على افتراضات المستخدم إلى ترسيخ تصورات غير صحية أو زيادة حدة الخلافات بدلًا من مساعدة المستخدم على فهم الموقف من زوايا مختلفة.