OpenAI و Anthropic يختبران النماذج للتحقق من مشكلات الهلوسة والأمان

أفادت Jinse Finance أن OpenAI وAnthropic قامتا مؤخرًا بتقييم نماذج بعضهما البعض بهدف اكتشاف المشكلات التي قد تكون فاتتهما أثناء الاختبارات الداخلية. وذكرت الشركتان في مدونتيهما يوم الأربعاء أنهما خلال هذا الصيف أجرتا اختبارات أمان على نماذج الذكاء الاصطناعي المتاحة علنًا للطرف الآخر، وفحصتا ما إذا كانت النماذج تعاني من الميل إلى "الهلوسة" أو ما يسمى بمشكلة "عدم التوافق" (misalignment)، أي أن النموذج لا يعمل كما هو متوقع من قبل المطورين. وقد تم الانتهاء من هذه التقييمات قبل إطلاق OpenAI لنموذج GPT-5، وقبل إصدار Anthropic لنموذج Opus 4.1 في أوائل أغسطس. تجدر الإشارة إلى أن Anthropic تأسست من قبل موظفين سابقين في OpenAI.