دراسة تحذر من تأثير المحتوى الرديء على أداء الذكاء الاصطناعي

حذر باحثون من أن النماذج اللغوية الكبيرة قد تفقد دقتها وتصبح أكثر عرضة للأخطاء عند تدريبها على كميات ضخمة من المحتوى منخفض الجودة المنتشر على شبكات التواصل الاجتماعي.

وأظهرت دراسة حديثة نشرتها مجلة Nature أن الاعتماد على منشورات قصيرة سطحية أو محتوى إثاري يمكن أن يؤثر بشكل سلبي على أداء الذكاء الاصطناعي، ويؤدي إلى تراجع قدراته على المنطق والاستدلال واستخراج المعلومات من النصوص الطويلة، فضلا عن تأثيره على السمات الأخلاقية والشخصية للنماذج.

وقام علماء من جامعة تكساس في أوستن بتحليل سلوك نموذجين لغويين كبيرين بعد إعادة تدريبهما على مليون منشور من منصة تواصل اجتماعي شهيرة، وشمل التحليل نموذج "Llama" من شركة "ميتا"، المعروف باتباع التعليمات، ونموذج "Qwen" من "Alibaba Cloud"، المصنف كنموذج استدلالي.

وأوضحت النتائج أن نموذج "Llama" شهد تغيرات في سلوكه بعد تعرضه للبيانات منخفضة الجودة، حيث تراجعت السمات الإيجابية وبرزت سمات سلبية أخرى، كما أظهرت التجارب أن محاولات تصحيح الأخطاء عبر إعادة التدريب على بيانات عالية الجودة أو تعديل التعليمات حسنت الأداء جزئيا فقط، بينما استمرت المشكلات المتعلقة بالتفكير المنطقي وتخطي خطوات التحليل.

وتبرز أهمية هذه الدراسة في ظل اتجاه منصات التواصل الاجتماعي إلى استخدام بيانات المستخدمين بشكل أوسع لتدريب أنظمة الذكاء الاصطناعي، ما يطرح تساؤلات حول جودة البيانات وأثرها على موثوقية هذه النماذج المستقبلية.