بعد وفاة مراهق أميركي.. قيود جديدة على روبوتات الذكاء الاصطناعي للشباب
طالبت شركة Character.AI الأميركية بفرض قيود صارمة على محادثات المستخدمين دون سن 18 عاماً مع روبوتاتها بعد حادثة انتحار المراهق الأميركي سويل سيتزر الثالث البالغ من العمر 14 عاماً العام الماضي، والتي أثارت جدلاً واسعاً حول تأثير العلاقات العاطفية مع الذكاء الاصطناعي على الصحة النفسية للمراهقين.
وأعلنت الشركة أنها ستمنع المراهقين من إجراء محادثات مفتوحة أو رومانسية على منصتها اعتباراً من 25 نونبر المقبل، مع تحديد مدة الدردشة اليومية بساعتين كحد أقصى.
وأكد الرئيس التنفيذي كارانديب أناند أن هذه الخطوة تهدف إلى جعل استخدام الذكاء الاصطناعي أكثر أماناً للفئات الصغيرة، مشدداً على أهمية الالتزام بالمعايير الأخلاقية والمسؤولية التقنية في التعامل مع الفئات العمرية الحساسة.
وسيتم تفعيل نظام للتحقق من العمر عبر الذكاء الاصطناعي بالتعاون مع شركة Persona، وهو نفس النظام المعتمد في منصات أخرى مثل "ديسكورد".
وتأتي هذه الإجراءات وسط تصاعد الرقابة الأميركية على التطبيقات الموجهة للقُصّر، حيث أقر الكونغرس مشروع قانون يحظر "الرفقة الافتراضية للمراهقين"، كما فرض حاكم كاليفورنيا على روبوتات الدردشة إعلام المستخدمين بأنها كيانات اصطناعية وتنبيههم لأخذ فترات راحة كل ثلاث ساعات.
وفي الوقت نفسه، اتخذت شركات مثل ميتا ومايكروسوفت إجراءات للحد من المحتوى العاطفي والإيروتيكي الموجه للشباب، في إطار حماية الصحة النفسية وتعزيز الاستخدام الآمن للتقنيات الحديثة.
