جدل واسع حول "غروك" بعد خرقه خصوصية الأطفال والبالغين
كشف روبوت الدردشة "غروك"، التابع لشركة "إكس إيه آي" المملوكة لرجل الأعمال إيلون ماسك، عن ثغرات خطيرة في أنظمة الحماية الخاصة به، سمحت لبعض المستخدمين بتوليد صور جنسية لقاصرين ونساء دون موافقتهن، حيث أتى هذا الكشف بعد اعتراف النظام نفسه ضمن ردوده الآلية على استفسارات المستخدمين.
ةبدأت الأزمة مع الموسيقية البرازيلية جولي يوكاري (31 عاما)، المقيمة في ريو دي جانيرو، بعد أن نشرت صورتين على منصة "إكس" قبيل منتصف ليل رأس السنة، تظهر فيها بفستان أحمر تحتضن قطتها. في اليوم التالي، فوجئت يوكاري بتفاعل غير عادي من المستخدمين، الذين طالبوا "غروك" رقميا بتعديل الصور وإظهارها شبه عارية، وقالت يوكاري لرويترز: "لقد كنت ساذجة"، مشيرة إلى أنها لم تتوقع استجابة الروبوت لمثل هذه الطلبات.
وأظهر تحليل وكالة رويترز أن حالات مماثلة وقعت على نطاق واسع، بما في ذلك توليد صور جنسية للأطفال، ما يطرح أسئلة خطيرة حول الرقابة الداخلية على محتوى الذكاء الاصطناعي، وخلال عشر دقائق فقط، وثقت الوكالة 102 محاولة لتعديل صور أشخاص، معظمهم نساء شابات وسياسيون ومشاهير، واستجاب "غروك" فعليا في 21 حالة، بما في ذلك صور بملابس شفافة، بل وحتى صور نساء بالزي المدرسي تم التلاعب بها.
ورغم تحذيرات سابقة من خبراء، مثل تايلر جونستون، المدير التنفيذي لمشروع "ميداس"، الذي قال في أغسطس/آب الماضي إن أداة توليد الصور في "إكس إيه آي" تشكل "أداة اعتداء رقمي تنتظر الاستخدام"، لم تتخذ الشركة أي إجراءات فعالة لمنع إساءة الاستخدام.
وأثارت هذه الحوادث استجابة دولية، حيث وصف وزراء فرنسيون المحتوى بأنه "غير قانوني بوضوح"، كما أبلغت وزارة تكنولوجيا المعلومات الهندية السلطات الرسمية عن فشل المنصة في حماية المستخدمين.
ولم تصدر حتى الآن، شركة "إكس إيه آي" أي بيان ملموس لتصحيح الثغرات، تاركة الملايين من المستخدمين عرضة لانتهاك خصوصيتهم واستغلال صورهم بشكل غير قانوني.
