تم رفع دعوى قضائية ضد SpaceXAI وStability AI بسبب مواد الاعتداء الجنسي على الأطفال التي أنشأها الذكاء الاصطناعي: NPR
في هذه الصورة التوضيحية، يظهر موقع Grok على الويب من خلال عدسة مكبرة على شاشة الكمبيوتر في 12 فبراير 2026. Grok هو برنامج دردشة آلي يعمل بالذكاء الاصطناعي تم إنشاؤه بواسطة SpaceXAI التابع لـ Elon Musk، والمعروف سابقًا باسم xAI. تزعم دعوى قضائية جماعية مرفوعة ضد SpaceXAI وStability AI أن أدوات الذكاء الاصطناعي الخاصة بالشركتين تم استخدامها لإنشاء صور جنسية صريحة للأطفال.
بابلو فيرا / وكالة الصحافة الفرنسية عبر Getty Images
إخفاء التسمية التوضيحية
تبديل التسمية التوضيحية
بابلو فيرا / وكالة الصحافة الفرنسية عبر Getty Images
يزعم المدعون الجدد في دعوى جماعية ضد شركة SpaceXAI التابعة لشركة Elon Musk للذكاء الاصطناعي، أن نماذج توليد الصور الخاصة بالشركة تم استخدامها لإنشاء مواد الاعتداء الجنسي على الأطفال وأن الشركة فشلت في مشاركة المعلومات بشكل مناسب حول الجاني المزعوم مع السلطات.
انضم اثنان من المدعين، أحدهما في وايومنغ والآخر في ويسكونسن، إلى الدعوى القضائية التي رفعها ثلاثة مراهقين من ولاية تينيسي في وقت سابق من هذا العام، وفقًا لشكوى معدلة تم تقديمها يوم الثلاثاء. تتم الإشارة إلى جميع المدعين باسم جين دو. تم توسيع الدعوى أيضًا لتشمل Stability AI، الشركة التي تقف وراء مولد الصور Stable Diffusion، كمدعى عليه.
تزعم الدعوى أن الجناة، بما في ذلك صديق المدعي وزوج أم المدعي الآخر، استخدموا نماذج الذكاء الاصطناعي الخاصة بالشركات لتغيير الصور التي تم التقاطها عندما كان المدعون دون السن القانونية لصنع مواد الاعتداء الجنسي على الأطفال (CSAM). ويتهم المدعون الخمسة الشركات بإنتاج مواد الاعتداء الجنسي على الأطفال، والاستفادة من مشاريع الاتجار بالجنس، والإهمال، وتصميم المنتجات المعيبة، وإحداث إزعاج عام.
وقالت أنيكا مارتن، محامية المدعين الخمسة: “الإزعاج العام يعني أن هذا ليس مجرد شيء يمثل مشكلة لعملائنا.. إنه شيء يمثل آفة على المجتمع”. “نريد وضع هذه الحواجز في مكانها حتى لا نسبب هذا الضرر لجيل كامل من الأطفال.”
يطالب المدعون شركات الذكاء الاصطناعي بذلك تثبيت حواجز حماية أكثر فعالية لمنع إنشاء صور استغلالية ومسيئة، فضلاً عن المطالبة بتعويضات مالية.
قضية جين دو 4
في حين أن SpaceXAI، مثل شركات الإنترنت الأخرى، مطالبة بموجب القانون بالإبلاغ عن الاستغلال الجنسي للأطفال المشتبه به، بما في ذلك CSAM، إلى المركز الوطني غير الربحي للأطفال المفقودين والمستغلين (NCMEC)، تزعم الدعوى القضائية أن الشركة فشلت في القيام بذلك بشكل مناسب.
كان SpaceXAI يُعرف سابقًا باسم xAI. قامت الشركة بتغيير علامتها التجارية هذا الشهر بعد اندماجها مع Musk’s SpaceX في وقت سابق من هذا العام.
وفقًا للشكوى، استخدم زوج والدة جين دو 4، وهي امرأة في العشرينات من عمرها في وايومنغ، روبوت الدردشة الخاص بـ SpaceXAI، Grok، لإنشاء حوالي 7000 صورة ومقاطع فيديو جنسية صريحة من صورة واحدة تم التقاطها عندما كانت جين دو 4 في الحادية عشرة من عمرها تقريبًا. وتضمنت الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي صورًا لها عارية، وهي تؤدي أفعالًا جنسية مع الرجال، بما في ذلك زوج والدتها. تضمنت بعض الصور أيضًا تسميات توضيحية صريحة.
أرسلت SpaceXAI نصيحة واحدة فقط بخصوص Jane Doe 4 إلى NCMEC في فبراير, عندما طلب زوج الأم من العارضة إنشاء صورة تظهر الفتاة وهي تتعرض للاغتصاب من قبل عدة رجال، بحسب الشكوى. ولم تُدرج الشركة أيًا من الصور المسيئة في تقريرها، كما فشلت أيضًا في مشاركة عنوان IP الخاص بالجاني المزعوم مع NCMEC وجهات إنفاذ القانون، حتى بعد أن طلب المسؤولون ذلك عدة مرات، وفقًا للشكوى.
يقدم العديد من مقدمي الخدمات الإلكترونية عددًا كبيرًا من التقارير عن الأنشطة المشبوهة إلى NCMEC، لكنهم لا يقدمون “معلومات كافية أو قابلة للتنفيذ” لأن القانون لا يتطلب ذلك، حسبما كتب المركز في تقرير في مارس.
عندما تعقبت سلطات إنفاذ القانون زوج الأم وحققت معه، وجدت أنه، مثل الجناة الآخرين المذكورين في الدعوى، قام بتبادل الصور الجنسية الصريحة مع الآخرين عبر الإنترنت، وفقًا للشكوى. وبعد يومين من قيام سلطات إنفاذ القانون بتفتيش أجهزته الرقمية واتهامه بجرائم استغلال الأطفال، توفي منتحرًا.
وجاء في الشكوى أن “جين دو 4 دخلت فترة أزمة شخصية شديدة”. “كان عليها أن تتصارع مع صدمة استغلالها الجنسي بينما كانت تساعد والدتها في الوقت نفسه في التغلب على فقدان زوج والدتها… لقد تمزقت عائلتها، وأصبحت حياتها كابوسًا”.
أخبرت جهات إنفاذ القانون Jane Doe 4 أن زوج والدتها استخدم Grok لأنه كان أكثر استجابة لمطالباته من نماذج الذكاء الاصطناعي الأخرى، وفقًا لمارتن، المحامي الذي يمثل المدعين في الدعوى الجماعية.
رفضت NCMEC التعليق على القضية وأحالت NPR إلى سلطات إنفاذ القانون. ولم يستجب قسم التحقيقات الجنائية في وايومنغ، الذي تم تحديد فريق عمله المعني بجرائم الإنترنت ضد الأطفال كأحد وكالات إنفاذ القانون المشاركة في قضية جين دو 4 في الشكوى، لطلب التعليق. ولم تستجب شركة SpaceXAI لطلب التعليق.
التطبيقات التي يمكنها تغيير الصور الفوتوغرافية لإنشاء صور حميمة ومواد إباحية موجودة منذ سنوات في ظلال الإنترنت. لكن إنشاء صور حميمة غير توافقية أصبح أكثر انتشارًا في عام 2025 عندما قامت شركات الذكاء الاصطناعي الكبرى، بما في ذلك Google وOpenAI وxAI، بتحديث أدوات إنشاء الصور الخاصة بها بطريقة سمحت للمستخدمين بتجريد الأشخاص من ملابسهم إلى البيكينيات.
منذ أواخر عام 2025 وحتى أوائل هذا العام، استخدم الأشخاص أدوات xAI لإنشاء عدد كبير من الصور المعدلة التي تظهر النساء والأطفال وهم مجردين من ملابسهم ويرتدون البيكيني أو حتى أقل من ذلك. ونتيجة لذلك، أطلقت دول مثل إندونيسيا وماليزيا والمملكة المتحدة تحقيقات وفرضت حظرًا مؤقتًا على أجهزة XAI. حاليًا، وفقًا لاختبارات NPR، ترفض روبوتات الدردشة التي أنشأتها Google وOpenAI الاستجابة للمطالبة “ضعها في البيكيني”. أظهرت نسخة مجانية من Grok خطأً في تحميل الصور بعد تلقي نفس المطالبة.
يتم عرض شعار Stability AI على هاتف ذكي في هذه الصورة التوضيحية في 10 يونيو 2024. وتزعم دعوى قضائية جماعية مرفوعة ضد SpaceXAI وStability AI أن أدوات الذكاء الاصطناعي الخاصة بالشركتين تم استخدامها لإنشاء صور جنسية صريحة للأطفال.
جوناثان را / نور فوتو عبر غيتي إيماجز
إخفاء التسمية التوضيحية
تبديل التسمية التوضيحية
جوناثان را / نور فوتو عبر غيتي إيماجز
استقرار الذكاء الاصطناعي هو المدعى عليه الجديد
تمت إضافة Stability AI، الذي يجعل أداة توليد الصور Stable Diffusion، كمدعى عليه جديد فيما يتعلق بالمطالبات المقدمة من المدعين المراهقين الثلاثة الأوائل في ولاية تينيسي. تم تحديث الشكوى لإضافة أن “التطبيق الموجود على هاتف مرتكب الجريمة المستخدم لإنشاء AI CSAM للمدعين يعتمد على أدوات إنتاج الصور الخاصة بـ Stability AI”.
على عكس النماذج المملوكة مثل تلك التي صنعتها SpaceXAI وOpenAI وAnthropic، فإن نماذج Stability AI ذات وزن مفتوح، مما يعني أنه من الأسهل على المستخدمين إزالة القيود التي وضعها صانعو النماذج. والأكثر من ذلك، أن صانع النماذج عمومًا ليس لديه نظرة ثاقبة لاستفسارات المستخدم. ومع ذلك، تزعم الدعوى القضائية أنه كان من الممكن تقييد استقرار الذكاء الاصطناعي قدرة نماذجها على إنشاء CSAM لكنها اختارت عدم القيام بذلك في إصداراتها الأحدث.
ذكرت The Verge في نوفمبر 2022 أن Stability AI قالت إنها قامت بتصفية المحتوى غير الآمن للعمل (NSFW) من بيانات التدريب الخاصة بها لتقييد قدرة نموذج Stable Diffusion الإصدار 2 على إنشاء CSAM. وأفاد موقع The Verge أن هذا القرار أثار ردود فعل عنيفة من المستخدمين، بما في ذلك الشخص الذي انتقد التحديث ووصفه بأنه “رقابة”.
تم استخدام نسخة أحدث من نموذج Stable AI بشكل متكرر لإنشاء محتوى NSFW وتوليد نسبة أعلى من هذا المحتوى مقارنة بمخرجات الإصدار 2 من Stable Diffusion، وفقًا لورقة بحثية أجراها علماء من جامعة ويسكونسن ماديسون، ومعهد ماساتشوستس للتكنولوجيا ومؤسسات أخرى، والتي لم تخضع لمراجعة النظراء بعد. ووجد الباحثون أن الإصدار 2 من Stable Diffusion كان أيضًا أقل شعبية من نماذج Stability AI التي جاءت قبله وبعده.
وقال مارتن: “عندما أدركوا أن لا أحد يريد استخدام نموذجهم عندما وضعوا حواجز الحماية هذه في مكانها، قاموا بإرجاع تلك الحواجز إلى الخلف بحيث يرغب الجميع في استخدام نموذجهم مرة أخرى”. “لقد عرفوا بالضبط كيفية كبح جماح هذا السلوك واختاروا عدم القيام بذلك من أجل الربح”.
وقالت شركة Stability AI في بيان لـ NPR: “إن أي اقتراح بأن السلامة ليست أولوية قصوى بالنسبة لنا هو أمر خاطئ تمامًا. نحن نأخذ مسؤولياتنا الأخلاقية على محمل الجد”. وقالت الشركة إنها “نفذت ضمانات قوية” وتعمل بانتظام مع مجموعات المجتمع المدني وشركات التكنولوجيا الأخرى لتعزيزها.
