تقاضي العائلات شركة OpenAI بسبب استخدام مطلق النار الجماعي Tumbler Ridge لـ ChatGPT: NPR

رفعت عائلات المصابين والقتلى في إطلاق نار بمدرسة في تمبلر ريدج، كولومبيا البريطانية، دعوى قضائية ضد شركة OpenAI بتهمة الإهمال وتقديم نسخة معيبة بشكل خطير من ChatGPT إلى مطلق النار.

تزعم الدعاوى السبع، المرفوعة أمام المحكمة الفيدرالية في سان فرانسيسكو، أن OpenAI فشلت في اتخاذ الإجراءات التي كان من الممكن أن تمنع الإصابات والوفيات في إطلاق النار، الذي وقع في 10 فبراير. وتزعم الدعاوى أن الشركة فشلت في إبلاغ السلطات بمحادثات مطلق النار مع ChatGPT، وأن ChatGPT نفسه كان منتجًا معيبًا ولم يتحدى مطلق النار أو يوجهها لطلب المساعدة في العالم الحقيقي.

الدعاوى هي الأحدث التي تسعى إلى تحميل شركة تكنولوجيا المسؤولية عن تصميم منتجاتها، وهو نهج قانوني جديد يتم استخدامه بشكل متزايد ضد صانعي برامج الدردشة الآلية ووسائل التواصل الاجتماعي والمنصات الأخرى.

وقال إديلسون في مقابلة مع NPR: بالنسبة لأولئك الذين فقدوا أحباءهم، “لا يوجد شيء يمكن للنظام القانوني أن يفعله من شأنه أن يعيدهم إلى حالتهم الطبيعية مرة أخرى”. وأضاف أنهم يأملون أن تؤدي التجارب إلى مساءلة قيادة OpenAI: “لا ينبغي الوثوق بهم لامتلاك أقوى تكنولوجيا استهلاكية على هذا الكوكب”.

في بيان ردًا على الدعاوى القضائية، قالت OpenAI إن لديها سياسة “عدم التسامح مطلقًا” مع استخدام أدواتها للمساعدة في ارتكاب أعمال العنف:

وقال متحدث باسم OpenAI لـ NPR في رسالة بالبريد الإلكتروني: “لقد عززنا بالفعل ضماناتنا، بما في ذلك تحسين كيفية استجابة ChatGPT لعلامات الضيق، وربط الأشخاص بالدعم المحلي وموارد الصحة العقلية”.

وفي تدوينة مطولة نُشرت في وقت متأخر من يوم الثلاثاء، أوضحت OpenAI سياساتها أيضًا: “عندما تشير المحادثات إلى وجود خطر وشيك وذو مصداقية لإلحاق الأذى بالآخرين، فإننا نخطر سلطات إنفاذ القانون”.

“الربح على الأرواح”

يعد إطلاق النار في تمبلر ريدج من بين أكثر الحوادث دموية في تاريخ كندا. وحدث ذلك عندما دخل جيسي فان روتسيلار، 18 عامًا، المدرسة الثانوية المحلية ومعه مسدس طويل ومسدس معدل، وفقًا للسلطات. شرعت فان روتسيلار في قتل خمسة طلاب ومعلم قبل أن تقتل نفسها. وعلمت السلطات لاحقًا أنها قتلت أيضًا والدتها وأخيها غير الشقيق البالغ من العمر 11 عامًا في منزلهما قبل مجيئها إلى المدرسة. وأصيب نحو عشرين آخرين في الهجوم.

تزعم الدعاوى القضائية المرفوعة يوم الأربعاء أن ChatGPT، وتحديدًا النموذج GPT-4o، لعب دورًا حاسمًا في الأحداث التي وقعت في Tumbler Ridge. تزعم إحدى الشكاوى المقدمة نيابة عن مايا جيبالا، البالغة من العمر 12 عامًا والتي أصيبت بجروح خطيرة في إطلاق النار، أن فان روتسيلار كانت على ChatGPT قبل أشهر من إطلاق النار، وأنه في يونيو من عام 2025، وضع نظام OpenAI الآلي علامة على حسابها بسبب “نشاط وتخطيط العنف المسلح”.

وقام فريق السلامة بمراجعة المحتوى وحث إدارة OpenAI على إخطار السلطات، لكن الشكوى تزعم أن قيادة الشركة اختارت بدلاً من ذلك إلغاء تنشيط الحساب. وتقول الدعوى القضائية إنهم فشلوا أيضًا في التصرف، عندما أنشأت مطلقة النار حسابًا ثانيًا وواصلت محادثاتها مع ChatGPT.

في الأسبوع الماضي، اعتذر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، للمجتمع:

وكتب: “أنا آسف بشدة لأننا لم ننبه سلطات إنفاذ القانون إلى الحساب الذي تم حظره في يونيو”. “للمضي قدمًا، سيستمر تركيزنا على العمل مع جميع مستويات الحكومة للمساعدة في ضمان عدم حدوث شيء مثل هذا مرة أخرى أبدًا.”

بالإضافة إلى الفشل المزعوم في إخطار السلطات بالخطر الوشيك، تزعم الدعوى القضائية أن شركة OpenAI قامت عمدًا بطرح منتج معيب للجمهور.

تقول الشكوى المقدمة من Gebala: “كان هجوم Tumbler Ridge نتيجة متوقعة تمامًا لاختيارات التصميم المتعمدة التي قامت بها OpenAI مع المعرفة الكاملة بالمكان الذي أدت إليه هذه الاختيارات”. “تم تصميم GPT-4o لقبول الأفكار العنيفة للمستخدمين وتعزيزها وتوضيحها بدلاً من تحديهم أو مقاطعتهم أو توجيه المستخدمين إلى المساعدة في العالم الحقيقي.”

وقال تيم ماربل، الذي عمل في OpenAI في القسم المسؤول عن اكتشاف التهديدات، إن الأحداث المحيطة بـ Tumbler Ridge هي “دليل واضح قدر الإمكان على الخطر الأخلاقي الذي يأتي مع مركزية السلطة على السلامة في مكان مثل OpenAI”. وقال ماربل، الذي يشغل الآن منصب المدير المشارك لمنظمة Maiden Labs، وهي منظمة غير ربحية تعمل على تحديد مخاطر الذكاء الاصطناعي، إنه لم يتفاجأ بفشل الشركة في الاتصال بالسلطات.

وقالت ماربل، التي لا علاقة لها بالدعوى القضائية الأخيرة: “عندما عملت هناك ومنذ مغادرتي، الشيء الوحيد الذي يمكنني رؤيته يميز سلوكهم هو عدم الكفاءة والجشع”. ويعتقد أن التنظيم، بما في ذلك قوانين الإبلاغ الإلزامي، ضروري لمنع حدوث مآسي مماثلة مرة أخرى.

مخاوف حرية التعبير

ولكن لا يتفق الجميع على أن الدعاوى القضائية واللوائح التنظيمية ستساعد في منع المآسي مثل Tumbler Ridge.

وقال إريك جولدمان، العميد المساعد للأبحاث في كلية الحقوق بجامعة سانتا كلارا: “إن الأسباب التي تدفع شخصًا ما إلى ارتكاب أعمال وحشية غالبًا ما تكون غير واضحة”. ويشعر جولدمان بالقلق من أن التنظيم الصارم للغاية يمكن أن يجعل روبوتات الدردشة أقل فائدة لأولئك الذين يحتاجون إليها. كما أنه يرفض فكرة وجوب التعامل مع برامج الدردشة الآلية على أنها منتجات معيبة. بالنسبة له، القضية تتعلق حقًا بحرية التعبير.

“أود أن أطرح بعض الأسئلة الصعبة حقًا حول دعوى قضائية كهذه. هل هذه حقًا هي الطريقة الصحيحة لتنظيم التعبير، على الرغم من أنه في بعض الحالات، يمكن أن يساهم التعبير في اتخاذ الأشخاص خيارات سيئة في حياتهم؟” قال جولدمان.

وبغض النظر عن ذلك، قال جولدمان إن الإهمال والشكاوى المتعلقة بالمنتجات المعيبة آخذة في التزايد. وقال “إن هذه النظريات القانونية هي الحدود الجديدة لقانون الإنترنت”.

المزيد في المستقبل

يوافق ميتالي جاين، المدير التنفيذي لـ Tech Justice Law، وهي مجموعة مناصرة تنتقد صناعة التكنولوجيا والتي شاركت في العديد من الدعاوى القضائية ضد الشركات الكبيرة، على أن عدد التحقيقات المدنية والجنائية في شركات الذكاء الاصطناعي آخذ في الارتفاع.

ساعدت مجموعة جاين في تمثيل عائلة مراهق مات منتحرًا بعد أن أجرى محادثات مكثفة مع برنامج الدردشة الآلي الذي أنشأته شركة Character.AI. هذه القضية تجري حاليًا محادثات تسوية، لكنها تسمع المزيد والمزيد من الأمثلة على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تسبب مشاكل: “في العام الماضي بدأنا في تلقي قصص الأشخاص الذين تضرروا” من قبل روبوتات العديد من الشركات المختلفة، على حد قولها.

وقالت جاين إنها تتوقع رؤية المزيد من الدعاوى القضائية مثل تلك التي تم رفعها يوم الأربعاء في المستقبل. وفي غياب تنظيم قوي، قال جاين إن المطالبات المدنية توفر “حصنا ضد استمرار شركات الذكاء الاصطناعي في التحرك بتهور ودون أي قيود على الإطلاق”.