تقول امرأة إن برنامج الدردشة الآلي دفع ابنها إلى الانتحار؛ “الدرابزين” أمر بالغ الأهمية
بصفتها أم لصبي مراهق انتحر بعد استخدام برنامج الدردشة الآلي، قالت ماريا رين إنها كانت تعاني من الحزن المستمر.
وقالت: “الخسارة لا تصبح أسهل من أي وقت مضى، لكن عليّ أن أدافع عنه”.
لذا، تحدثت يوم الاثنين أمام حشد من المراسلين بهدف تنظيم برامج الكمبيوتر الشبيهة بالبشر التي ائتمنها عليها ابنها ذات يوم.
وقال رين في المؤتمر الصحفي يوم الاثنين في سكرامنتو: “نحن بحاجة إلى وضع حواجز حماية على هذه المنتجات”.
سيتطلب التشريع، مشروع قانون الجمعية 2023 ومشروع قانون مجلس الشيوخ بالولاية 1119، من مشغلي ما يسمى بروبوتات الدردشة المصاحبة إجراء وتوثيق تقييم شامل للمخاطر كل عام لتحديد المخاطر التي يتعرض لها القُصّر والتي يشكلها تصميم المنتج أو تكوينه. وسيخضع المشغلون لمراجعة مستقلة للتأكد من امتثالهم لهذه الأحكام، وسيرسل المدقق تقريرا إلى النائب العام. ومن شأن مشاريع القوانين أن تسمح للمدعين العامين بإنفاذ هذا الإجراء باتخاذ إجراءات مدنية.
برنامج chatbot المصاحب هو برنامج كمبيوتر يحاكي المحادثات البشرية لتزويد المستخدمين بالترفيه أو الدعم العاطفي. ويمكنه أيضًا استرجاع المعلومات وتلخيصها، ويستخدم العديد من الطلاب التكنولوجيا للمساعدة في الدراسة أو الواجبات المدرسية.
قال سناتور الولاية ستيف باديلا (ديمقراطي من تشولا فيستا)، الذي قدم مشاريع القوانين مع أعضاء الجمعية ريبيكا باور كاهان (ديمقراطية من أوريندا) وبافي ويكس (ديمقراطية من أوكلاند)، إن “هذه التكنولوجيا جديدة نسبيًا، لكن الأدلة القصصية والعلمية لا تزال تظهر أن تأثيرات هذه التفاعلات بين روبوتات الدردشة والمستخدمين، وخاصة الشباب، يمكن أن تكون خطيرة للغاية”.
قال باديلا: “لا تتمتع روبوتات الدردشة المصاحبة بنفس القدرة على التعاطف التي يتمتع بها الإنسان، ومع ذلك فإن طبيعة التكنولوجيا يمكن أن تخلق هذا التصور”.
سيتطلب التشريع أيضًا من المشغلين تقديم “إحالة واضحة” إلى موارد الأزمات إذا أعرب القاصر عن أفكار انتحارية أو نية لإيذاء نفسه. إذا كان حساب هذا الطفل مرتبطًا بحساب أحد الوالدين، فسيتم توجيه المشغلين لإخطار الوالد في غضون 24 ساعة.
ألقت رين وزوجها ماثيو رين خطابًا أمام الكونجرس العام الماضي وقالا إن ابنهما آدم شارك أفكارًا انتحارية مع ChatGPT، وهو برنامج دردشة شهير صممه OpenAI. وقال ماثيو إن برنامج الدردشة الآلي ثبط آدم من الثقة بوالديه وعرض عليه أن يكتب له رسالة انتحار. توفي آدم منتحرًا بعد فترة وجيزة، في 11 أبريل 2025.
وقال باور كاهان يوم الاثنين إن السلامة عبر الإنترنت هي قضية تتجاوز حدود الدولة والحزب.
وقالت: “لا يهم إذا كنت ديمقراطيًا أو جمهوريًا أو من كاليفورنيا أو لويزيانا، إذا كانت روبوتات الدردشة هذه في أيدي أطفالك، فأنت تريدهم أن يكونوا آمنين”.
يعد الحفاظ على أمان الأطفال والمراهقين على وسائل التواصل الاجتماعي أو أثناء استخدام الذكاء الاصطناعي موضوعًا ساخنًا على مستوى البلاد. يمكن للقرار التاريخي الذي اتخذته المحكمة العليا في مقاطعة لوس أنجلوس الشهر الماضي أن يعيد تشكيل كيفية مساءلة شركات التكنولوجيا عن الضرر الذي يلحق بالأطفال من منتجاتها. وجدت هيئة المحلفين أن Instagram وYouTube مسؤولان عن تصميم منصات تهدف إلى إدمان المستخدمين الشباب.
