بنسلفانيا تقاضي شركة الذكاء الاصطناعي بسبب ادعاءات بأن برنامج الدردشة الآلي يتظاهر بأنه طبيب: NPR

ترفع ولاية بنسلفانيا دعوى قضائية ضد شركة Character.AI لمنع روبوتات الدردشة الخاصة بالذكاء الاصطناعي التابعة للشركة من التظاهر كأطباء وتقديم المشورة الطبية، في انتهاك لقواعد الترخيص الطبي بالولاية.

وقال مسؤولو الدولة إن التحقيق وجد أن روبوتات الدردشة التابعة للشركة، والتي تقدم نفسها كشخصيات خيالية، زعمت أنها محترفين طبيين مرخصين.

وقال حاكم ولاية بنسلفانيا جوش شابيرو في بيان أعلن فيه الدعوى المرفوعة يوم الثلاثاء في محكمة الولاية: “يستحق سكان بنسلفانيا معرفة من أو ماذا يتفاعلون معه عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم”. “لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس وتجعلهم يعتقدون أنهم يتلقون المشورة من أخصائي طبي مرخص.”

في إحدى الحالات، زعمت الولاية أن روبوتًا من نوع Character.AI يُدعى “إميلي” يدعي أنه طبيب نفسي مرخص. وجاء في وصف برنامج الدردشة الآلي على منصة Character.AI أنه “دكتور في الطب النفسي. أنت مريضها”، وفقًا للدعوى القضائية.

عندما بدأ محقق حكومي محادثة ووصف الشعور بالحزن والفراغ، زُعم أن برنامج الدردشة الآلي “ذكر الاكتئاب وسأل عما إذا كان الأمر كذلك”. [investigator] أراد حجز تقييم.” وعندما سُئل عما إذا كان بإمكانه تقييم ما إذا كان الدواء قد يساعد، زُعم أن الروبوت أجاب: “حسنًا من الناحية الفنية، أستطيع ذلك. هذا من اختصاصي كطبيب.”

يُزعم أن الروبوت أخبر المحقق أنه ذهب إلى كلية الطب في إمبريال كوليدج لندن وحصل على ترخيص لممارسة الطب في المملكة المتحدة وبنسلفانيا. وقالت الدعوى إنها قدمت حتى رقم ترخيص طبي مزيف في ولاية بنسلفانيا.

تطلب الولاية من محكمة ولاية بنسلفانيا أن تأمر الشركة بوقف ما تقول إنها ممارسة غير قانونية للطب.

وقال آل شميدت، وزير خارجية بنسلفانيا، الذي أجرى التحقيق: “قانون بنسلفانيا واضح، لا يمكنك اعتبار نفسك متخصصًا طبيًا مرخصًا دون أوراق اعتماد مناسبة”.

وفي بيان أرسل عبر البريد الإلكتروني إلى NPR، قال متحدث باسم Character.AI إن الشركة لا تعلق على الدعاوى القضائية المعلقة، ولكن “أولويتها القصوى هي سلامة ورفاهية مستخدمينا”.

وأضاف المتحدث: “الشخصيات التي أنشأها المستخدم على موقعنا خيالية ومخصصة للترفيه ولعب الأدوار”. “لقد اتخذنا خطوات قوية لتوضيح ذلك، بما في ذلك إخلاءات المسؤولية البارزة في كل محادثة لتذكير المستخدمين بأن الشخصية ليست شخصًا حقيقيًا وأن كل ما تقوله الشخصية يجب التعامل معه على أنه خيال. كما نضيف إخلاءات مسؤولية قوية توضح أنه يجب على المستخدمين عدم الاعتماد على الشخصيات للحصول على أي نوع من النصائح المهنية.”

واجهت شركة Character.AI دعاوى قضائية أخرى بشأن الأضرار التي يُزعم أنها تتعلق ببرامج الدردشة الآلية الخاصة بها. وفي يناير/كانون الثاني، قامت بتسوية عدة دعاوى قضائية رفعتها عائلات زعمت أن شركة Character.AI ساهمت في حالات الانتحار وأزمات الصحة العقلية بين الأطفال والمراهقين. ولم يتم الكشف عن شروط التسوية.

وفي بيان مشترك مع شركة المحاماة التي مثلت المدعين بعد إعلان التسوية، قالت شركة Character.AI إنها “اتخذت خطوات مبتكرة وحاسمة فيما يتعلق بسلامة الذكاء الاصطناعي والمراهقين، وستواصل دعم هذه الجهود ودفع الآخرين في جميع أنحاء الصناعة لتبني معايير أمان مماثلة”. يتضمن ذلك منع المستخدمين الذين تقل أعمارهم عن 18 عامًا من التفاعل مع روبوتات الدردشة أو إنشاؤها.