OpenAI ورسالة التوقيع الإنسانية لمنع الأسلحة البيولوجية التي طورها الذكاء الاصطناعي

الرؤساء التنفيذيين ل تحث العديد من شركات الذكاء الاصطناعي الكبرى أعضاء الكونجرس على اعتماد قوانين جديدة من شأنها أن تجعل من الصعب على الجهات الفاعلة السيئة تطوير أسلحة بيولوجية باستخدام التكنولوجيا الخاصة بها.

كان ديميس هاسابيس من Google DeepMind، وسام ألتمان من OpenAI، وداريو أمودي من Anthropic، ومصطفى سليمان من Microsoft AI من بين الموقعين على رسالة عامة تدعو إلى سن قوانين تلزم الشركات التي تبيع الحمض النووي الريبي النووي والحمض النووي الريبي (RNA) بفحص العملاء وأوامر لمنع إساءة استخدام المواد الجينية.

تعترف الرسالة، التي نظمها معهد التقدم غير الحزبي ومؤسسة الابتكار الأمريكي ذات الميول اليمينية، أنه نظرا لوتيرة تطور الذكاء الاصطناعي، “فهناك احتمال حقيقي بأن تتآكل الحواجز المعرفية التي منعت تاريخيا الجهات الفاعلة السيئة من الحصول على أسلحة بيولوجية”.

كان العالم آرثر كورنبرج أول من نجح في تصنيع الحمض النووي في الخمسينيات من القرن العشرين. والآن أصبحت هذه العملية آلية، حيث تستخدم العشرات من الشركات في مختلف أنحاء العالم أجهزة توليف تجارية “لطباعة” وبيع تسلسلات جينية مخصصة تستخدم في البحث العلمي، وتطوير الأدوية، والتشخيص. يبيع العديد من مقدمي الخدمة فقط للباحثين المؤهلين، وشركات التكنولوجيا الحيوية، والمؤسسات التعليمية، ولكن ليس جميعهم عملاء للأطباء البيطريين أو تسلسلات الجينات التي يطلبونها.

في عام 2017، أثار الباحثون الكنديون ناقوس الخطر عندما استخدموا ما قيمته 100 ألف دولار من الحمض النووي الذي تم طلبه عبر البريد لإعادة تكوين فيروس جدري الخيل المنقرض. وقال النقاد إن نفس المنهجية يمكن استخدامها لتكوين مرض الجدري، وهو فيروس مميت وثيق الصلة بالموضوع. وقد أصبح تخليق الجينات أرخص منذ ذلك الحين.

إلى جانب التقدم في الذكاء الاصطناعي، أصبح من الممكن الآن تصميم سموم ومسببات أمراض جديدة خطيرة باستخدام نماذج لغوية كبيرة، على الرغم من أنه من المحتمل أن تظل هناك حاجة إلى بعض التدريب البيولوجي لصنع فيروس فعال من الصفر. ورغم أن الهجمات الإرهابية البيولوجية كانت نادرة، فإنها تنطوي على القدرة على التسبب في خسائر بشرية جماعية، والذعر العام، والخسائر الاقتصادية. أحد المخاوف الرئيسية هو أن مسببات الأمراض المصممة بواسطة الذكاء الاصطناعي يمكن أن تؤدي عن قصد أو عن غير قصد إلى حدوث جائحة عالمي.

يقول ديفيد ريلمان، عالم الأحياء الدقيقة وخبير الأمن الحيوي في جامعة ستانفورد، الذي وقّع الرسالة: “تمكّن أدوات الذكاء الاصطناعي المستخدم من تحديد المكان الذي يتجه إليه بسرعة كبيرة للحصول على تسلسلات الطلبات التي لن تخضع للفحص”. “إذا طُلب منهم ذلك بشكل مناسب، فيمكنهم أيضًا إخبارك بكيفية تغيير طبيعة طلبك، بحيث قد يكون حتى أولئك الذين يقومون بالفحص أقل قدرة على اكتشاف ما تحاول القيام به.”

ومن بين الموقعين علماء آخرون وخبراء في الأمن القومي ومديرون تنفيذيون من شركتي تصنيع الجينات Twist Bioscience وAnsa Biotechnologies. وهذه الشركات أعضاء في الاتحاد الدولي لتخليق الجينات، الذي تم تشكيله في عام 2009 لتنفيذ ممارسات الفحص التطوعي. وتستخدم العديد من الشركات بالفعل برامج لفحص الطلبات بحثاً عن “التسلسلات المثيرة للقلق” التي يمكن أن تساهم في سمية الكائن الحي أو قدرته على التسبب في المرض.

يقول جيمس ديجانز، نائب رئيس السياسة والأمن الحيوي في شركة Twist Bioscience: “إذا كانت لديك تقنية قادرة على تصنيع الحمض النووي، فيجب عليك التأكد من استخدامها بشكل مسؤول، وجزء من ذلك هو التأكد من أنك تفهم ما تصنعه ولمن تصنعه”. وقد دعمت الشركة تنفيذ القواعد الرسمية لسنوات.

طلبت المبادئ التوجيهية الفيدرالية التي تم تقديمها خلال إدارة بايدن من العلماء والشركات التي تتلقى تمويلًا فيدراليًا طلب تسلسلات الجينات الاصطناعية من مقدمي الخدمة الذين يقومون بفحص المشتريات. يتطلب مشروع القانون الذي قدمه الحزبان الجمهوري والديمقراطي في وقت سابق من هذا العام في مجلس الشيوخ من جميع مقدمي تخليق الجينات العاملين في الولايات المتحدة فحص الطلبات والعملاء بحثًا عن العناصر السيئة أو مسببات الأمراض الخطيرة.

لكن أدوات الفحص ليست مثالية. في العام الماضي، نشر باحثون من مايكروسوفت دراسة تظهر أن أدوات تصميم بروتين الذكاء الاصطناعي كانت قادرة على توليد تسلسلات جينية يحتمل أن تكون خطرة، والتي تجاوزت برامج الفحص الخاصة بالشركات. اقترحت النماذج تسلسلات بروتينية جديدة ذات هياكل مماثلة لتلك المعروفة بخطورتها.

يعتقد جيف رالستون، الرئيس السابق لشركة Y Combinator والشريك في Safe AI Fund، أن مختبرات الذكاء الاصطناعي التي تحتوي على نماذج بيولوجية يجب أن تقوم بفحص المستخدمين بنفسها.

يقول رالستون، الذي وقع أيضًا على الرسالة: “يجب أن يكون من الصعب جدًا، إن لم يكن من المستحيل، أن تطلب من عارضة أزياء أن تساعدك على القيام بشيء خطير وشيك”.

ويوافق ريلمان على أن القواعد التنظيمية المتعلقة بإجراءات الفحص ليست سوى جزء من الحل. ويقول: «نظرًا لأن الفحص قد يفشل في بعض الحالات، فلا بد أن تكون لدينا نقاط تحكم أخرى». “هذا هو المكان الذي سيتعين على شركات الذكاء الاصطناعي أن تتقدم فيه.”