ماذا نقرأ هذا الأسبوع: مشروع مافن المرعب لكاترينا مانسون

مشروع مافن
كاترينا مانسون، دبليو دبليو نورتون

ويستخدم الجيش الإسرائيلي الذكاء الاصطناعي لتحديد الأهداف في غزة، وتفعل الولايات المتحدة الشيء نفسه في إيران، وتستمر أوكرانيا في استخدام الطائرات الذكية بدون طيار. حرب الذكاء الاصطناعي ليست مستقبل الصراع، بل هي الحاضر.

إن الكشف عن السياسات العالمية المتعلقة باستخدام الذكاء الاصطناعي من قبل الجيوش ــ الفوائد المحتملة، والمزالق، والأخلاقيات الغامضة ــ سوف يملأ الكتب لعقود قادمة. ولكن هذا ليس ما تعتزم كاترينا مانسون القيام به مشروع مافن. بدلاً من ذلك، استخدمت مقابلات مع أكثر من 200 شخص لتحكي قصة رحلة الجيش الأمريكي إلى حرب الذكاء الاصطناعي – أو واحدة منهم، حيث أن هناك 800 مشروع للذكاء الاصطناعي مخبأة في البنتاغون.

في عام 2017، تم إطلاق مشروع Maven لبناء أداة لمسح اللقطات من الطائرات بدون طيار واستخراج معلومات استخباراتية مفيدة – جمعت الطائرات بدون طيار بيانات أكثر مما يستطيع أي إنسان تفسيرها. يقول مانسون إن بداية مافن كانت صعبة. وقام الجيش بنشره مع جنود في الصومال بعد ثمانية أشهر من إطلاق المشروع، وأخبرت الخوارزميات المحللين أن هناك حافلات مدرسية في السحب وأشجارًا يسكنها الناس.

نحن نتتبع أحد قادة المشروع، حيث يعود إلى أيامه كضابط مخابرات في أفغانستان يحاول التخطيط للمهام وتوجيه القوات دون أي شيء أكثر من جهاز كمبيوتر محمول مغبر محمل ببرنامج Microsoft Office: أين العدو، أين الأمان، كيف يبدو النجاح؟

البشر في الحرب غير فعالين، يتعبون، يرتكبون الأخطاء. يمكن إزالة ضباب الحرب بواسطة الذكاء الاصطناعي، كما اعتقد بناة مشروع مافن الذي عادة ما يكون سريًا والذين تحدثوا إلى مانسون. لكنهم كانوا يعتزمون الذهاب إلى أبعد من ذلك بكثير: اختيار الأهداف، ومطاردتهم ثم قتلهم. وبدون اتخاذ قرارات بشرية بطيئة ومتعمدة، يمكن للروبوتات القاتلة أن تطغى على الأعداء بسرعة.

“نحن نقتل الأشخاص الخطأ طوال الوقت. يقول أحد المطلعين على الأمر: “لا يمكن للآلة أن تكون أسوأ من الإنسان”. قام الفريق بتطوير Maven إلى مجموعة من الأدوات وحاول إقناع الأشخاص الموجودين في الخطوط الأمامية بتبنيها. تحسنت النتائج، ولكن الأخطاء ما زالت تحدث.

ومنذ ذلك الحين، استخدمت الولايات المتحدة وأعضاء آخرون في حلف شمال الأطلسي (الناتو) نظام Maven في الصراعات. وتعمل نحو 32 شركة على ذلك، كما كتب مانسون، كما يقوم 25 ألف مستخدم عسكري أمريكي بتسجيل الدخول بانتظام. لكنها تتحدث أيضًا عن استخدامها عند المعابر الحدودية وفي مطاردة تجار المخدرات في منطقة البحر الكاريبي. هل يمكن لدولة تمتلك مثل هذه الأدوات أن تقاوم استخدامها على مواطنيها؟

يقول مانسون إن الأمر الأكثر إثارة للقلق هو أن العمل جارٍ لإخراج البشر من الحلقة تمامًا. يمكن لما يسمى بطائرات Goalkeeper الطائرة بدون طيار وطائرات Whiplash البحرية العثور على أهدافهم الخاصة والقضاء عليها. ولم يخترع البشر سلاحًا قط ولم يستخدموه.

من الصعب ألا نفكر في ستانيسلاف بيتروف، المقدم السوفييتي الذي استخدم في عام 1983 حكمه الخاص وقرر أن التقارير عن إطلاق صاروخ أمريكي كانت إنذاراً كاذباً وتجنب حرباً نووية شاملة. هل سيتخذ الذكاء الاصطناعي هذا القرار؟

على الرغم من كل الأفكار الرائعة حول ميفن، يخبرنا الكتاب المزيد عن بيروقراطية البنتاغون واستعداد وادي السليكون لتولي أي مشروع – مهما كان بغيضًا – إذا كانت الأموال مناسبة، أكثر مما يخبرنا به عن الذكاء الاصطناعي. إن وصول مانسون إلى هذه المعلومات أمر استثنائي، إلا أن طبيعة السرية العسكرية تعني أننا على الأرجح لن نعرف بالضبط ما هي التكنولوجيا التي أنتجتها حكومة الولايات المتحدة، وكيف ومتى يتم استخدامها، لسنوات قادمة.

لطالما كانت الحرب مزعجة للغاية، لكن الصراعات الحديثة حيث يراقب البشر شخصًا ما على بعد آلاف الأميال عبر طائرة بدون طيار ويقررون ما إذا كانوا يستحقون ضربة قاتلة جعلتها غير شخصية. إن تسليم هذا إلى الذكاء الاصطناعي يخاطر بجعل شن الحرب أمرًا سهلاً للغاية، ومن السهل جدًا تجاهل تداعياتها.

نحن بحاجة إلى التأكد من أن القوة التي تمنحها أسلحة الذكاء الاصطناعي يتم التعامل معها بالخطورة التي تستحقها، لكن مانسون يروي لنا قصة تقشعر لها الأبدان تشير إلى أن الواقع غير ذلك. وبحسب ما ورد قال أحد الأشخاص الذين تمت مقابلتهم، والذي كان يأمل في الانضمام إلى مشروع مافن، للجنة إن دافعهم هو “تقليل عدد السكان غير الأمريكيين” – ثم حصل على الوظيفة.

قراءتان رائعتان أخريان عن الذكاء الاصطناعي والحرب

صنع القنبلة الذرية بواسطة ريتشارد رودس

هناك الكثير من الدروس هنا حول المكان الذي يمكن أن يذهب إليه الذكاء الاصطناعي العسكري. فهو، مثل مشروع مانهاتن، يهدد بتصعيد التوترات العالمية بشكل دائم وزيادة مخاطر الحرب، فقط كبداية.

هل يجب علينا حظر الروبوتات القاتلة؟؟ بواسطة دين بيكر

هذا هو الغوص في النقاش من أستاذ الأخلاق، حيث ينظر إلى المشاكل الشائكة المتعلقة بالموثوقية والسيطرة والمساءلة عندما تقوم الحكومات بتسليم عمل الجنود إلى أجهزة الكمبيوتر.