خطأ الذكاء الاصطناعي الذي كاد أن يشعل حربا أمريكية غبية مع الصين

كتب:هاني الكنيسي
تقرير استخباراتي واحد، أُعدّ بمساعدة الذكاء الاصطناعي، كاد أن يدفع الولايات المتحدة والصين إلى مواجهة عسكرية مباشرة، في ذروة الحرب الأمريكية على إيران.
هذا ما كشفته شبكة “سي إن إن” CNN في تقرير استقصائي استند إلى أربعة مصادر مطّلعة على تفاصيل الواقعة، التي بدأت حين انتشر تقرير استخباراتي داخل صفوف الجيش الأمريكى يزعم أن سفينة صينية في الشرق الأوسط كانت تنقل مكونات خاصة ببرنامج أسلحة نووي، لتُطلق فورًا سلسلة إجراءات تصعيدية خطيرة كادت تنتهي بكارثة.
وفقاً التقرير، وضع الجيش الأمريكى فورًا خطة لاعتراض السفينة، إذ أكد اثنان من المصادر المطّلعة على تفاصيل الواقعة أن عناصر من ‘المارينز’ كانوا يستعدون بالفعل لاعتلاء ظهر السفينة، بل إن طائرات حربية تابعة لسلاح البحرية حلّقت في الجو استعدادًا لتنفيذ العملية.
ولم يكتشف المسؤولون الأمريكيون “الخطأ الجسيم” إلا قبل وقت قصير من الموعد المقرر للعملية، حين أعادوا فحص التقرير الذي أعده أحد المحللين العاملين في “قيادة العمليات الخاصة”، ليتبين أن التقرير أُعدّ بمساعدة الذكاء الاصطناعي، وأن برنامج المحادثة الآلي chatbot الذي استخدمه المحلل قد أخطأ في تحديد طبيعة الشحنة التي كانت السفينة تحملها فعليًا. لكن شبكة “سي إن إن” لم تتمكن من معرفة ماهية الشحنة الحقيقية التي أُسيء تحديدها.
ووصف أحد المصادر التقرير بأنه كان “خاطئًا بالكامل”، مضيفًا أنه مع ذلك “كاد يُشعل حربًا”، لأن أي عملية عسكرية أمريكية ضد سفينة صينية كانت ستحمل مخاطر انزلاق العلاقة بين البلدين نحو صدام مسلح مباشر.
وتفصيلاً، استقى المحلل استعلامه من برنامج الدردشة الآلي بناءً على معلومات استخباراتية متعلقة ببيان حمولة السفينة (manifest)، كانت قد صدرت أصلاً عن “قيادة العمليات الخاصة في المحيط الهادئ”، ومقرها في ولاية هاواي، دون أن يتضح ما إذا كان برنامج المحادثة أداة تجارية متاحة للجميع أم نظامًا حكوميًا أميركيًا مخصصًا.
وفي هذا السياق، نقلت CNN عن مسؤول أمريكي سابق رفيع المستوى، مطّلع على أنظمة الذكاء الاصطناعي المستخدمة من قبل محللي الجيش والاستخبارات، وصفه اللاذع لهذه الأدوات بقوله إن “الأدوات الداخلية في معظمها مجرد نسخ من المنتجات التجارية بعد وضع القليل من المساحيق عليها”، في إشارة إلى أنظمة داخلية أقل تطورًا مما يُروَّج له.
المفاجأة الأهم، أن برنامج المحادثة الإلكتروني جمع “معلومات مفتوحة المصدر” مع معطيات استخباراتية سرية محفوظة في قواعد بيانات حكومية، ليخلص إلى استنتاج خاطئ تمامًا حول طبيعة المواد التي كانت السفينة تنقلها، قبل أن يستخدم المحلل الذكاء الاصطناعي مجددًا لصياغة هذه النتائج في تقرير استخباراتي رسمي من النوع الذي اعتاد المسؤولون العسكريون الوثوق به، ثم يُعمَّم على نطاق واسع.
وحذّر أحد المصادر المطّلعة على سياسات البنتاغون العسكرية الحالية من أن الاعتماد “الجامح” على الذكاء الاصطناعي في عمليات تحديد الأهداف، ينطوي على مخاطر واضحة وأخطاء كارثية محتملة، قائلا “لا توجد إرشادات حقيقية توضح كيف يمكن لوجود عنصر بشري ضمن حلقة اتخاذ القرار أن يمنع وقوع ضحايا مدنيين أو حوادث نيران صديقة”.
وبحسب مصدر آخر، فإن هذا النوع من “الهلوسة” hallucination المعلوماتية التي أنتجها البرنامج المستخدم في تلك الحادثة تحديدًا لم يكن حالة معزولة داخل مجتمع الاستخبارات منذ بدأت هذه الأنظمة تنتشر عبر أروقة الحكومة الأمريكية، لا سيما بين المحللين الأصغر سنًا، الذين نشأوا على استخدام هذه الأدوات، وباتوا أكثر ميلاً للوثوق بها دون تدقيق كافٍ.
والمفارقة، أن هذه الحادثة (الفضيحة) تأتي في وقت يتوجه فيه الجيش الأمريكى ومجتمع الاستخبارات “رسمياً” إلى دمج الذكاء الاصطناعي AI في جميع عملياتهما الأساسية تقريبًا، من تحليل الكميات الهائلة من المعلومات الاستخباراتية الخام واختيار أهداف الضربات العسكرية، وصولاً إلى مهام روتينية كإدارة الميزانيات وسلاسل الإمداد اللوجستي.
وفي يناير الماضي، أعلن وزير الحرب الأميركي ‘بيت هيغسيث’ استراتيجية البنتاغون بـ”تسريع الذكاء الاصطناعي”، وقال خلال كلمته بمناسبة الإعلان إن الوزارة “ستُطلق العنان للتجريب، وتزيل العوائق البيروقراطية، وتركّز استثماراتنا لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري”، داعيًا إلى تعميم استخدام هذه التقنية عبر إتاحتها لنحو ثلاثة ملايين موظف مدني وعسكري في وزارة الحرب على جميع مستويات التصنيف الأمني، فيما وصفه بـ”دمقرطة” تجربة الذكاء الاصطناعي داخل المؤسسة العسكرية.