كان الإنسان، منذ عرف النار، يخاف السلاح الذي يصنعه عدوه. أما نحن فأول جيل في التاريخ قد يضطر إلى الخوف من السلاح الذي يصنعه ذكاء لا يعرف عدوه.
وهذا فرق صغير في العبارة، هائل في التاريخ. فقد أعلنت شركة Anthropic هذا الأسبوع أنها عطلت محاولات لاستخدام نماذجها في أعمال يمكن أن تتصل بتطوير أسلحة بيولوجية، وأنها رصدت استخدامات أخرى للذكاء الاصطناعي في تطوير برمجيات للأسلحة التقليدية، من الصواريخ والطائرات المسلحة إلى القنابل وأنظمة التوجيه والاستهداف.
والخبر، في ظاهره، مطمئن. لقد اكتشفوا الخطر وأوقفوه. لكن الأخبار هذه لا تكمن دائما فيما تقوله. أحيانا تكمن في الشيء المرعب الذي اضطرها إلى أن تقوله أصلا. فحين تخبرك الشركة التي تصنع واحدا من أذكى النماذج في العالم أنها أصبحت تحتاج إلى حواجز أشد لمنع نموذجها من المساعدة في أبحاث قد تفضي إلى سلاح بيولوجي، فالسؤال ليس عن الحواجز، فمتى بلغنا أصلا زمنا يحتاج فيه العقل الصناعي إلى حارس يمنعه من تعليم الإنسان كيف يكون أشد فتكا؟
كان السلاح قديما يحتاج إلى دولة. ثم صار يحتاج إلى جماعة.وقد نكون داخلين عصرا يحتاج فيه، في بعض أشكاله، إلى رجل وحاسوب. وهذه ليست مبالغة أدبية. تقول Anthropic إن نماذج الأمس كانت أضعف من أن تقدم لمستخدم متقدم مساعدة ذات معنى في الأبحاث البيولوجية الخطرة، ولذلك كانت تستطيع الاطمئنان نسبيا إلى محدودية الخطر. أما نماذج اليوم فقد أصبحت قادرة على المساعدة في مهمات علمية معقدة إلى الحد الذي تقول معه الشركة إنها لم تعد تستطيع أن تقدم الاطمئنان نفسه.
تأمل المسافة التي قطعناها في عام. لم يقل أحد إن الآلة صنعت السلاح. العبارة أخطر من ذلك.. لم نعد واثقين من أنها عاجزة عن المساعدة في صنعه. وهذه هي اللحظة التي ينبغي للعالم الفقير أن يرفع فيها رأسه. فثمة كذبة مريحة نرددها منذ سنوات.. أن ثورة الذكاء الاصطناعي سوف تشمل الجميع.
كما شملتنا الهواتف. وكما وصل الإنترنت إلى القرية. وكما صار الطفل في القاهرة أو نيروبي أو صنعاء يحمل في جيبه الجهاز نفسه الذي يحمله طفل في نيويورك. لكننا نخلط بين استخدام التكنولوجيا وامتلاكها. وهما شيئان مختلفان كما يختلف ركوب الطائرة عن صناعة محركها.
قد تستخدم النموذج. لكن غيرك صنعه. وقد تبني مركز البيانات. لكن غيرك صنع الشريحة. وقد تملك الأرض التي يقوم عليها المركز. لكن غيرك يملك المعمارية التي تمنحه عقله. وقد تدفع ثمن الكهرباء والماء والتبريد والمبنى والكابلات. ثم يبقى المفتاح الحقيقي في مكان آخر. وهنا يبدأ عصر جديد من الاستعمار لا يحتاج إلى جندي. فالزر يكفي.
انظر إلى الشرق الأوسط. تقام مراكز البيانات كأن المنطقة تستعد لاستقبال مصانع المستقبل. مليارات الدولارات. أراض شاسعة. كهرباء. ماء. تبريد. شبكات. مئات الآلاف من الشرائح المتقدمة. السعودية تبني عبر Humain بنية حوسبة هائلة في الرياض والدمام. والإمارات تمضي في مشروع Stargate في أبوظبي. وفي مرحلة من المشروع نتحدث عن مئات الآلاف من شرائح Nvidia. فتبدو الصورة لأول وهلة كأن المستقبل قد وصل أخيرا. لكن افتح الصندوق. من صنع الشريحة؟ من يملك منظومتها البرمجية؟ من يحدد إلى أي دولة تباع؟ من يستطيع أن يمنح الترخيص؟ من يستطيع أن يمنعه؟ من يقرر أي معالج هو متقدم بما يكفي لكي يصبح مسألة أمن قومي؟ ومن يستطيع، بقرار يصدر من مكتب في واشنطن، أن يجعل الحاسوب الذي تحتاجه دولة متاحا أو محظورا؟
ولعل أبلغ صورة لهذه المفارقة لا تحتاج إلى مركز بيانات ولا إلى مختبر للذكاء الاصطناعي. يكفي أن تفتح هاتفك في صباح إطلاق جهاز جديد مثل آيفون فولد، لترى كم هائلا من المؤثرين وصناع المحتوى العرب يتسابقون إلى فتح العلبة، وقياس سماكة الجهاز، وتجربة المفصل، ومقارنة الكاميرا، واختبار البطارية، وإخبار ملايين المتابعين إن كان يستحق الشراء. ولا عيب في المراجعة ولا في المعرفة بالتكنولوجيا إنما الموجع في المشهد حين نراه من عل، أننا أصبحنا نملك جيشا كاملا من الذين يجيدون شرح المنتج بعد اكتماله، بينما يكاد يغيب عنا الجيش الذي شارك في اختراع الشريحة التي تشغله، أو هندسة نظامه، أو تصميم معماريته، أو صناعة أدوات إنتاجه. نختلف ساعات حول لون الهاتف وموضع الكاميرا وسرعة فتح الشاشة، بينما جرت المعركة الحقيقية قبل ذلك بسنوات في مختبرات لا نكاد نوجد فيها. هم ينفقون المليارات ليسألوا.. كيف نصنع الشيء الذي سيغير العالم؟ ثم يصل إلينا فننفق الساعات لنسأل.. هل يستحق أن نشتريه؟ وهذه، في جملة واحدة، إحدى مآسي علاقتنا بالتكنولوجيا.. نصل إلى آخر السلسلة في اللحظة التي يفتح فيها الصندوق، بينما القوة الحقيقية كانت قد وزعت في أولها، يوم لم يكن في الصندوق شيء بعد.
في يوليو الماضي غيرت الولايات المتحدة تصنيف الإمارات في نظامها لضوابط التصدير، فأصبح وصول جهات إماراتية معتمدة إلى بعض تقنيات الحوسبة المتقدمة أيسر بكثير. لاحظ اللغة. ليست المسألة شراء وبيع فقط. إنها إذن بالوصول. كأن المعرفة التي كانت يوما كتابا يستطيع الإنسان أن يخفيه تحت ثوبه ويعبر به الحدود، أصبحت شريحة لا تستطيع عبور المطار إلا إذا سمحت الإمبراطورية التي صنعتها.
وثمة مفارقة عجيبة هنا فقد تمتلك الدولة النفط الذي يولد الكهرباء التي تشغل مركز البيانات. وقد تمتلك الأرض التي بني عليها. وقد تدفع ثمنه كاملا. لكنها لا تمتلك بالضرورة القرار الأخير في العقل الذي يعمل داخله. كأننا عدنا، بعد قرنين من الثورة الصناعية، إلى صورة المنجم القديمة. أنت تملك الأرض. وهم يملكون الآلة. أنت تقدم المادة. وهم يحددون قيمتها. غير أن المادة هذه المرة ليست نفطا ولا قطنا ولا نحاسا. إنها المستقبل نفسه.
وهذا هو الموضع الذي ينبغي أن نعود فيه إلى فكرة اللاجدوى irrelevancy. فقد كان الفقر، طوال التاريخ، يعني أن يكون لديك أقل مما لدى غيرك. أما الفقر في العصر المقبل فقد يعني شيئا أشد قسوة أن يصبح العالم قادرا على العمل من دونك. وهذه مرتبة أخرى من الهزيمة. المستعمر القديم كان يحتاج إليك. يحتاج أرضك. وعمالك. وميناءك. وموادك الخام. حتى العبودية، في وحشيتها، كانت اعترافا مشوها بأن المستعبد يحتاج جسد العبد. أما اقتصاد الذكاء الاصطناعي فقد يحمل للمجتمعات المتأخرة مصيرا أشد غرابة.. ألا يستعبدها الأقوى، بل يستغني عنها. في أن تصبح ملايين البشر خارج معادلة الإنتاج الأعلى قيمة. لا يصنعون الشريحة. ولا يدربون النموذج. ولا يملكون مراكز البحث. ولا يكتبون المعايير. ولا يحددون قواعد السلامة. ولا يجلسون إلى الطاولة حين يقرر العالم ما الذي يسمح للآلة أن تعرفه وما الذي يحظر عليها.
ولكن الذين يصبحون خارج دائرة المنفعة لا يصبحون بالضرورة خارج دائرة الخطر. وهنا المأساة. فقد لا يحتاجك المستقبل لكي تصنعه، لكنه قد يحتاج مكانا ليجرب نفسه فيه. وهذه ليست فكرة غريبة على تاريخ الإنسان. الأدوية جربت على الضعفاء. والأسلحة اختبرت في الحروب البعيدة. والقوى الكبرى تعلمت مكافحة التمرد في أجساد شعوب لم تجلس يوما إلى الطاولة التي قررت الحرب. والطائرات المسيرة لم تصبح فكرة سياسية في الكتب.. أصبحت واقعا فوق قرى وأقاليم بعيدة عن المدن التي كتب فيها مهندسوها الشفرة.
فلماذا نفترض أن الذكاء الاصطناعي سيكون أكثر أخلاقا من التاريخ الذي صنعه؟ تخيل العالم بعد عشر سنوات. في كاليفورنيا، يناقش المهندسون حدود النموذج. وفي واشنطن، يقرر المسؤولون من يحصل على الشرائح. وفي مختبر ما، يضع الباحثون القواعد التي تمنع النظام من تطوير سلاح. وفي بلد فقير بعيد، لا يملك أحد من هذه الأشياء، قد يكون إنسان ما واقفا تحت طائرة لا يعرف من اتخذ قرار استهدافها.. الطيار؟ الضابط؟ الخوارزمية النموذج؟ أم سلسلة من القرارات لا يوجد في نهايتها إنسان واحد يستطيع أن يقول أنا فعلت. وهذه قد تكون أقسى صور اللاجدوى. ليس فقط أن تكون خارج المستقبل. بل أن تكون داخله بوصفك موضوعا لا فاعلا. رقما في قاعدة البيانات. وجها في منظومة التعرف. نقطة على شاشة الاستهداف. جسدا في إحصاء. حالة تستخدم لتحسين النموذج القادم.
ولهذا فإن إعلان Anthropic لا ينبغي أن تقرأه الدول الفقيرة بوصفه خبرا عن شركة أمريكية أوقفت خمسة مستخدمين خطرين. ينبغي أن تقرأه كإنذار. لقد بدأنا نقترب من سؤال القوة القديم في ثوب جديد.. من يمتلك المعرفة التي تستطيع أن تتحول إلى قوة؟ ومن يضع الحدود عليها؟ ومن يملك حق استثناء نفسه من تلك الحدود؟ ومن يستطيع أن يمنعها عن غيره؟
والمثير أن Anthropic نفسها تؤيد ضوابط صارمة على تصدير الشرائح المتقدمة ومعدات صناعة أشباه الموصلات. وهذا مفهوم من زاوية الأمن القومي الأمريكي. لكن انظر إليه من خارج واشنطن. الشريحة لم تعد سلعة. صارت جواز سفر إلى طبقة معينة من المستقبل. هناك دول تدخل. ودول تدخل بشروط. ودول تقف في الطابور. ودول لا يسمح لها بالاقتراب من الباب. ومن هنا ستنشأ طبقية دولية جديدة لا تقاس فقط بالناتج المحلي ولا بعدد حاملات الطائرات. بل بشيء أبسط.. كم عقلا صناعيا تستطيع تشغيله من غير أن تطلب الإذن من أحد؟
وليس الحل أن ترفض المنطقة مراكز البيانات. العكس هو الصحيح. أن تبنيها. وأن تستثمر أكثر. وأن تدخل السباق بكل ما تستطيع. لكن الخطر أن تخلط بين استضافة المستقبل وصناعته. فليس كل بلد أقيمت فيه محطة قطار قد صنع القطار. وليس كل أرض زرعت فوقها الخوادم قد امتلكت العقل الذي يسكنها. السؤال الحقيقي ليس كم مليار دولار أنفقنا. وإنما كم مهندسا صنعنا؟ كم مختبرا؟ كم نموذجا؟ كم براءة؟ كم شركة تستطيع أن تبقى إذا أغلق الخارج عنها الباب؟ كم جزءا من سلسلة القيمة نملكه نحن؟ وأين بياناتنا؟ ومن يدرب عليها؟ وبأي لغة؟ ولمن تعود المعرفة التي استخرجت منها؟ ومن يستطيع أن يطفئ المفتاح؟
هذه هي السيادة في القرن الحادي والعشرين. أن تستطيع أن تفكر بأدوات لا يستطيع الآخر أن ينتزعها منك حين يختلف معك. أن تملك من المعرفة ما يجعلك شريكا في كتابة القواعد، لا طالب استثناء منها. أن يكون لك مقعد في المختبر الذي يصنع الغد، لا غرفة مكيفة تستضيف أجهزته فقط.
وكان الاستعمار القديم يرسم خريطة العالم بلونين.. بلاد تحكم. وبلاد تحكم. بفتح التاء وضمها. أما الذكاء الاصطناعي فقد يرسمها بثلاثة. بلاد تصنع الذكاء. وبلاد تشتري الذكاء. وبلاد يقع عليها أثر الذكاء. وأخشى ما أخشاه على مجتمعاتنا ألا نكون في الطبقة الثانية. بل الثالثة. أن نشتري قليلا، ونستهلك كثيرا، ونصنع قليلا جدا، ثم نجد أنفسنا في النهاية الميدان الذي تصل إليه آثار قرارات لم نشارك في صنعها. ولهذا لم أتوقف طويلا عند أن Anthropic منعت استخدام نموذجها في بحث قد يقود إلى سلاح. توقفت عند شيء آخر. عند ذلك الإنسان البعيد الذي لا يعرف Anthropic ولا Nvidia، ولا يعرف ما معنى GPU، ولا الفرق بين training وinference، ولا لماذا قررت وزارة التجارة الأمريكية أن تعطي دولة شرائح وتحجبها عن أخرى. ذلك الإنسان قد يكون أكثر البشر تأثرا بكل هذه الكلمات التي لا يعرفها. كما كان الفلاح في القرن التاسع عشر لا يعرف شيئا عن أسعار القطن في لندن، لكنها كانت تستطيع أن تحدد جوع أطفاله. وكما كان رجل في قرية عربية لا يعرف أسماء المصانع التي صنعت الطائرة التي مرت فوق بيته. قد يأتي زمن لا يعرف فيه الإنسان اسم النموذج الذي قرأ صورته، ولا الشركة التي صنعته، ولا البيانات التي علمته، ولا الشريحة التي شغلته. لكنه سيعرف النتيجة. وهذه هي المأساة التي يخفيها بريق الثورة. أن تكون بعيدا جدا عن المكان الذي يصنع فيه القرار، وقريبا جدا من المكان الذي يقع فيه أثره.
لقد خفنا طويلا من أن يأخذ الذكاء الاصطناعي وظائفنا. وربما كان ذلك أصغر مخاوفنا. الخوف الأكبر أن يأخذ منا حق المشاركة في تعريف العالم الذي سنعيش فيه. أن يصبح بعض البشر مؤلفي المستقبل، وبعضهم قراءه، وبعضهم مجرد شخصيات تقع عليها أحداث الكتاب. فالآلة التي تعلمت أن تفكر ليست أخطر ما في الحكاية. الأخطر أن يكون هناك، في الجانب الآخر من الأرض، إنسان يقرر ما الذي يجوز لذلك العقل أن يعرفه، وما الذي يجوز له أن يصنعه، ولمن يجوز أن يباع — بينما نقف نحن، تحت مركز بيانات هائل يضيء ليله بملايين المصابيح، ونحسب أننا امتلكنا المستقبل لأننا دفعنا فاتورة الكهرباء. وقد يكون المستقبل فوق أرضنا حقا. لكن ذلك لا يعني بعد..
