لوبي الجراد وهوس السيطرة التلقائية

لوبي الجراد وهوس السيطرة التلقائية

الصين أوقفت عنوة أحد أشهر وكلاء الذكاء الاصطناعي في شركاتها الحكومية، مما يكشف عن مشكلة ثقافية أكثر من كونها تتعلق بالأمان السيبراني.

Simón ArceSimón Arce١٦ مارس ٢٠٢٦7 دقيقة
مشاركة

عندما يسبق الهوس التكنولوجي الحكم الإداري

قبل أسابيع قليلة، نظّم موظفون في شركة Tencent حفلات تركيب جماعية لبرنامج ذكاء اصطناعي. مئات الأشخاص، الذين ارتدوا قبعات الجراد، احتفلوا بوصول OpenClaw، الوكيل المستقل مفتوح المصدر الذي أنشأه المبرمج النمساوي بيتر شتاينبرغر. التطبيق ليس روبوت محادثة، بل هو وكيل: يقوم بتنظيم الاجتماعات، وإدارة البريد، وتصفح الإنترنت، وترتيب الملفات والرد على الرسائل دون أن يقوم المستخدم بأي شيء. ولتنفيذ كل ذلك، يحتاج إلى وصول كامل إلى النظام، بما في ذلك كلمات المرور وبيانات الـ API والبيانات الخاصة.

كان الحماس حقيقياً ولكن غير متناسب. شركات مثل Tencent وAlibaba وBaidu وMiniMax أصدرت إصدارات خاصة بها أو متوافقة، وارتفعت تقييماتها، وحققت MiniMax قيمة تقدر بـ 44 مليار دولار مع إيرادات تقدر بـ 79 مليون دولار فقط في عام 2025. اقترح حي Longgang في شنجن تقديم دعم يصل إلى مليوني يوان للمشاريع التي تستخدم وكلاء مشابهين لـ OpenClaw. باختصار، سبق الحماس أي تقييم للمخاطر.

رد الحكومة الصينية جاء هذا الأسبوع بسرعة ونبرة من يطفئ حريقاً. أبلغت السلطات المركزية الشركات الحكومية والهيئات الحكومية بعدم تثبيت OpenClaw على الأجهزة المكتبية، وأمرت بالإفصاح عن التركيبات الحالية وإزالتها إذا كانت قيد التشغيل. كان البنك الشعبي الصيني أكثر وضوحاً: طلب من موظفي البنوك الحكومية إزالة البرنامج حتى من أجهزتهم الشخصية. نشرت قاعدة البيانات الوطنية للثغرات التابعة لوزارة الصناعة وتكنولوجيا المعلومات توجيهات أمنية توجهت مباشرة ضد الوكيل. لا يوجد حظر كامل للمواطنين أو رواد الأعمال حتى الآن، لكن الرسالة المؤسسية واضحة.

ما لا تراه قبعة الجراد

خلف هذه الحكاية الطريفة يوجد آلية تنظيمية تستحق التحليل. OpenClaw ليس خطيراً لأنه خبيث، بل هو خطير لأن مستخدميه، بما في ذلك المديرين في الشركات ذات الأهمية النظامية، منحوه أذونات كاملة على أنظمتهم قبل فهم ما يمكنه فعله بها. تشمل الحوادث الموثقة حتى الآن حذف صندوق بريد مسؤول التنسيق بشأن الذكاء الاصطناعي في شركة Meta، وتعرض معلومات حساسة، وظهور أربعة عشر إضافة خبيثة على ClawHub الشهر الماضي، بعضها تستهدف بشكل خاص مستخدمي العملات المشفرة.

هذا يصف نمطاً إدارياً أعترف به كثيراً. تصل أداة محاطة بسرد إنتاجية، وتتسارع الفرق في اعتمادها بسبب الضغط الضمني لعدم التخلف، ولن يتحدث أحد في سلسلة القرار في المحادثة التي يجب أن تحدث: ما هي الأذونات التي نقدمها، وما هي البيانات، وتحت أي شروط قابلة للعكس، وما هو بروتوكول التعامل إذا حصل خطأ. لم تحدث تلك المحادثة في البنوك الحكومية الصينية. لم تحدث في حفلات شركة Tencent. ومن المحتمل أنها لا تحدث الآن في عشرات المؤسسات خارج الصين التي تتكرر فيها نفس الأنماط مع أدوات مشابهة.

عادة ما تكون الإغفال ليست نتيجة للإهمال الفني. بل هي غالباً نتيجة لثقافة حيث يختفي التفكير النقدي بسبب الخوف من الظهور بطيئ أو محافظ. تواصل حماس جماعي باقي الأمور. عندما يرتدي مئات الأشخاص قبعات الجراد للاحتفال بتركيب، يتولى المدير الذي يرفع إصبعه ليطرح سؤالاً عن أذونات النظام تكلفة اجتماعية لا يرغب الكثيرون في دفعها.

أرقام منح السيطرة لجهاز

هناك درس مالي محدد يوضح حالة OpenClaw بوضوح. الوكلاء المستقلون للذكاء الاصطناعي ليسوا أدوات إنتاجية بالمعنى التقليدي. إنهم معماريات تفويض: ينقل المستخدم قدرة العمل، لا مجرد الاستعلام، إلى نظام يتصرف باسمه. لذلك توجد تكلفة لهذا التفويض نادراً ما تظهر في عروض اعتماد التكنولوجيا.

التكلفة الأولى هي الخاصة بكشف الأصول غير الملموسة. عندما يقوم OpenClaw بإدارة البريد الإلكتروني لأحد موظفي بنك مركزي، يقوم هذا الوكيل بمعالجة وتصنيف وربما نقل المعلومات بشأن قرارات السياسة النقدية، والعلاقات مع الأطراف المقابلة، أو الاستراتيجيات التنظيمية. أكثر البيانات قيمة في المنظمة ليست عادة في قاعدة بيانات محمية، بل في تدفق الاتصالات العادي للمديرين فيها. الوكيل الذي لديه أذونات كاملة لديه وصول إلى هذا التدفق.

التكلفة الثانية هي تكلفة القابلية للعكس. يؤدي الروبوت الدردشة الذي يقدم إجابة غير صحيحة إلى حدوث خطأ يمكن أن يتجاهله المستخدم. بينما يؤدي الوكيل الذي ينفذ إجراءات، يحذف رسائل البريد، ينظم اجتماعات، أو يكمل استمارات إلى عواقب قد تكون غير قابلة للعكس أو مكلفة للخروج منها. عدم التماثل بين سرعة تصرف الوكيل وسرعة الإشراف البشري هو بالضبط محور الخطر الذي تحاول توجيهات الحكومة الصينية احتوائه.

التكلفة الثالثة، الأقل وضوحاً، هي التبعية التشغيلية الصامتة. عندما تقوم منظمة بتفويض العمليات الشائعة إلى وكيل مستقل دون توثيق تلك العمليات أو الاحتفاظ بالقدرة على تنفيذها يدوياً، تبني تبعية لا تظهر إلا عند فشل الوكيل، أو تعرضه للاختراق، أو إبعاده بأمر تنظيمي، تماماً كما يحدث الآن في الشركات الحكومية الصينية التي يجب أن تدقق وتزيل التركيبات التي تعمل منذ أسابيع.

النمط الذي لم تخترعه بكين

سيكون من المناسب، لكن غير دقيق، تقديم هذه القصة كخصوصية للحكومة الصينية أو علاقتها بالتكنولوجيا الغربية. الدورة التي يصفها حالة OpenClaw، تبني جماعي مدفوع بالضغط من الأقران، غياب تقييم المخاطر، حوادث أمان، تدخل تنظيمي متأخر، هي نفس الدورة التي تتكرر في منظمات حول العالم مع كل جولة تكنولوجية مهمة.

ما تفعله بكين الآن هو، من حيث الهيكل، ما كان ينبغي أن تفعله العديد من المجالس الإدارية داخلياً قبل أن يبدأ قسم تكنولوجيا المعلومات لديها في تلقي طلبات التركيب. تخطط الأكاديمية الصينية لتكنولوجيا المعلومات والاتصالات لبدء اختبارات موثوقية لوكلاء مثل OpenClaw في نهاية مارس. إنه محاولة لبناء معايير بعد حدوث الاعتماد بالفعل. والترتيب الصحيح يجب أن يكون العكس، ولكن ذلك يتطلب أن يتحدث شخص ما في موقع السلطة في هذه المحادثة الحرجة قبل أن يؤدي الحماس إلى الإطياء.

MiniMax، المقدرة بقيمة 44 مليار دولار مع إيرادات تبلغ 79 مليون، توضح الوجه الآخر للمشكلة. تلك الفجوة بين التقييم والإيرادات لا يمكن أن تستمر ما لم يعتقد السوق أن نطاق الاعتماد سيتحول إلى تحويل المال. إذا أبطأت العوائق الحكومية هذا الاعتماد في القطاع الحكومي، الذي هو الأكبر في الصين، فإن الضغط على ذلك التقييم يصبح هيكلياً، وليس ظرفياً. كانت التفاؤلية في السوق التي كانت تضخم السعر قائمة على سرد نمط النمو دون احتكاك. وصل الاحتكاك.

ثقافة المنظمة ليست نتيجة لقيمها المعلنة أو سياساتها التكنولوجية. إنها نتيجة للقرارات التي اتخذها قادتها عندما لم يكن أحد يجبرهم على فعل ذلك، وجميع المحادثات التي أخرجوها لأن اللحظة لم تبدُ مناسبة قط.

مشاركة
0 أصوات
صوت لهذا المقال!

التعليقات

...

قد يعجبك أيضاً