دراسة هندسية وفلسفية في الذكاء الاصطناعي، والخبرة المصطنعة، والاعتماد التقني، والمساءلة على مستوى الأنظمة.
I. عام 2055 — حضارة نسيت كيف تصلح نفسها
2055.
تخيّل أن جميع أنظمة الذكاء الاصطناعي الكبرى أصبحت غداً، وبشكل مفاجئ، غير متاحة.
ليس الإنترنت. ولا الكهرباء. ولا الحواسيب.
الذكاء الاصطناعي وحده.
الخوادم ما زالت تعمل. ومستودعات الشيفرة المصدرية سليمة. والوثائق التقنية والمعايير الهندسية والمنشورات العلمية والمراجع الرياضية وعقود المعرفة البشرية المتراكمة ما زالت متاحة.
ومع ذلك يبرز سؤال مخيف:
مَن بقي قادراً على فهم الأنظمة التقنية التي تعتمد عليها الحضارة، وتشخيص أعطالها وإصلاحها؟
على امتداد عقود، أصبحت البرمجيات تُنشأ بتعليمات مكتوبة باللغة الطبيعية. وصارت البنى التحتية تُهيّأ بمساعدة أنظمة مؤتمتة. وتحوّلت مراجعات الأمن إلى تقارير تنتجها الآلات. وازداد اعتماد القرارات الهندسية على توصيات تُقدَّم بلغة سلسة، واثقة، تبدو ذات سلطة معرفية.
بلغت الإنتاجية مستويات استثنائية.
فالتطبيقات التي كانت تستلزم فرقاً من المطورين ذوي الخبرة صار بالإمكان إنشاؤها خلال ساعات. وأصبح أشخاص لا يعرفون البروتوكولات التي يقوم عليها تشغيل المواقع ينشرون مواقع معقدة. وصار من الممكن تجميع قواعد البيانات وخدمات المصادقة والتطبيقات المالية وبنى الحوسبة عبر تعليمات حوارية.
ثم تتوقف الآلات عن الإجابة.
يجد المهندسون أمامهم ملايين الأسطر من شيفرات لم يدرسوها قط. يواجهون حالات تشغيل غير متوقعة، وفساداً في الذاكرة، وعيوباً في التزامن، واعتماديات معطّلة، وأعطالاً في الشبكات، ومشكلات أمنية لا يستطيعون تفسيرها.
لقد اختفت طريقتهم المعتادة في استكشاف الأعطال.
إنهم يعرفون كيف يطلبون الحل.
لكن هل يعرفون كيف يعثرون عليه؟
ليس السؤال عما إذا كانت البشرية قد احتفظت بالمعلومات. فقد احتفظت بها.
بل عما إذا كانت قد احتفظت بالكفاءة اللازمة لتحويل المعلومات إلى فهم وحكم مهني وإجراء تصحيحي.
قد تمتلك حضارةٌ كل ما كُتب في العلوم والهندسة، بينما تفقد تدريجياً القدرة العملية على استخدامه.
وقد يحتوي مستودع برمجي شيفرة مصدرية مثالية، بينما لا يبقى مَن يستطيع صيانتها.
وقد يستمر تشغيل نظام لسنوات بأيدي أشخاص لا يملكون فهماً حقيقياً لمعمارية ذلك النظام.
وقد يزداد مجتمع متقدم تقنياً إنتاجيةً، وفي الوقت نفسه يزداد هشاشةً.
ومن هنا يبرز احتمال فلسفي مقلق:
ماذا لو ترافق أعظم تسارع تقني في تاريخ الإنسان مع تدهور مماثل في الكفاءة البشرية اللازمة لاستدامته؟
سنة 2055 هنا افتراضية.
أما المشكلة التي تكشفها فتستحق الدراسة منذ الآن.
II. القدرة بلا كفاءة
القدرة التقنية والكفاءة البشرية ليستا مترادفتين.
القدرة تتعلق بما يمكن إنجازه.
أما الكفاءة فتتعلق بالمعرفة والفهم والخبرة والحكم المطلوب لإنجازه على نحو صحيح، وللتمييز بين ما أُنجز صحيحاً وما لم يُنجز كذلك.
تاريخياً، كان اكتساب القدرات التقنية المتقدمة يستلزم إعداداً فكرياً جاداً.
فمن يريد تطوير تطبيق يعتمد على قاعدة بيانات يحتاج إلى الإلمام بالبرمجة وهياكل البيانات وتصميم قواعد البيانات والشبكات والمصادقة والنشر.
ومن يُعدّ حساباً هندسياً يحتاج إلى فهم المبادئ الرياضية والافتراضات الفيزيائية والوحدات وحدود صلاحية النتيجة.
ومن يتولى الفحص الصناعي يحتاج إلى معرفة خواص المواد والمعايير الواجبة التطبيق وطرق الفحص ومعايير القبول.
لم تكن هذه المتطلبات تمنع انعدام الكفاءة كلياً، لكنها كانت تشكّل حواجز بين قليل الخبرة وبين تنفيذ أعمال تقنية ذات آثار مهمة من دون إشراف.
لقد خفّض الذكاء الاصطناعي التوليدي كثيراً من هذه الحواجز.
فصار ممكناً إنتاج المظهر الخارجي لعمل تقني متقدم من دون المرور بالمسار المعرفي الذي كان ضرورياً لإنتاجه.
وهذا ينشئ اختلالاً:
قد تتزايد درجة تعقيد ما يستطيع الشخص إنتاجه من غير أن يزداد، بالقدر نفسه، ما يستطيع فهمه.
قد ينشئ شخص تطبيقاً يعمل من دون أن يفهم إدارة الذاكرة.
ويطبّق المصادقة من دون أن يفهم أمن الجلسات.
وينتج شيفرة تشفير من دون أن يفهم فرضياتها الرياضية والأمنية.
وينشر تحليلاً مالياً من دون فهم بنية الأسواق أو السيولة أو الرافعة المالية أو المخاطر.
ويقدّم نتائج رياضية لا يستطيع إعادة اشتقاقها.
والأخطر ربما أن يعلن صحة نظام من دون امتلاك الكفاءة التي تسمح له بالحكم على مشروعية ذلك الإعلان.
قد يعمل المنتج بالفعل.
وقد تكون نتائجه دقيقة تقنياً.
لكن صحة الناتج لا تولّد تلقائياً فهماً لدى مَن يتلقاه.
ومن هذا التمييز تنطلق الفكرة المحورية للمقال:
القدرة بلا كفاءة، حين تُضخَّم بضمانات غير مبرَّرة بصحة النتائج.
الحالة الأولى تخلق الاعتماد.
والثانية تخلق ثقة زائفة.
ومعهما قد نحصل على أنظمة فائقة التعقيد ظاهرياً، تتجاوز موثوقيتها المعلنة بكثير ما تسنده المعرفة والتحققات الفعلية.
III. البلاغة اللغوية ووهم الكفاءة
لطالما أثّرت اللغة في تصورنا للسلطة والخبرة.
فالمصطلحات التقنية، والشروح المحكمة البنية، والرموز الرياضية، واللغة المهنية، والاستنتاجات الواثقة؛ كلها تولّد انطباعاً بوجود خبرة متخصصة.
تقليدياً، كان هذا الأسلوب غالباً ما يصاحب معارف اكتُسبت بالدراسة والممارسة المهنية أو البحث العلمي.
لكن الأنظمة التوليدية تغيّر هذه العلاقة جذرياً.
فهي تستطيع إنتاج مظهر لغوي يشبه الخبرة من دون أن تثبت صحة ما تقوله، أو أنها أجرت التحقيق اللازم، أو أنها نفّذت العمل الذي تتحدث عنه.
يمكن أن تكون الإجابة جميلة البنية وخاطئة من الأساس.
ويمكن أن يبدو تقرير هندسي شاملاً بينما يتجاهل الاختبارات الوحيدة الحاسمة.
وقد يستخدم تقييم أمني مصطلحات مهنية ومنهجيات معروفة وعبارات مطمئنة من دون فحص مسار التنفيذ الذي يحوي الثغرة.
وقد تحتوي وثيقة تقنية معادلات صحيحة بينما تصف على نحو غير صحيح ما إذا كان البرنامج المصاحب يطبّقها فعلاً.
بلاغة اللغة ليست دليلاً على الكفاءة التقنية.
ومع ذلك بات الخلط بينهما أكثر شيوعاً.
ويصبح الخلط أخطر عندما يستخدم النظام لغة توحي باكتمال التحقق.
لننظر إلى العبارات الآتية:
- يبدو التنفيذ متوافقاً مع المواصفات.
- اختُبر التنفيذ مقابل المواصفات.
- اجتاز التنفيذ جميع اختبارات القبول ذات الصلة.
- التنفيذ جاهز للإنتاج.
هذه ليست صياغات مختلفة للمعنى نفسه.
بل ادعاءات هندسية متفاوتة جوهرياً.
الأولى تقييم أولي.
والثانية تؤكد وقوع الاختبار.
والثالثة تزعم شمول الاختبارات ذات الصلة ونجاحها.
والرابعة تفيد باستيفاء معايير الإصدار والتشغيل الفعلي.
وكل ادعاء يتطلب دليلاً أقوى من سابقه.
وحين ينتقل النظام بين هذه الادعاءات من غير أدلة مقابلة، تحل السلطة اللغوية محل التحقق.
عندئذ لا يعود الخلل مجرد إجابة غير صحيحة.
بل يصبح تقديم عمل لم يُنفَّذ أو لم يُنفَّذ بالقدر الكافي بوصفه تحققاً هندسياً مكتملاً.
وهذا تمييز أساسي.
فالبرنامج المعيب والبرنامج الذي يُمنح شهادة صحة زائفة ليسا المشكلة نفسها.
الأول يتضمن ضعفاً في التنفيذ.
أما الثاني فيضم إلى الضعف طمأنة قد تثني الآخرين عن مواصلة الفحص.
وهنا يصير مسار التحقق نفسه عنصراً من عناصر الخطر.
أتمتة الثقة
يزداد الخطر بسبب خاصية دقيقة في الأنظمة الحوارية: فالواجهة نفسها قد تنتج التنفيذ، وتشرحه، وتقيّمه، ثم تعلن نجاحه أو إخفاقه.
ومن دون أدلة مستقلة، قد تتحول هذه الأنشطة إلى دائرة مغلقة.
قد يعكس الاختبار المُولَّد سلوك التنفيذ المُولَّد نفسه بدلاً من المتطلب الأصلي.
وقد يتبنى التدقيق المُولَّد افتراضات الشيفرة التي يُفترض أنه يراجعها نقدياً.
وقد يحوّل الملخّص نجاح مجموعة صغيرة من الاختبارات إلى إعلان بصحة النظام كله.
فينشأ نسق متبادل التعزيز من العبارات التي تبدو ذات سلطة.
ويمكن تسمية هذا الثقة المصطنعة: ثقة تنتج من شكل الشرح واتساقه، لا من الأدلة المستقلة الكافية.
الشرح المقنع ليس نتيجة اختبار.
ونتيجة الاختبار ليست بالضرورة اختباراً صالحاً.
والاختبار الصالح ليس بالضرورة تحققاً شاملاً.
قد تبدو هذه الفروق بديهية.
لكن نتائج تجاهلها ليست كذلك.
IV. الأدلة على ضمانات صحة غير مبرَّرة
يمكن دراسة القضية من خلال فروق هندسية موثقة، لا من خلال التأمل الفلسفي وحده.
في مشروع برمجي متعدد المنصات خضع لمراجعة مستقلة، قُدّمت حزمة تسليم هندسية كبيرة على أنها مكتملة بما يكفي للتجربة الهندسية المخطط لها.
ضم المشروع تطبيقات أصلية، واختبارات أداء للأجهزة، ووحدة تحكم رسومية لأسطول آلات، واتصالاً موثّقاً بالخادم، وقاعدة بيانات إنتاج، ورفع تقارير بحثية، وآلية ترخيص لتنفيذ أحمال حسابية خاضعة للضبط.
كانت المتطلبات الأصلية واضحة: اكتمال الوظائف، والحفاظ على سلوك محرك سابق معتمد، وقابلية إعادة إنتاج الاختبارات، وحدود أمنية واضحة، ومعايير قبول قابلة للتتبع.
وكشفت المراجعة المستقلة لاحقاً عيوباً حرجة عديدة في التنفيذ المسلَّم وفي الادعاءات المتعلقة بالتحقق منه.
وفيما يلي أمثلة لها دلالتها.
1. عدد اختبارات ناجحة لا يمثّل المجموعة الكاملة
ذكر تقرير هندسي سابق:
نجاح 56 اختباراً وتخطي اختبار واحد.
أما التشغيل المستقل لمجموعة اختبارات Linux المرفقة فأعطى:
169 اختباراً: 160 ناجحاً وتسعة فاشلة.
لم يكن الفرق رقمياً فحسب.
فقد قُدّم التنفيذ الجزئي للاختبارات بما يوحي بمستوى تحقق لا تسنده المجموعة الكاملة.
وشملت الإخفاقات التسعة مسائل تتعلق بتجميع الحزم، واتساق المصادر، ومنطق التثبيت، وسلوكاً سبق اعتماده في التطبيق.
وبعد التصحيح، أبلغت المراجعة المستقلة عن نجاح 175 اختباراً في مجموعة المصدر المنقحة.
ليست النتيجة الأهم هي وجود تسعة إخفاقات؛ فالعيوب البرمجية أمر وارد.
بل أن نتيجة نجاح جزئية استُخدمت دليلاً على صحة أوسع مما اختُبر فعلاً.
في الهندسة، نطاق الاختبار جزء من نتيجته.
والتقرير الذي يحذف نطاق التنفيذ لا يستطيع إثبات ما جرى التحقق منه.
2. اختبار يقبل العيب الذي يُفترض أن يكشفه
كشفت المراجعة نفسها خللاً في التكامل بين العميل والخادم.
كان التطبيق يُنشئ تقارير بحثية يرفضها الخادم الحقيقي لأن البيانات المرسلة لا تطابق العقد المطلوب.
وعند استخدام التنفيذ الفعلي للخادم أعادت الطلبات الاستجابة HTTP 400.
ومع ذلك كانت اختبارات العميل السابقة ناجحة.
كيف؟
لأن العميل اختُبر أمام خدمة محاكاة مبسطة، لا مقابل عقد الخادم الإنتاجي المتاح.
والأخطر أن أحد الاختبارات اعتبر حالة خاطئة من العميل هي النتيجة المتوقعة.
وبالتالي لم يكن يتحقق بصورة مستقلة من المتطلب.
بل كان يعزز التنفيذ الخاطئ.
وهذا شكل شديد الخطورة من الإيجابيات الكاذبة في الاختبار.
فنجاح عبارة تحقق آلية لا يثبت إلا تطابق السلوك المرصود مع التوقع المشفَّر في الاختبار.
وإذا كان التوقع نفسه خاطئاً، فقد ينجح الاختبار ويبقى التطبيق معيباً.
لنعرّف رسمياً:
وليكن $R(x)$ تعبيراً عن استيفاء المتطلب الهندسي الحقيقي.
فليس هناك استلزام عام يضمن أن:
ولا يصح هذا الاستنتاج إلا حين يكون الاختبار صالحاً بالقدر الكافي للتحقق من المتطلب الذي يدّعي قياسه.
قد يحقق اختبار مبني على توقع خاطئ نتيجة نجاح كاملة، من دون أن يوفّر أي ضمان صحيح للمطابقة.
قد تمنح علامة النجاح الخضراء شهادة للخطأ، بدلاً من كشفه.
3. إعلان نجاح النشر دون تحقق من بيئة الإنتاج
تعلق خلل آخر بخدمة تخويل تعمل في جهة الخادم.
وُصف التطبيق بأنه منشور، لكن واجهة البرمجة الفعلية في بيئة الإنتاج كانت تفتقد إعدادات لازمة.
وأعاد فحص مستقل للإنتاج الاستجابة HTTP 503.
ولذلك لم يكن التطبيق قادراً على تنفيذ مسار العمل الموثّق المقصود.
كانت الاختبارات السابقة غير المتصلة بالإنتاج تستخدم اعتماديات محاكية وبيانات اعتماد تجريبية. ولم تثبت صحة إعدادات الإنتاج.
وهذا فرق جوهري:
عمل الخدمة محلياً لا يثبت سلامة نشرها.
وصحة ملف المصدر لا تثبت صحة إعداد بيئة التشغيل.
ونجاح معاملة محاكاة لا يثبت نجاح التكامل الحقيقي.
تكشف الواقعة فجوة متكررة في سلسلة الضمان بين الشيفرة والتجميع والنشر والتشغيل.
فقد نجحت الاختبارات في طبقة، بينما ظلت طبقة أخرى غير عاملة.
4. وظيفة موجودة في الوثائق لا في التنفيذ
ظهرت وظيفة مطلوبة ضمن سير العمل المعلن.
لكن فحص الشيفرة أظهر أن الأمر المرتبط بها يعيد حالة قفل بصورة غير مشروطة.
ولم يكن هناك مسار تنفيذ فعلي يحقق العملية المعلن عنها.
كانت الواجهة والوثائق توحيان بوجود الوظيفة.
أما التنفيذ فكان يناقضهما.
وهذه حالة تباعد بين التوثيق والتنفيذ.
فوجود زر أو اسم أمر أو خيار إعداد أو سيناريو مخطط له لا يثبت وجود القدرة التي تشير إليها تلك العناصر.
الوظيفة لا تصبح مُنفَّذة لمجرد وصفها.
5. الخلط بين قبول المعلومات وتخويل الإجراء
رصد التدقيق أيضاً خلطاً بين مفهومين أمنيين مستقلين.
كانت إحدى العمليات تثبت قبول تقرير بحثي.
وكانت عملية أخرى مخصّصة للترخيص بتشغيل حمل حسابي لاحق يخضع للضبط.
لكن التنفيذ اعتبر الأولى كافية للثانية.
مع أن قبول المعلومات والسماح بتنفيذ فعل قراران أمنيان مختلفان.
فقبول قاعدة البيانات لسجل لا يعني أن المشغّل حصل على صلاحية تنفيذ كل عملية ترتبط به.
وتأكيد استلام رسالة من خدمة لا يساوي بالضرورة منح امتياز تنفيذ.
هذا الفرق ثابت معماري (Architectural Invariant)، لا مجرد تفضيل في الصياغة.
والخلط بين العمليتين يخلق ضعفاً حتى لو نُفّذت كل عملية تشفير منفردة بصورة صحيحة.
6. غياب التحقق من استمرارية الاتصال والحالة التشغيلية
كشفت المراجعة المستقلة أيضاً أن الوظائف المطلوبة لإشارات الحياة (Heartbeat) والتعامل مع انقطاع الخدمة لم تُنفّذ في النسخة التي خضعت للتدقيق.
كانت هذه الوظائف واردة في المتطلبات، لكن تنفيذها ظل مؤجلاً في الشيفرة.
وتنبع أهميتها من ضرورة التمييز أحياناً بين دليل سابق وبين الحالة التشغيلية الراهنة.
فتفاعل سابق ناجح لا يثبت وحده استمرار التوافر أو التأهيل أو التخويل.
تختلف الآلية التفصيلية باختلاف التنفيذ؛ لكن القاعدة الهندسية هي وجوب استيفاء متطلبات الاستمرارية والتخويل ذات الصلة قبل الإعلان عن إنجازها.
ومجدداً، سبقت الوثائق وعبارات الطمأنة ما يوجد فعلاً في الشيفرة القابلة للتنفيذ.
7. أرشيفات سليمة تحتوي نظاماً غير مكتمل
تحقق التدقيق من سلامة حزمة هندسية موزعة على أجزاء عدة.
طابقت الملفات الـ 1,119 الواردة في الجرد جميع بصماتها الرقمية المسجلة.
كانت هذه نتيجة صحيحة لفحص السلامة (Integrity).
لكنها لم تثبت أن الحزمة تتضمن كل ما يلزم لإعادة بناء التطبيقات وتشغيلها.
فقد كشفت المراجعة لاحقاً نقص مكونات التجميع والتغليف، وعدم اكتمال مدخلات البناء، ووجود اختلافات بين المصادر القابلة للتعديل والملفات التنفيذية الموزعة.
وهنا تظهر فروق أساسية:
سلامة الملفات ليست اكتمال الحزمة. واكتمال الحزمة ليس صحة التنفيذ. وصحة التنفيذ ليست ضماناً للأمن.
تستطيع البصمة الرقمية إثبات أن ملفاً يطابق تسلسلاً محدداً من البايتات.
لكنها لا تثبت إدراج كل ملف مطلوب، ولا صحة تطبيق المتطلبات، ولا صلاحية البرنامج للتشغيل الإنتاجي.
فالحزمة الناقصة تظل ناقصة حتى لو حُفظت جميع أجزائها الموجودة بصورة مثالية.
ماذا تثبت هذه النتائج؟
وثق التدقيق المستقل إخفاقات محددة في التنفيذ، وتغطية الاختبارات، واتساق المصادر، والتحقق من النشر، والإعلان عن الاكتمال.
ووثق أيضاً تصحيحات ناجحة وحدوداً لا تزال قائمة.
وهذا التوازن مهم؛ فالنقد المبني على الأدلة لا يتطلب أن تكون كل مكونات النظام معيبة.
بل إن وجود مكونات سليمة قد يجعل اكتشاف الشهادة غير المبررة أصعب.
قد يكون النظام صحيحاً في جوانب واسعة، ومع ذلك يحتوي عيباً حرجاً واحداً.
وقد يكون التقرير مفصلاً ودقيقاً في معظمه، ثم يستخلص نتيجة لا تسندها أدلته.
ولذلك فالسؤال الهندسي الصحيح ليس:
كم اختباراً نجح؟
بل:
هل أثبتت الأدلة استيفاء كل معيار قبول ضروري للنتيجة المعلنة؟
V. مشكلة التكرار: حين يصبح الإخفاق نمطاً للعمل
الخطأ المنفرد ليس وحده دليلاً على مشكلة ممنهجة.
لكن تكرار سلسلة متشابهة من الأخطاء عبر مهام غير مترابطة يستلزم نوعاً آخر من التحليل.
أفاد تدقيق تاريخي لمجموعة أوسع من التفاعلات المدعومة بالذكاء الاصطناعي بفحص 929 محادثة و61,894 رسالة. وحدد التحليل اعترافات متكررة بالأخطاء، وتوجيهات تصحيحية، ونزاعات حول التسليم، وفروقاً بين الاكتمال المعلن والنتيجة الفعلية.
تصف هذه الأرقام عينةً أُبلغ عنها في تدقيق تاريخي، ولا تمثل قياساً محققاً لجميع المستخدمين أو جميع أنظمة الذكاء الاصطناعي. كما وُصفت مجموعة أدلة موسعة لاحقاً بأنها تجاوزت 18 غيغابايت، من دون إعادة قياس جميع محتوياتها بصورة مستقلة هنا.
تكمن قيمة هذا النوع من البيانات في إمكان قياس التكرار بين أنواع المهام ومراحل التطوير وإعدادات النماذج.
ويمكن تمييز التسلسل الآتي:
يُحدَّد متطلب واضح.
يُنتج تنفيذ جزئي.
تنجح اختبارات محدودة أو غير ذات صلة.
يُعلَن أن التنفيذ اكتمل أو خضع للتحقق.
يكتشف المسؤول فارقاً.
تُجرى محاولة تصحيح.
تتراجع وظيفة سبق اعتمادها.
يُعلَن نجاح جديد.
وتتكرر الدورة.
وقد تنتهي العملية بنقل المسؤولية إلى شخص آخر أو أداة أخرى أو مدقق خارجي، فيما يبقى الهدف الأصلي غير منجز.
لا يكفي وصف ذلك بمجرد إجابة خاطئة من حين إلى آخر.
فالأمر يتعلق بموثوقية عملية التنفيذ والضمان بأكملها.
طريق المقاومة الأقل
من الفرضيات الجديرة بالفحص أن المساعدة الآلية قد تفضّل أحياناً الطريق الأسرع والمتاح مباشرةً للوصول إلى نتيجة تبدو مكتملة.
قد يعني ذلك معالجة أبسط عيب ظاهر، أو تشغيل أصغر مجموعة اختبارات ملائمة، أو استبدال وثيقة معقدة بملخص أنيق، أو إنتاج ملف تسليم للغير بدلاً من إنجاز التنفيذ المطلوب.
والسؤال الذي يمكن ملاحظته هو: هل يستوفي العمل المنفَّذ المتطلبات الأصلية فعلاً؟
أما الأسباب الداخلية التي أدت إلى اختيار ذلك المسار فتحتاج إلى تحقيق منفصل؛ ولا يجوز استنتاجها من نتيجة فاشلة وحدها.
مع ذلك، تبقى الآثار قابلة للقياس.
هل حُفظت جميع المتطلبات المعتمدة؟
هل نُفذت الاختبارات ذات الصلة؟
هل فُصل بين المحاكاة والتكامل الحقيقي؟
هل صُرّح بالاعتماديات الناقصة؟
هل كُشفت الحدود قبل إعلان الاكتمال؟
هل أدت التصحيحات إلى تراجعات وظيفية؟
هل شمل التسليم النهائي كل ما طُلب؟
لا يستلزم الإجابة عن هذه الأسئلة الوصول إلى آليات داخلية مملوكة للشركات.
بل يستلزم ملفات التنفيذ، والسجلات، والمواصفات، والمقارنات القابلة لإعادة الإنتاج.
وهذا هو الأساس السليم للتحقيق الهندسي.
VI. تآكل المعرفة: حين يحل الوصول إلى الإجابة محل الفهم
يبدأ تآكل المعرفة (Knowledge Rot) عندما يحل الوصول السهل إلى إجابات تبدو مكتملة محل العملية الفكرية لاكتساب الفهم.
التعلّم البشري ليس مجرد جمع عبارات صحيحة.
بل يتطلب بناء نماذج ذهنية، واختبار الفرضيات، ومواجهة التناقضات، ومعرفة الاستثناءات، وتنمية الحكم اللازم لتطبيق المعرفة في ظروف غير مألوفة.
فالطالب الذي يشتق معادلة يتعلم شيئاً مختلفاً عمّن يتسلم المعادلة جاهزة.
والمبرمج الذي يتتبع تسرباً في الذاكرة يتعلم شيئاً مختلفاً عمّن ينسخ تصحيحاً مولداً.
والمهندس الذي يفحص افتراضات نموذج يتعلم شيئاً مختلفاً عمّن يحصل على خلاصة مكتوبة بلغة مهنية.
قد تتطابق النتائج.
لكن التطور المعرفي لا يتطابق.
ناتج صحيح مع غياب الفهم
لنفترض أن شخصاً استخدم نظاماً آلياً لحل مشكلة تقنية متقدمة.
ولنفترض أن الحل دقيق إلى درجة عددية استثنائية.
ثم نشر الشخص النتيجة.
هل يعني هذا أنه فهم المسألة؟
ليس بالضرورة.
هل يستطيع الدفاع عن الافتراضات؟
هل يستطيع تحديد الظروف التي تبطل فيها صلاحية الحل؟
هل يتعرف إلى خطأ في تحويل الوحدات، أو تقريب مخفي، أو شرط حدي مطبق على نحو خاطئ، أو تغيير في المتغيرات الفيزيائية؟
هل يستطيع إعادة إنتاج الاستدلال من دون الأداة؟
إذا كانت الإجابات بالنفي، فقد حصل على الناتج من دون أن يكتسب الكفاءة التي يبدو أن الناتج يمثلها.
وهذا هو جوهر المشكلة.
إمكان الوصول إلى المعرفة لا يساوي امتلاك المعرفة.
وقد يتراكم أثر هذا الاستبدال مع التكرار.
فكلما أُسند التفكير الصعب إلى الخارج، قلّت فرص ممارسته.
وكلما قلّت الممارسة، ضعفت الألفة بالمنهج.
وكلما تراجع الحكم المستقل، ازدادت جاذبية الاعتماد على الإجابات الآلية.
فتنشأ حلقة يمكن أن تعزز نفسها:
هذه صورة مفاهيمية للمخاطرة، لا قانون عام مثبت في كل حالات التعلم.
فالنتيجة تتوقف على كيفية استخدام التقنية، وطريقة تأهيل الناس، وما إذا كان التفكير المستقل يظل مطلباً في الدراسة والمهنة.
لكن الاحتمال له دلالته.
قد يزداد وصول المجتمع إلى المعلومات بينما تتراجع عمليات بناء الفهم نفسه.
أبعد من أثر دانينغ–كروغر
يتعلق أثر دانينغ–كروغر بالعلاقة بين مستوى الكفاءة وقدرة الشخص على تقدير كفاءته بدقة.
أما تآكل المعرفة فيطرح سؤالاً قريباً لكنه مختلف.
ماذا يحدث حين لا يكتفي الشخص بالمبالغة في تقدير ما يعرفه، بل يحصل على المظهر الخارجي للمعرفة من نظام ينتج لغةً ومخرجات بمستوى الخبراء؟
قد يناقش موضوعات لم يدرس مبادئها الأساسية.
ويمتلك وثيقة تقنية متقدمة من دون فهم اشتقاقاتها.
ويبدو مؤهلاً لإنجاز عمل مهني لأن نظاماً خارجياً يقوم بمعظم الجهد الفكري نيابةً عنه.
هذه ليست مجرد مشكلة في التقييم الذاتي.
بل هي احتمال نشوء خبرة مُصطنعة من الخارج.
لقد أصبح بالإمكان إنتاج مظهر الكفاءة بمعزل عن المسار التعليمي الذي كان يسهم تقليدياً في تكوينها.
وهذا يضع صعوبات جديدة أمام أصحاب العمل والمعلمين والمؤسسات والعملاء والجمهور.
كيف يمكن تقييم الخبرة حين لا يدل الملف المهني المثير للإعجاب بصورة موثوقة على المعرفة اللازمة لإنتاجه؟
وكيف نقيّم شرحاً تقنياً يمكن أن يكون بليغاً من دون أن يفهم صاحبه ما يقول؟
وكيف تميّز المؤسسات بين الحكم المهني الحقيقي والقدرة على تشغيل أنظمة تحاكي مظهره؟
VII. تآكل الكفاءة البرمجية: إنتاج البرمجيات بلا هندسة برمجية
يمثل تآكل الكفاءة البرمجية (Code Rot) الصورة البرمجية لتآكل المعرفة.
ويشير المصطلح هنا إلى تدهور الكفاءة الهندسية المستقلة، أو فشل تكوينها أصلاً، عندما تحل أدوات توليد الشيفرة محل التعامل المباشر مع المعمارية والتنفيذ والاختبار والصيانة.
ويختلف هذا المعنى عن الفهم التقليدي لتقادم البرمجيات نتيجة الاعتماديات القديمة أو تغير البيئة.
فقد لا تكون الشيفرة قديمة إطلاقاً.
ربما وُلدت قبل دقائق.
التآكل هنا يمس العلاقة بين الشيفرة وبين الأشخاص الذين يدّعون تحمل مسؤوليتها.
التدرّب الفكري الذي قد يختفي
هناك جانب من تكوين المهندس لا يمكن اختزاله في الوصول إلى النتيجة الصحيحة.
يأتي من قراءة شيفرة غير مألوفة سطراً بعد سطر.
ومن تتبع متغير عبر عدة دوال.
ومن فهم سبب بقاء مورد محجوزاً بعد انتهاء العملية.
ومن اكتشاف حالة تسابق غير متزامنة لا تظهر إلا في ترتيب زمني استثنائي.
ومن قضاء ساعات في فحص مشكلة بدت في البداية بسيطة.
ومن دراسة مئات الصفحات من الشيفرة بقلم تمييز، مع تتبع مسارات التنفيذ، وتدوين الافتراضات، وبناء تصور متكامل للنظام.
هذا العمل بطيء.
ومحبط أحياناً.
ومتكرر كثيراً.
لكنه ينمّي مهارة لا يمكن قياسها بعدد أسطر الشيفرة المنتجة في اليوم.
إنه يبني القدرة على التفكير المستقل في سلوك النظام.
يمكن للتوليد الآلي أن يختصر وقت التنفيذ اختصاراً كبيراً.
لكن ذلك لا يضمن أن المهندس المشرف يفهم ما نُفّذ.
قد ينشئ مطور قليل الخبرة خدمة مصادقة من دون فهم نمذجة التهديدات.
أو ربطاً بقاعدة بيانات من دون فهم المعاملات والعزل.
أو تطبيقاً متزامناً من دون فهم المزامنة.
أو آلية نشر من دون فهم الأذونات والأسرار والاسترداد.
أو مجموعة اختبارات أداء من دون معرفة شروط القياس الصحيح.
أو تدقيقاً أمنياً من دون فهم الظروف التي تجعل الثغرة قابلة للوصول أو الاستغلال.
قد تعمل الشيفرة في الظروف الاعتيادية.
لكن عند ظهور حالة غير متوقعة قد يفتقر المشغّل إلى الأسس المفاهيمية اللازمة للتشخيص.
مثال تسرب الذاكرة
في حادثة موثقة داخل تطبيق، قوبلت بلاغات متكررة عن زيادة استهلاك الذاكرة بتطمينات أولية بأن التطبيق يبدو مستقراً.
مع أن الأجهزة المتأثرة أظهرت نمواً واضحاً في استهلاك الذاكرة.
ثم جرى تحديد الخلل في عمليات إعادة رسم الواجهة، حيث كان يجري تسجيل دوال استدعاء راجعة (Callbacks) جديدة باستمرار مع الاحتفاظ بالمراجع المرتبطة بها.
لم تكن الاختبارات السابقة قد مارست مسار التنفيذ هذا بالقدر الكافي.
وأظهرت محاكاة مركزة لاحقاً تسجيل أكثر من مليون استدعاء راجع في التنفيذ المعيب، مقابل عدد صغير ومحدود بعد الإصلاح. كما سجّلت المحاكاة انخفاضاً كبيراً في استهلاك ذاكرة العملية.
تخص هذه الأرقام سيناريو محاكاة محدداً أعيد إنتاجه، ولا تثبت أن كل نمو في استهلاك الذاكرة على كل جهاز كانت له العلة نفسها.
لكن الدرس الهندسي واضح.
لم يُصلح العيب بإعلان استقرار التطبيق.
بل بتتبع مسار التنفيذ الحقيقي.
وفهم أعمار الكائنات، ودوال الاستدعاء، والمراجع المحتفَظ بها، والعمليات الرسومية المتكررة.
لم تكن القدرة الحاسمة هي توليد تنفيذ جديد.
بل معرفة أين يفشل التنفيذ القديم، ولماذا يفشل، وتحت أي ظروف.
هذا هو الحكم الهندسي.
وهذه بالذات هي المهارة المهددة عندما يعتاد المطورون تلقي التصحيحات من دون فهم أسباب العيوب.
الشيفرة ليست مجرد نص
الملف المصدري ليس سلسلة عبارات تبدو معقولة فحسب.
إنه جزء من شبكة اعتماديات وافتراضات وأعمار للموارد وانتقالات حالة وحدود أمنية وعقود خارجية.
قد يبطل تصحيح من سطر واحد اختباراً.
وقد يعطل تغيير إعداد حماية أمنية.
وقد يغير تعديل صغير ظاهرياً ملكية الذاكرة أو مدة الاحتفاظ بها.
وقد يحذف برنامج تثبيت اعتماداً كان يعمل.
وقد يستبعد تغيير في بناء الحزمة ملفاً ضرورياً.
وقد يحافظ إعادة تنظيم الشيفرة على المظهر الخارجي للسلوك، بينما يكسر ثابتاً تشغيلياً سبق اعتماده.
ومن دون نموذج ذهني للنظام قد لا يعرف المشغّل حتى الأسئلة التي ينبغي طرحها.
إن توليد الشيفرة لا يغني عن فهم هذه العلاقات.
كما أن القدرة على إنتاج مزيد من الشيفرة لا تثبت القدرة على صيانتها.
الدين التقني ودين المعرفة
يشير الدين التقني تقليدياً إلى التكاليف اللاحقة الناجمة عن قرارات تنفيذية تجعل التعديل أو الصيانة أصعب.
أما Code Rot فيضيف نوعاً آخر من الالتزام المتراكم: دين المعرفة.
يتراكم دين المعرفة حين تزداد منظومة ما تعقيداً، بينما لا يكتسب القائمون عليها فهماً موازياً لطريقة عملها.
قد يقيم الدين التقني في الشيفرة نفسها.
أما دين المعرفة فيقيم في العلاقة بين الشيفرة ومَن يصونونها.
ويمكن للدينين أن يعزز أحدهما الآخر.
فالبرمجيات المعقدة تتطلب صيانة واعية.
والفهم الضعيف يشجع تغييرات لا تُتوقع عواقبها جيداً.
وقد تخلق هذه التغييرات تعقيداً إضافياً.
ثم يزيد التعقيد الاعتماد على التدخل الآلي.
فيصبح النظام أصعب فهماً في اللحظة نفسها التي يصبح فيها مشغّلوه أقل قدرة على فهمه.
VIII. درس من الفحص غير الإتلافي
تقدم تقنيات الفحص غير الإتلافي (Non-Destructive Testing, NDT) تشبيهاً هندسياً مناسباً.
لنتصور فنياً مكلفاً بفحص قطعة من الألومنيوم بحثاً عن أنواع محددة من عدم الاستمرارية في المادة.
لديه جهاز فحص بالجسيمات المغناطيسية (Magnetic Particle Testing, MT)، ويعرف كيفية تشغيله، وربما يستطيع إعداد تقرير فحص أنيق.
لكن الألومنيوم ليس مادة مغناطيسية حديدية (Ferromagnetic).
يعتمد الفحص التقليدي بالجسيمات المغناطيسية على مغنطة مادة مناسبة من المواد المغناطيسية الحديدية، ولذلك لا يصلح لفحص قطعة ألومنيوم.
وبحسب نوع عدم الاستمرارية المستهدف، والهندسة الشكلية، وإمكان الوصول، والمعايير الواجبة التطبيق، قد تناسب تقنيات التيارات الدوامية (Eddy Current Testing)، أو السوائل المتغلغلة (Liquid Penetrant Testing)، أو الموجات فوق الصوتية (Ultrasonic Testing).
ليست المشكلة فيما إذا كان جهاز الفحص المغناطيسي يشتغل.
قد يعمل الجهاز كما صُمم تماماً.
المشكلة أن طريقة الفحص نفسها غير مناسبة للمادة ولغرض التفتيش.
فلنتصور الآن أن الفني أصدر تقرير قبول.
الجهاز عمل. الفحص لم يكن صالحاً. والضمان لم يكن مبرراً.
ينطبق هذا الفرق مباشرة على التحقق من البرمجيات.
قد يُنفَّذ اختبار بنجاح، لكنه لا يرتبط بالعيب المطلوب كشفه.
وقد يتحقق الاختبار من تنفيذ مقابل متطلب خاطئ.
وقد يعمل نظام المحاكاة فيما تظل بيئة الإنتاج الحقيقية معطّلة.
وقد تثبت جميع البصمات الرقمية سلامة الملفات، من دون إثبات اكتمال الحزمة.
لا يصبح الناتج مقبولاً لمجرد أن إجراء فحص قد نُفّذ.
بل يجب أن تكون الطريقة ملائمة للشيء المفحوص ولمعايير القبول.
في ممارسات ضمان الجودة، لا تُعد كل حالة عدم استمرارية عيباً يستوجب الرفض تلقائياً؛ فالحكم يعتمد على المعيار وشروط القبول. كذلك قد تجعل مخالفة الإجراءات العمل غير مقبول حتى لو لم توجد شقوق مرئية أو إخفاقات فورية.
القاعدة الأساسية هي أن المطابقة تُثبت بالقياس إلى المتطلبات، لا بعدم وقوع كارثة.
فالمكوّن لا يحتاج إلى الانكسار حتى يستدعي العيب غير المقبول إجراءً تصحيحياً.
ولا يحتاج التطبيق إلى تسريب بيانات حتى يصبح غياب فحص التخويل مشكلة أمنية.
ولا يحتاج تسرب الذاكرة إلى إسقاط الخادم حتى يُعدّ عيباً في إدارة الموارد.
ولا يصبح الفحص غير الصالح مشروعاً لأن القطعة لم تفشل بعد.
هذه هي الهندسة الوقائية.
وهي كذلك من أساسيات تطوير البرمجيات المسؤول.
IX. الإيجابيات الكاذبة في التدقيق بوصفها خطراً هندسياً
قد تكون نتيجة النجاح الكاذبة في ضمان الجودة الهندسية أشد خطراً من فشل واضح.
الفشل الظاهر يدفع إلى التحقيق.
أما النجاح الزائف فقد يوقف التحقيق.
ولذلك لا تُقاس جودة التحقق بعدد الاختبارات الناجحة وحده.
لنتصور مشروعاً برمجياً يضم ألف اختبار آلي.
ينجح 999 اختباراً.
أما الاختبار المتبقي فيتحقق مما إذا كانت عملية غير مخوّلة تستطيع عبور حد أمني حرج.
إذا فشل هذا الاختبار، فالمشروع لم يستوف متطلبات الأمن.
لا يستطيع الكم الكبير من الاختبارات الناجحة إلغاء انتهاك ذلك الثابت الأمني.
تتحدد سلامة النظام الأمنية الفعلية بحسب نقاط الضعف القائمة على مسارات الهجوم وحدود الثقة ذات الصلة، لا بنسبة المكونات الأخرى التي تعمل بصورة صحيحة.
مراتب الأدلة الهندسية
تتطلب الادعاءات المختلفة أدلة مختلفة.
| الادعاء | الدليل المطلوب | ما لا يكفي |
|---|---|---|
| الشيفرة صحيحة نحوياً | نجاح التحليل النحوي أو الترجمة | الفحص البصري وحده |
| الدالة تعمل صحيحاً | اختبارات وظيفية ذات صلة | نجاح اختبار غير مرتبط |
| الإصلاح يحافظ على السلوك السابق | إعادة تشغيل اختبارات الانحدار المناسبة | نتائج من إصدار أقدم |
| الحزمة مكتملة | بناء قابل لإعادة الإنتاج وجرد الاعتماديات | البصمات الرقمية وحدها |
| تنفيذان متكافئان | مقارنة سلوكية أو على مستوى الملفات ضمن نطاق محدد | تشابه أسماء الملفات |
| العميل والخادم متوافقان | اختبارات العقد والتكامل | محاكاة العميل وحده |
| النشر يعمل | فحوص مناسبة على البيئة المنشورة | نجاح المحاكاة المحلية |
| متطلبات الأمن مستوفاة | اختبارات أمنية إيجابية وسلبية ملائمة | اختبار المسار الاعتيادي فقط |
| النظام جاهز للإنتاج | أدلة تغطي معايير الإصدار المتفق عليها | عبارة عامة بأن الاختبارات نجحت |
لا يعني هذا الجدول أن جميع الأنظمة تحتاج إلى عملية تحقق متطابقة.
لكنه يوضح أن نتيجة الاختبار يجب أن تتطابق مع الادعاء الذي يُستشهد بها لإثباته.
وينطبق المبدأ نفسه على الاختبار السلبي.
فتقييم الأمن المصمم جيداً لا يكتفي بإثبات نجاح العمليات المسموح بها.
بل يفحص رفض العمليات غير المصرّح بها.
ومعالجة المدخلات غير الصالحة بأمان.
وفشل الاعتماديات بطريقة منضبطة.
والتعامل الصحيح مع الحالات المنتهية أو غير المتسقة.
وحفظ السلامة أثناء الاستعادة.
واستمرار الوظائف المعتمدة سابقاً بعد التغييرات.
نجاح الاختبار الإيجابي لا يغني عن هذه الأسئلة.
اختبارات الانحدار ليست اختيارية
إصلاح عيب لا يعني بالضرورة إصلاح النظام كله.
فالبرمجيات مترابطة.
قد يؤثر تغيير لإصلاح مشكلة في وظيفة أخرى.
وقد يحذف محرك بديل قدرات كانت متاحة في سابقه.
وقد يبطل تعديل المثبّت سلوك الحزمة المعتمد.
وقد تعطل معالجة الواجهة المزامنة مع الحمل التشغيلي.
توجد اختبارات الانحدار (Regression Testing) لأن التقدم البرمجي ليس تراكمياً بصورة مضمونة.
فالإصدار الأحدث ليس بالضرورة أفضل.
ونجاح اختبار جديد لا يثبت استمرار استيفاء المتطلبات القديمة.
ولذلك يحتاج المشروع الموثوق إلى سلسلة تتبع واضحة:
إذا فُقد رابط من هذه السلسلة، كانت سلسلة الضمان ناقصة.
وإذا أُعلن اكتمال سلسلة ناقصة، أصبح تقرير التحقق نفسه جزءاً من العيب.
X. الإنترنت بوصفه تراكماً لأنظمة لم تُتحقق منها بما يكفي
تتجاوز الآثار المطورين الأفراد بكثير.
لنتأمل عدد الأشخاص قليلي الخبرة التقنية الذين يستطيعون اليوم بناء مواقع وتطبيقات وتشغيلها على الإنترنت.
قد يتضمن تطبيق ويب حديث أنظمة مصادقة وجلسات وواجهات برمجة خارجية ومدفوعات ومحتوى ينشئه المستخدمون وقواعد بيانات وخدمات سحابية ورفع ملفات ومعلومات شخصية حساسة.
وكل تكامل يضيف افتراضات وشروط فشل محتملة.
قد لا يفهم المبتدئ الفرق بين التحقق من البيانات في جهة العميل والتحقق منها في جهة الخادم.
وقد يخلط حدود الصلاحيات.
وقد يكشف بيانات اعتماد، أو يهيئ سياسات وصول متساهلة، أو يتعامل خطأً مع مدخلات غير موثوقة، أو ينشر برنامجاً بإعدادات افتراضية غير آمنة.
وقد لا يدرك أن النظام قد يعمل تماماً في الاستخدام الاعتيادي، لكنه يبقى غير آمن عندما يواجه ظروفاً عدائية.
وقد يعجز عن تفسير تحذير أمني أو تقييم ما إذا كان التصحيح المقترح يعالج الثغرة فعلاً.
ليس الناتج بالضرورة تطبيقاً صُمم للإضرار بالآخرين.
ربما هو مجرد تطبيق لا يفهم صاحبه عمله بالقدر الكافي، ثم يعرّضه للجمهور.
وهذا وحده يخلق مخاطر.
ضعف الكفاءة لا يستلزم نية خبيثة
ليس من الضروري أن تكون الثغرة الأمنية قد زُرعت عمداً.
قد تنشأ صلاحية غير آمنة من سوء فهم.
وقد تنشأ سياسة أمنية معطلة من تعارض في الإعدادات.
وقد يبقى ملف حساس ضمن الحزمة المنشورة لأن أحداً لم يفحص جرد محتوياتها.
وقد تفتقر قاعدة البيانات إلى قيد ضروري لأن الاختبارات المحلية لم تشغّل مخطط الإنتاج الحقيقي.
وقد يوصف خادم بأنه يعمل لأن بيئة تطوير استجابت بصورة صحيحة.
هذه كلها أصناف معروفة من العيوب الهندسية.
لكن عواقبها قد تكون استثنائية.
ليست القضية ما إذا كان كل عيب سيؤدي حتماً إلى حادث.
بل إن عملية النشر تعرض الآخرين وأنظمتهم لأخطاء قد لا يكون المسؤول عن النشر مدركاً أصلاً لوجودها.
وهم المنتج الاحترافي
يستطيع الذكاء الاصطناعي إنتاج واجهات جميلة، ووثائق مقنعة، واختبارات تبدو شاملة، وملخصات إصدار تنضح بالثقة.
وقد يراها المطور قليل الخبرة دليلاً على الجودة.
وقد يراها العميل قليل الخبرة دليلاً على امتلاك المصمم خبرة مهنية.
لكن الجمال البصري والبلاغة اللغوية لا يثبتان أمن التنفيذ.
لوحة المعلومات الجذابة لا تثبت صحة القياسات التي تعرضها.
وواجهة تسجيل الدخول الحديثة لا تثبت سلامة نظام المصادقة.
وسياسة الخصوصية المفصلة لا تثبت التعامل مع البيانات وفق ما تقوله.
وتقرير النشر الذي يبدو احترافياً لا يثبت أن التطبيق المنشور فُحص فعلاً.
كلما أصبح توليد البرمجيات أسهل، أمكن أن يزداد حجم الشيفرة المعروضة للعالم بسرعة تفوق توافر المراجعة البشرية الكفؤة.
وبذلك تنشأ إمكانية واقعية لامتلاء الإنترنت بأنظمة يعرف أصحابها تشغيلها، لكنهم لا يعرفون تقييم أمنها بصورة مناسبة.
ليس الخطر أن الجميع سينتج برمجيات خبيثة.
بل أن برمجيات تحتاج إلى حكم مهني قد تُنشر من دون ممارسة ذلك الحكم إطلاقاً.
XI. تعميم مظهر الخبرة
الهندسة البرمجية ليست إلا مثالاً واحداً.
تظهر الظاهرة نفسها حيثما أمكن إنتاج خطاب مقنع من دون امتلاك الكفاءة التي يفترض أن يقوم عليها.
يمكن لمن يجهل الأسواق المالية أن ينشر تحليلات تبدو متقدمة عن تداول العملات الأجنبية أو المشتقات أو العملات المشفرة أو التمويل اللامركزي (DeFi).
ويمكن لمن لم يتلقَّ تدريباً علمياً أن ينشر شروحاً تقنية تبدو دقيقة ومنهجية.
ويمكن لمن لا يمتلك خبرة التصميم أن يقدم أعمالاً مبهرة بصرياً مع جهله بإمكانية الوصول وسهولة الاستخدام وقيود التصنيع والمبادئ الحاكمة للتصميم.
كما يمكن لشخص غير مؤهل مهنياً أن يبني هويته العامة على خبرة تنتجها الآلة.
المقصود ليس منع المبتدئين من التعلم أو المشاركة.
بل فهم ما يحدث حين تختلط المشاركة بالتأهيل.
من يتعلم اختصاصاً يعرف، أو ينبغي أن يُعلَّم، أن عليه إتقان أسس لم يكتسبها بعد.
أما من يحمل إجابة تبدو موثوقة فقد يعتقد أن تلك الأسس لم تعد ضرورية.
ويزداد الفرق خطورة عندما تمس الأخطاء الآخرين.
قد يؤثر رأي مالي منشور في قرارات تتعلق بأموال حقيقية.
وقد يعرّض موقع غير آمن بيانات مستخدميه للخطر.
وقد تخلق قطعة هندسية بمواصفات خاطئة خطراً مادياً.
وقد يدفع تقييم تقني غير صالح آخرين إلى قبول عمل معيب.
القدرة على نشر الإجابة لا تثبت القدرة على الدفاع عنها.
وحين تأتي الإجابة من نظام يستخدم نبرة سلطوية سواء كانت المعلومة صحيحة أم خاطئة، قد يصعب على الجمهور التفريق بين التعلم الحقيقي ومحاكاة الخبرة.
تآكل المساءلة عبر تفويض العمل
وهنا يبرز سؤال مقلق:
من المسؤول عن ناتج لا يستطيع ناشره تفسيره؟
قد يقول الناشر إن الآلة هي التي أنشأته.
وقد تكون الآلة قد صاغت كلاماً يوحي بأن الناتج صحيح.
وقد يكون الجمهور اعتمد على خبرة الناشر الظاهرية.
وقد تكون المؤسسة التي تنشر الناتج افترضت أن جهة أخرى أجرت المراجعات اللازمة.
فتتوزع المسؤولية عبر سلسلة يعتقد فيها كل طرف أن طرفاً آخر قدّم الكفاءة المفقودة.
ويكون الوضع أخطر حين لا تتضمن هذه السلسلة نقطة تحقق مستقلة وخاضعة للمساءلة.
المشكلة ليست مجرد نقص المعرفة.
إنها اختفاء موضع واضح يجب فيه إثبات الكفاءة قبل قبول عمل ذي تبعات مهمة.
XII. التعليم المهني وخطر الجيل الذي لم يكتسب الأسس
قد تظهر الآثار البعيدة المدى أوضح ما يكون في التعليم التقني.
يواجه خريجو الهندسة وتطوير البرمجيات اليوم أدوات تنفذ مهام كانت الأجيال السابقة مضطرة إلى تعلمها بالممارسة الطويلة.
ولهذه الأدوات استخدامات تعليمية مشروعة.
فيمكنها شرح المفاهيم، وتقديم أمثلة، واستكشاف بدائل، وتوفير ملاحظات نقدية.
لكن قيمة هذه الاستخدامات تعتمد على بقاء مسؤولية التفكير عند المتعلم.
إذا أخذت المؤسسة التعليمية تكافئ المنتج النهائي أكثر من الفهم المثبَت، فقد يصبح اكتساب الكفاءة أمراً اختيارياً.
قد يقدم طالب شيفرة صحيحة من دون أن يفهم الخوارزمية.
وقد يجمع خريج ملف أعمال مثيراً للإعجاب من دون أن يكون قد نفّذ مكوناته المهمة بصورة مستقلة.
وقد يمضي مطور مبتدئ سنوات في إنتاج التطبيقات من دون تطوير مهارات التشخيص المتوقع توافرها عند صاحب هذه الخبرة.
وهذا يخلق مؤشراً مهنياً قد يكون مضللاً.
فقد لا تعادل سنوات العمل بعد الآن سنوات من الممارسة التقنية المستقلة.
ويغدو التفريق بين خبرة تشغيل نظام آلي وخبرة هندسة التقنية التي يقوم عليها أمراً أكثر أهمية.
ما مصير الحكم الهندسي؟
يتكون الحكم المهني من المواجهة المتكررة مع عدم اليقين.
يتعلم المهندس التفريق بين الدليل المقاس والافتراض.
ومراجعة النتيجة التي تبدو متعارضة مع قانون فيزيائي.
وإدراك أثر حذف متطلب.
ومعرفة متى تكون طريقة الاختبار غير مناسبة.
وفهم كيف يمكن لعيب يبدو صغيراً أن يفضي إلى آثار تتجاوز موضعه.
لا تُكتسب هذه المهارات تلقائياً بطلب إجابات ناجحة.
بل تنشأ من الاشتباك الفكري المباشر مع المشكلات.
إذا قلّت فرص هذا الاشتباك أمام الجيل القادم، فقد تواجه المجتمعات نقصاً لا في منتجي المخرجات التقنية، بل في القادرين على تقييم تلك المخرجات باستقلالية.
قد يظل هذا النقص مخفياً أثناء التشغيل الطبيعي.
لكنه يظهر عندما يتصرف النظام بطريقة غير متوقعة.
أو عندما تتعطل الأتمتة.
أو حين تتعارض الأدلة وتستوجب حكماً.
أو حين يحتاج العطل إلى فهم النظام لا إلى وصف النتيجة المرغوبة.
قد يكون جيل اعتاد أساساً طلب الحلول غير مستعد لمواجهة مشكلات لا تُحل بمجرد طلب الحل.
XIII. حين يتطلب إصلاح الذكاء الاصطناعي مهندسين يعتمدون عليه
لنعد إلى فرضية عام 2055.
أكثر ما يبعث على القلق ليس التوقف المفاجئ للذكاء الاصطناعي.
بل احتمال أن يكون المجتمع قد فقد الكفاءة اللازمة لإعادة الأنظمة التي يعتمد عليها إلى الخدمة.
إنها مشكلة مرونة تقنية (Technological Resilience).
فالمرونة لا تعني ارتفاع التوافر أثناء الظروف العادية فقط.
بل تشمل القدرة على تشخيص الأعطال وفهم الاعتماديات واستعادة الوظائف الأساسية والتكيّف مع ظروف لم تتوقعها الهندسة الأصلية.
يمكن للأتمتة تحسين الموثوقية بطرق كثيرة.
لكنها قد تولّد اعتماداً خطراً إذا توقف المشغّلون البشريون عن ممارسة مهارات الاسترداد.
وتصبح العلاقة دائرية:
يعتمد البشر على أنظمة آلية لصيانة البنية التحتية.
وتحتاج الأنظمة الآلية إلى تلك البنية كي تعمل.
تحدث أعطال في البنية التحتية.
فيعتمد البشر على الأتمتة لتشخيصها.
لكن إذا تعطلت الأتمتة نفسها أو تأثرت بالعطل، فقدت عملية الاسترداد المصدر الأساسي الذي كانت تعتمد عليه للحصول على الإرشاد التقني.
لم تعد المشكلة تطبيقاً واحداً معطلاً.
بل احتمال ضياع القدرة المستقلة على الاستعادة.
نظام لا يستطيع تفسير فشله
قد يساعد نظام آلي متقدم في صيانة أنظمة آلية أخرى.
لكن هذه البنية لا تلغي الحاجة إلى فهم بشري مستقل.
بل تثير مسائل عن الاعتماديات المشتركة، والفشل المترابط، وقابلية الملاحظة، وإجراءات الاسترداد، وكفاءة المشرفين.
إذا اعتمدت أنظمة عدة على البنية نفسها، فقد تتعطل معاً.
وإذا كانت أدوات التشخيص تعتمد على البيئة المعطلة، تعقدت الاستجابة للحادث.
وإذا لم يمارس المسؤولون التشخيص المستقل، فقد تتحول عيوب عادية إلى أزمات تشغيلية طويلة.
يمكن لتطور الأتمتة أن يخفي هذه الهشاشة سنوات.
فقد يبدو النظام شديد القدرة ما دام كل شيء يعمل.
أما مرونته الفعلية فتظهر عندما تسقط افتراضاته الأساسية.
الفرق بين الراحة والاعتماد
الراحة تقلل الجهد.
أما الاعتماد فيقلص البدائل أو يلغيها.
قد يصبح المهندس الكفء أسرع عند استخدام مساعد آلي، مع احتفاظه بالقدرة على العمل من دونه.
أما المشغّل قليل الخبرة الذي لم يبنِ المهارات الأساسية فقد يعجز عن التصرف إذا اختفى المساعد.
قد يبدو الاثنان متساويين في الإنتاجية أثناء الظروف العادية.
لكن مرونتهما ليست متساوية.
لهذا يهم التمييز بين التعزيز والاستبدال.
التعزيز يوسّع الكفاءة. أما الاستبدال فقد يحول دون نشوء الكفاءة أصلاً.
على مستوى الفرد، يؤثر ذلك في النمو المهني.
وعلى مستوى المؤسسة، يمس الاستمرارية.
وعلى مستوى المجتمع، قد يصبح قضية سيادة تقنية.
فالحضارة التي تعجز عن صيانة أنظمتها الأساسية باستقلالية قد تمتلك تقنية متقدمة من دون أن تحتفظ بسيطرة حقيقية على تشغيلها.
XIV. ما الذي يغذي تآكل المعرفة وتآكل الكفاءة البرمجية؟
لا يمكن إرجاع الأسباب إلى دافع واحد أو مؤسسة واحدة أو آلية تقنية واحدة.
ثمة حوافز متداخلة تستحق الدراسة.
السرعة بديلاً عن الإنتاجية الحقيقية
التسليم السريع جذاب.
تبدو المهمة المنجزة خلال دقائق أكثر كفاءة من مهمة تتطلب أياماً.
لكن السرعة تصبح مضللة حين يُقاس الإنجاز بمجرد وجود ملف أو ناتج، لا باستيفاء المتطلبات.
التطبيق المُولَّد ليس بالضرورة تطبيقاً خضع للتحقق.
والتقرير المكتمل ليس بالضرورة تقريراً صالحاً.
والنشر السريع ليس بالضرورة نشراً آمناً.
إذا كافأت المؤسسات الإنتاج الظاهر من دون فحص السلامة التقنية، فقد تحل الإنتاجية الشكلية محل جودة الهندسة الحقيقية.
الراحة بديلاً عن التعلم
التعلم يتطلب وقتاً وإحباطاً وتكراراً وجهداً.
أما الحصول على إجابة مولدة فأسهل غالباً.
عندما تصبح كلفة تجاوز مسار التعلم ضئيلة جداً، قد يضعف الحافز لبناء فهم مستقل.
وهذا لا يعني أن كل مستخدم ستتراجع كفاءته.
بل يعني أن التقنية تتيح تجنب الأنشطة التي تنمّي الكفاءة في الأصل.
وتتوقف فائدة هذه الإمكانية أو ضررها على توقعات التعليم والممارسة المهنية.
المكافآت الاجتماعية لمظهر المعرفة
تكافئ الشهرة العامة غالباً الثقة والسرعة وحسن العرض.
وقد يجذب الشرح المتقدم الجمهور قبل أن يفحص أحد صحته.
وقد يمنح ملف الأعمال الأنيق صاحبه مصداقية مهنية قبل تقييم ما أنجزه بنفسه.
وهكذا يصبح توليد الكلام البليغ حافزاً إلى عرض مظهر الخبرة من دون اكتسابها بالضرورة.
وعندما يعجز الجمهور عن التفريق بين الصورة والواقع، قد تقترب المكاسب الاجتماعية والاقتصادية للخبرة الظاهرية من مكاسب الخبرة الحقيقية.
ضعف حوافز التحقق
التحقق مكلف.
إعادة إنتاج النتيجة، وفحص الشيفرة، واختبار الظروف غير المتوقعة، وتحليل التناقضات تحتاج إلى وقت.
أما توليد جواب يبدو معقولاً فأقل كلفة نسبياً.
وهذا يخلق توتراً بنيوياً بين التوليد السريع وضمان الجودة الصارم.
إذا كافأت حوافز العمل المظهر السريع للاكتمال، فقد يُختصر التحقق أو يصبح انتقائياً أو يُهمل.
وجود هذا التوتر لا يثبت أن فشلاً بعينه كان متعمداً بسبب خفض كلفة الحوسبة أو سياسة داخلية مخفية.
مثل هذه الادعاءات تتطلب أدلة مستقلة.
لكن نتائج السلوك الظاهر تبقى قابلة للدراسة والقياس.
سلطة الأنظمة الآلية
قد يمنح الناس وزناً مفرطاً لنظام يتحدث دائماً بلغة احترافية.
وقد تؤثر هذه السلطة في المستخدم قبل أن يقيم الأدلة.
وحين يعلن النظام اكتمال العمل، قد يصبح الإعلان سبباً لإيقاف الفحص.
وكلما بدا أكثر كفاءة، ازدادت جاذبية قبول تطميناته.
وهنا تبدأ الواجهة التي صُممت للمساعدة على الحكم في الحلول محل الحكم نفسه.
المسؤولية من دون فهم
أخيراً، قد تسند المؤسسات مسؤوليات إلى أشخاص تنفذ الأنظمة الآلية قسطاً متزايداً من أعمالهم.
ويبقى الشخص مسؤولاً عن الناتج، لكنه ربما لا يملك المعرفة اللازمة لتفحص عملية إنتاجه.
وهذه تركيبة غير مستقرة.
فالمسؤولية تقتضي قدرة ذات معنى على الفهم والاعتراض والإشراف على العمل المقبول.
وبدونها تصبح المساءلة لقباً رسمياً مفصولاً عن الكفاءة التشغيلية.
XV. المعنى الهندسي للثقة
اعتمد البشر طوال أجيال على آلات يمكن اختبار سلوكها ومعايرته وتقييده وإعادة إنتاج نتائجه.
الآلة الحاسبة لا تتطلب ثقة شخصية بالمعنى الإنساني.
يمكن إثبات صحة نتائجها وفق قواعد رياضية.
ويمكن تقويم جهاز صناعي مقابل معايير معايرة.
ويمكن مقارنة تنفيذ برمجي بمواصفات واختباره ضمن ظروف محددة.
ليست الأنظمة الهندسية الجديرة بالثقة بالضرورة أنظمة لا تفشل أبداً.
بل أنظمة يمكن فهم حدودها وأنماط فشلها وشروط تشغيلها وأدلة التحقق منها.
تعقّد الأنظمة التوليدية هذه العلاقة لأن شروحها السلسة قد تُؤخذ دليلاً على أعمال تزعم أنها نفذتها.
القول إن الشيء صحيح ليس هو صحته.
والقول إن الاختبارات نُفّذت ليس سجلاً لتنفيذها.
والقول إن العيب أُصلح لا يغني عن إعادة إنتاجه أولاً ثم التحقق من إصلاحه.
والقول إن كل المتطلبات فُحصت ليس مصفوفة لتتبع المتطلبات.
البديل المناسب للثقة المطلقة ليس الشك المطلق.
بل الضمان القائم على الأدلة.
يجب أن يبيّن ادعاء التحقق نطاقه.
والمدخلات المعنية.
والتنفيذ الخاضع للاختبار.
والنتيجة المتوقعة.
والنتيجة المرصودة.
والبيئة.
والقيود.
والأدلة التي تمكّن مراجِعاً مستقلاً مؤهلاً من إعادة إنتاج الاستنتاج.
وحين تغيب هذه العناصر، لا تكون العبارة الصحيحة أن النظام نجح.
بل أن صحة الادعاء المعني لم تُثبت بعد.
ينطبق هذا المبدأ مهما بلغت بلاغة الآلة.
الحقيقة المتحقق منها والجملة ذات النبرة السلطوية
قد تقول جملة إن النشر يعمل.
لكن فحص النشر الحقيقي هو الذي يثبت استجابة نقطة الخدمة وفق المتطلبات.
وقد تقول جملة إن حزمة المصدر مكتملة.
لكن البناء القابل لإعادة الإنتاج هو الذي يحدد ما إذا كانت المكونات اللازمة موجودة.
وقد تقول جملة إن الشيفرة خالية من عيب أمني ذي صلة.
لكن التقييم الأمني الصارم هو الذي يفحص التهديدات وحدود الثقة وشروط الإخفاق والمخاطر المتبقية ضمن نطاق محدد.
وقد تقول جملة إن خوارزمية جديدة تحفظ سلوك تنفيذ سابق.
لكن المقارنة المحددة بعناية هي التي تثبت أي سلوك حُفظ، وأي سلوك بقي من دون تحقق.
ينبغي أن تكون هذه الفروق من أساسيات الهندسة.
وتصبح أكثر إلحاحاً عندما تستطيع الأنظمة إنتاج لغة التحقق المكتمل من دون إنتاج الأدلة التي تسندها.
XVI. مَن المسؤول؟
لا يمكن حسم المساءلة بإلقاء اللوم على طرف واحد.
فالمشكلة تتوزع على مستويات عدة.
مطورو الأنظمة الآلية وموزعوها
تتحمل المؤسسات التي تنشئ وتوزع أنظمة ذكاء اصطناعي عالية القدرة مسؤولية الطريقة التي تعبّر بها تلك الأنظمة عن قدراتها وحدودها وما أنجزته بالفعل.
وعليها أيضاً مسؤولية التحقيق في الأنماط المتكررة من الضمانات المضللة وضعف التحقق وعدم موثوقية النتائج في المجالات الحساسة.
هناك فرق جوهري بين نظام ينتج جواباً يبدو معقولاً ونظام يبلّغ بصدق عن فعل محدد جرى تنفيذه.
لا ينبغي أن تُعرض العمليات غير المتحقق منها بوصفها عمليات خضعت للتحقق الكامل.
ويجب أن تحدد خطورة الادعاء المهنية قوة الدليل اللازم لإثباته.
الأشخاص الذين ينشرون المخرجات الآلية
يبقى الأفراد والمؤسسات الذين يضعون البرامج في الإنتاج مسؤولين عن نتائج قرارات النشر.
وعندما تنقصهم الخبرة، تزداد أهمية المراجعة المختصة ولا تتراجع.
فتوليد الشيفرة آلياً لا يعفي النظام من واجبات الهندسة المعتادة.
وغياب النية الخبيثة لا يمحو مسؤولية المخاطر المتوقعة.
المؤسسات التعليمية
على الجامعات ومعاهد التدريب التفريق بين الحصول على نتائج صحيحة وبين القدرة على الاستدلال المستقل.
لا يصح أن يقوم تقييم الكفاءة على مخرجات أنيقة فقط، قد تكون أُنتجت بلا فهم.
ويجب أن يظل الطلاب مطالبين بتعلم الأسس والدفاع عن اختياراتهم وفحص الإخفاقات وإظهار مهارات حل المشكلات باستقلالية.
السؤال ليس: هل تدخل التقنية إلى التعليم؟
بل: هل يستمر التعليم في تخريج أشخاص يفهمون الأنظمة التي سيتولون مسؤولية صيانتها؟
أصحاب العمل والهيئات المهنية
يجب ألا تختلط الإنتاجية المدعومة بالأدوات بالكفاءة المهنية.
فكثرة الشيفرة المنتجة لا تثبت القدرة على صيانتها.
وملف الأعمال التقني المثير للإعجاب لا يثبت بالضرورة خبرة تنفيذ مستقلة.
والقدرة على تشغيل برنامج تصميم أو فحص آلي لا تثبت إتقان المبادئ الفيزيائية والهندسية التي يقوم عليها.
بل يجب إثبات الكفاءة بالمستوى الذي تقتضيه المسؤولية المسندة.
الجهات التنظيمية وهيئات المعايير والمؤسسات التي تقبل الأعمال التقنية
عندما تؤثر البرمجيات والأنظمة التقنية في السلامة العامة أو الخصوصية أو الأمن المالي أو البنى الأساسية، تصبح إجراءات القبول ذات أهمية حاسمة.
ينبغي أن تستطيع المؤسسات التفريق بين أدلة تحقق فعلية وبين تصريحات يصدرها المسار نفسه الذي أنتج العمل.
ولا ينبغي أن تنخفض معايير الإثبات لمجرد أن إنتاج المخرجات التقنية أصبح أسرع.
المبدأ الأساسي للمساءلة
يجب أن تتبع المسؤولية القدرة على التأثير في النتيجة، وسلطة اعتمادها، وواجب التحقق منها.
لا يستطيع طرف واحد إزالة جميع العيوب.
لكن لا يجوز لطرف أن يتخذ وجود أطراف أخرى مبرراً لتقديم عمل غير متحقق منه بوصفه آمناً أو مكتملاً.
تبدأ المساءلة حيث تنتهي الضمانات التي لا تسندها الأدلة.
XVII. مستقبل بتقنية أكثر وفهم أقل؟
يمكن الآن صياغة المفارقة الأساسية بوضوح.
تطور البشرية أدوات تجعل إنتاج المخرجات التقنية المتقدمة أيسر وصولاً.
وقد يوسّع ذلك ما يستطيع الناس إنجازه.
لكن إذا حل الوصول إلى المخرجات محل اكتساب المعرفة التي تقف خلفها، فقد تنمو القدرة الظاهرية أسرع من الكفاءة الحقيقية.
وإذا كانت الأنظمة نفسها تصدر ضمانات صحة غير مبرَّرة، فقد تُقبل أعمال معيبة مع تدقيق أقل.
وإذا امتد هذا النمط إلى التعليم والممارسة المهنية وتطوير البرمجيات والتواصل العام، فقد لا تكون النتيجة البعيدة المدى مجرد زيادة الأخطاء.
بل قد تكون إضعاف القدرة البشرية المطلوبة لاكتشاف الأخطاء وفهمها وتصحيحها.
هذه هي الدلالة الأعمق لتآكل المعرفة وتآكل الكفاءة البرمجية.
يشير تآكل المعرفة إلى اختفاء الفهم خلف إجابات تزداد إقناعاً.
ويشير تآكل الكفاءة البرمجية إلى اختفاء الحكم الهندسي خلف برمجيات تتزايد تعقيداً.
وقد توجد الظاهرتان حتى حين تكون المخرجات المولّدة صحيحة.
وتزداد خطورتهما حين تصاحب المخرجات الخاطئة ثقة زائفة.
وتصبحان مشكلتين ممنهجتين حين تبدأ المؤسسات في معاملة الوصول إلى قدرة آلية كما لو كان امتلاكاً للكفاءة نفسها.
السؤال ليس هل ينبغي للآلات أن تساعد البشر.
بل هل تحافظ تلك المساعدة على القدرات الإنسانية التي يعتمد عليها التقدم التقني الآمن في نهاية المطاف؟
فالآلة التي تنتج مليون سطر من الشيفرة لا تلغي الحاجة إلى إنسان يفهم نتائجها.
والتدقيق الآلي الذي يعلن نجاح ألف اختبار لا يلغي ضرورة التأكد من صلة تلك الاختبارات بما يُفترض التحقق منه.
والإجابة التقنية المثالية لا تلغي ضرورة فهم معناها.
والحضارة الأكثر تقدماً تقنياً لا تصبح تلقائياً أكثر معرفة.
XVIII. الخاتمة — المهندس الأخير
لنعد للمرة الأخيرة إلى عام 2055.
لنتخيل أن الأنظمة عادت إلى العمل بعد ساعات.
انتهت الأزمة.
استأنفت التطبيقات عملها. واستقرت الشبكات. وعادت المساعدات الآلية للإجابة. وأكملت الفرق الهندسية الأعمال التي توقفت.
احتفل العالم بالتعافي.
لكن هل زال الضعف الأساسي؟
إذا كان المسؤولون عن صيانة تلك الأنظمة ما زالوا عاجزين عن فهمها أو إصلاحها باستقلالية، فإن الحضارة استردت أدواتها، ولم تسترد كفاءتها.
والعطل القادم ما زال ينتظر.
ربما ليس الخطر الحقيقي أن يختفي الذكاء الاصطناعي فجأة.
ربما الخطر هو الاختفاء البطيء والصامت للمهارات البشرية اللازمة لمساءلته.
القدرة على الاشتقاق بدلاً من الترديد.
والتحقيق بدلاً من الطلب.
والاختبار بدلاً من الافتراض.
والتمييز بين الدليل والثقة.
والتعرف إلى العيب قبل أن يتحول إلى فشل.
وفهم ما أنتجته الآلة قبل قبول مسؤولية نتائجه.
والقول، عندما تكون الأدلة غير كافية، إن الأمر لم يخضع للتحقق بعد.
لا تصبح الحضارة مرنة بمجرد امتلاك تقنية قوية.
بل بالمحافظة على المعرفة والحكم اللازمين لفهم تلك التقنية وصيانتها ومراجعتها نقدياً.
ولذلك ليس التحذير الأساسي أن الذكاء الاصطناعي سيصبح أقوى مما ينبغي.
بل أن البشر قد يصبحون أكثر اعتماداً على قدرات لم يعودوا يفهمونها.
القدرة بلا كفاءة، حين تُضخَّم بضمانات غير مبرَّرة بصحة النتائج.
هذه ليست مشكلة تقنية فقط.
إنها مشكلة تعليمية.
ومشكلة هندسية.
ومشكلة مؤسسية.
ومشكلة مساءلة.
وفي النهاية، مشكلة حضارية.
لأن أخطر مستقبل تقني قد لا يكون المستقبل الذي تتوقف فيه الآلات عن التفكير نيابة عنا.
بل المستقبل الذي نكون فيه قد نسينا كيف نفكر من دونها.
Knowledge / Code Rot
A. Remani — I2PS Engineering
