الاستقلالية المكتسبة: حوكمة وكلاء البرمجة بالذكاء الاصطناعي عبر دورة تطوير البرمجيات

ما المقصود بالاستقلالية المكتسبة لوكلاء البرمجة بالذكاء الاصطناعي؟

تُختصر الفكرة في جملة واحدة: يكتسب الوكيل استقلاليته حيث تستطيع الفحوص الآلية إثبات عمله، ويفقدها حيث لا تستطيع. الاستقلالية ليست إعدادًا يُختار مرة واحدة، بل هي وضع يحمله الوكيل لنوع معين من العمل، وتقرر الأدلة ما إذا كان سيحتفظ به.

لماذا يُعدّ الإعداد الواحد الشامل نهجًا خاطئًا؟

تختار أغلب الفرق موقفًا واحدًا. فإما أن يراجع إنسان كل شيء، وهذا لا يصمد أمام حجم ما يستطيع الوكيل إنتاجه، وإما يُوثَق بالوكيل في كل مكان، وهذا ينجح إلى أن يصل إلى الإنتاج أول تغيير لم يفهمه أحد. وكلاهما جواب شامل عن سؤال يتغير بحسب المهمة، ولذلك يفشل الأول عند الحجم، ويفشل الثاني عند أول خطأ مكلف لم يلحظه أحد.

تعديل بسيط في التوثيق وتغيير في طريقة تخزين البيانات الشخصية لا يحملان الخطر نفسه، ووحدة مختبرة جيدًا لا توفر شبكة الأمان نفسها التي يوفرها مجال جديد كليًا. يضبط إطار agentic-sdlc، وهو إطار عمل أشرف عليه، الاستقلالية لكل مرحلة ولكل مستوى مخاطر، ويربط كل مستوى بالأدلة اللازمة لمنحه. ويقوم على ثلاثة التزامات:

• تبقى المسؤولية بشرية: شخص محدد يملك الغاية والبنية وكل قرار إصدار.
• تُمنح الاستقلالية بالأدلة: مزيد من الاستقلالية يحتاج مزيدًا من التحقق الآلي لا مزيدًا من التفاؤل.
• كل مرحلة تترك أثرًا مكتوبًا: ما لم يُكتب أو يُختبر أو يُسجَّل فكأنه لم يحدث.

ما مستويات الاستقلالية، وما الذي يظل بيد الإنسان؟

يحدد الإطار أربعة مستويات من L0 إلى L3، ويتبع الجدول أدناه تعريفاته الخاصة. تُضبط الاستقلالية لكل مرحلة، ولا تتجاوز L1 أبدًا في البيانات أو الإجراءات التي لا يمكن التراجع عنها، وتنخفض مستوى واحدًا بعد أي حادثة.

كيف يبني الإطار المسؤولية عبر دورة حياة البرمجيات؟

تحدد المستويات ما يجوز للوكيل فعله، وتحدد عقود المراحل ما يجب أن يوجد قبل المتابعة. لكل مرحلة من المراحل الثماني معيار خروج ودليل، فترتبط المسؤولية بأثر مكتوب لا بمحادثة عابرة. وبهذا يستطيع أي مراجع أن يسأل عند أي مرحلة: ما الدليل الموجود الآن، ومن يملكه، وما الذي يمنع الانتقال إلى المرحلة التالية إن غاب هذا الدليل؟ وهذه الأسئلة الثلاثة هي ما يجعل الحوكمة قابلة للتنفيذ لا مجرد وثيقة.

• الغاية: المشكلة والمستخدمون ومعايير قبول قابلة للاختبار وما هو خارج النطاق، مدوّنة في ملف SPEC.md.
• البنية: الحدود وتدفق البيانات والمخاطر والقرارات، مدوّنة في سجلات قرار.
• بناء الوكيل: تغيير صغير وفق المواصفة مع اختباراته، يُسلَّم في طلب دمج.
• المراجعة البشرية: فهم التغيير والتحقق من الأمن ومعالجة البيانات بقائمة تحقق.
• التحقق: نجاح الاختبارات والتقييمات وفحوص الانحدار، يثبتها التكامل المستمر وتقرير التقييم.
• بوابة الإصدار: استيفاء المعايير وتوثيق الحدود ومعرفة طريقة التراجع، في سجل إصدار.
• النشر: إصدار موسوم النسخة وقابل لإعادة الإنتاج، يثبته سجل خط النشر.
• القياس: تسجيل الاستخدام والجودة والكلفة والحوادث، مع مراجعات ما بعد الحادثة.

كيف تطبّق ميزة Engineering في NOVA هذا الإطار؟

NOVA هو وكيل المنتج الشخصي الذي أبنيه، وهو مستودع عام في نسخة تجريبية عامة بلا ترخيص، ويستخدمه 800 موظف في Devoteam. تأخذ ميزة Engineering فيه نية أو قضية على GitHub وتحوّلها إلى مواصفة وتصميم وشيفرة واختبارات وطلب دمج ومراجعة وإصلاحات للتكامل المستمر ثم دمج، خلف بوابات موافقة.

وهي تقدم وضعين. في الوضع الموجَّه (Guided) يعتمد إنسان الخطة والدمج. وفي الوضع Autopilot يمضي NOVA وحده حتى الدمج. وبلغة الاستقلالية المكتسبة، هذا هو الفرق بين إبقاء الإنسان عند نقطتي قرار وإزالته منهما. قراءتي الشخصية أن Autopilot ينبغي أن يكون ترقية استحقها المشروع لا إعدادًا افتراضيًا، وأن قاعدة الإطار بشأن البيانات والإجراءات التي لا رجعة فيها تنطبق عليه بالكامل. وبعبارة أخرى، لا يعني وجود الوضع الآلي أن على كل فريق استخدامه، بل يعني أن على كل فريق أن يقرر متى يستحق مشروعه هذه الحرية، وأن يملك الأدلة التي تبرر ذلك القرار أمام من يسأل.

يضع ملف README الخاص بالإطار NOVA في المراحل من 1 إلى 4، منسقًا الخطط والموافقات والمخرجات. ويعتمد على ORBIT لسياق خاضع للحوكمة، وعلى FORGE للتقييم في المرحلتين 5 و6، وعلى TrustRail لضبط ما يجوز للوكلاء فعله. وNOVA وORBIT وFORGE وTrustRail نسخ تجريبية عامة، ولا أدّعي أنها اعتُمدت في الإنتاج.

ماذا ينبغي قياسه قبل رفع مستوى الاستقلالية؟

الدليل هو العملة، لذا حدد ما يُحتسب قبل أن تُرقّي أي شيء. يقترح الإطار دورة قصيرة: ضبط مستوى انطلاق لكل مرحلة، وهو L1 افتراضيًا، والعمل أسبوعين، ثم القياس، ثم ترقية المرحلة أو خفضها. مقاييسه معرَّفة في المستودع وموسومة بأنها لم تُقَس بعد إلى أن تُقاس، وأحافظ على هذا الوسم.

وما عدا ذلك فالفحوص التالية اقتراحات مني لا متطلبات في الإطار. لن أرفع مستوى دون إجابات عن هذه الأسئلة، وسأدوّن الإجابات في سجل الإصدار حتى يستطيع من يأتي بعدي أن يفهم لماذا مُنحت الاستقلالية:

• كم مرة وجدت المراجعة مشكلة فاتت الفحوص الآلية، لأن هذه الفجوة هي الحد الحقيقي للاستقلالية.
• هل تختبر الاختبارات سلوكًا فعليًا أم حسابات الشيفرة فقط، لأن الوكيل قد يكتب اختبارات تنجح دون أن تثبت شيئًا.
• هل شُغّلت البنية الحقيقية من البداية إلى النهاية، لا الاختبارات الوحدوية وحدها.
• ما حجم كل تغيير، وهل ما زال المراجعون قادرين على فهمه.
• ما كلفة الحادثة، وهل انخفض المستوى حين كان ينبغي أن ينخفض.

ما أنماط الإخفاق التي ينبغي التحسب لها؟

يسرد الإطار مخاطر خاصة بالوكلاء فوق مخاطر دورة التطوير التقليدية: انحراف النطاق، واختبارات تُكتب لتنجح، وتبعيات مختلقة، وأسرار مسرّبة، وكلفة منفلتة، وحجم غير مراجَع، وتدهور السياق. وثلاثة منها هي، بحسب تجربتي، ما يُفشل الحوكمة بصمت.

• إرهاق المراجعة: حين ينتج الوكيل تغييرات أكثر مما يستطيع الناس قراءته تتحول المراجعة إلى نقرة. والعلاج تصغير التغييرات وخفض المستوى لا إطالة قائمة التحقق.
• مخرجات وكيل بلا مالك: شيفرة لم يتحمل أحد مسؤوليتها. يجيب الالتزام الأول عن ذلك، لأن شخصًا محددًا يملك كل قرار إصدار.
• اتساع النطاق الصامت: يفعل الوكيل أكثر قليلًا مما طلبته المواصفة، ولا يلاحظ أحد لأن الاختبارات ما زالت تنجح. والضبط هنا مواصفة مكتوبة تتضمن ما هو خارج النطاق.

هل هو مفتوح المصدر، وهل جرى التحقق منه؟

agentic-sdlc إطار عمل بالإصدار 0.1 تحت رخصة MIT، وهو المشروع الوحيد من مشاريعي الذي أصفه بأنه مفتوح المصدر. استُخلص من بناء NOVA وORBIT وFORGE وTrustRail ونماذج أولية عدة، وينص ملف README على أنه لم تتحقق منه دراسة مستقلة.

دراسات الحالة فيه مسودات أُعيد بناؤها من سجلات التزامات عامة. ومن الأنماط التي ترصدها أن العيوب الأعلى كلفة اكتُشفت بتشغيل النظام الحقيقي لا بمجموعة الاختبارات. ولهذا أرى أن المستويات والعتبات أحكام تقديرية تُعدَّل بحسب مخاطرك أنت.

ويقرّ الإطار نفسه بحدوده: فهو يستهدف الفرق الصغيرة والمطورين المنفردين أولًا، وتحتاج المؤسسات الكبيرة إلى أدوار وطبقات تدقيق فوقه، وهو لا يقول إلا القليل عن اختيار النماذج أو صياغة التعليمات لأنها تتغير أسرع من أن تُثبَّت. وأرحّب بتقارير ميدانية عن المواضع التي أخفق فيها مستوى أو بوابة.