أكمل الجملة كما يجب أن تُكمل: "سيغيّر هذا الذكاء الاصطناعي قرار تعيين الموظف الذي يفرز الطلبات الأولى في قسم الدعم" ثم نسأل: من يتصرف بالمخرجات؟ الجواب يجب أن يكون موظفاً محدداً بالاسم والدور، لا "النظام". وحين يخطئ النموذج، يكون المسؤول هو من أعطاه الصلاحية، ويُلغي القرار بعد مراجعة بشرية موثقة. هذا هو المعيار الذي نبدأ به، وما عدا ذلك تفاصيل.
هذا المقال يتناول زاوية لم نعالجها في المنشورات السابقة: كيف تكتب "سجل القرار" لميزة ذكاء اصطناعي واحدة في منتجك، بحيث يستطيع أي شخص في الفريق أن يفهم لماذا تصرف النظام بالطريقة التي تصرف بها.
لماذا نكتب سجل القرار أصلاً؟
معظم الفرق تبني ميزة الذكاء الاصطناعي ثم تكتب وثيقة عنها بعد الإطلاق. النتيجة أن أحداً لا يعرف عند أول شكوى من مستخدم من الذي يملك الإجابة. مدير المنتج يظن أن المهندس يراجع المخرجات، والمهندس يظن أن فريق العمليات هو من يتابع الحالات الغريبة، وفريق العمليات لم يُخبر أصلاً بأن الميزة موجودة.
سجل القرار وثيقة قصيرة، من صفحة واحدة إلى صفحتين، تجيب عن أربعة أسئلة لميزة واحدة فقط:
- ما القرار الذي يتخذه النموذج أو يقترحه؟
- من الشخص الذي يقبل هذا القرار أو يرفضه، واسمه ودوره؟
- ما الإجراء المعتمد حين يخطئ النموذج، ومن يبدأه؟
- ما الحد الذي يتوقف عنده النظام تلقائياً ويعيد الأمر إلى إنسان؟
مثال عملي: فرز تذاكر الدعم
لنأخذ ميزة بسيطة: نموذج يقرأ تذكرة الدعم ويقترح أولويتها من ثلاث درجات. هذا يبدو تفصيلاً، لكنه يمس وقت الاستجابة لعميل قد يخسر مالاً إن تأخر.
في سجل القرار نكتب مثلاً: النموذج يقترح الأولوية، ولا يحدد وحده أي تذكرة تُعرض على العميل. يراجع موظف الدعم المناوب كل اقتراح بالضغط على زر القبول أو التعديل. إذا عدّل الموظف الاقتراح أكثر من خمس عشرة مرة في يوم واحد، يرسل النظام تنبيهاً إلى قائد الفريق، الذي يقرر إن كان النموذج يحتاج إعادة تدريب أو تعديل في التعليمات. وإذا رُصد أن تذكرة من فئة حساسة، كالاحتيال أو الإصابات الجسدية، صُنّفت خطأً بأولوية منخفضة، تُسحب من الطابور تلقائياً وتُعرض على مشرف بشري خلال دقائق.
لاحظ ما فعلته هذه الكتابة: حددت الشخص، والإجراء، والحد. لم تقل "نراقب الأداء"، بل قالت من يراقب وماذا يفعل حين يتجاوز الرقم.
الخطأ الذي يتكرر
أكثر ما نراه أن الفريق يكتب سجل القرار بلغة عامة: "يتحمل المنتج المسؤولية"، أو "يتم التعامل مع الأخطاء بشكل مناسب". هذه العبارات لا تحمي أحداً ولا تفيد أحداً. السؤال الصحيح هو: في الساعة الثالثة فجراً، عندما يرسل النموذج اقتراحاً خاطئاً ولا يلاحظه أحد، من الذي كان يفترض أن يلاحظه؟ إن لم تكن لديك إجابة باسم شخص محدد، فالميزة لم تكتمل بعد، مهما كانت دقة النموذج.
ما تفعله الآن
اختر ميزة واحدة في منتجك تعمل بالذكاء الاصطناعي، واكتب سجلها الخاص بالأسئلة الأربعة. اعرضه على الشخص الذي سيتحمل نتائجها فعلياً، لا على من بنى النموذج. إن وجدت أنك لا تستطيع ملء أحد الحقول، فقد وجدت أول ثغرة في المشروع، وهذه أفضل نتيجة يمكن أن تحصل عليها من ساعة عمل واحدة.