عن الخدمة ونطاق العمل

مراجعة عينات من المخرجات مقابل معايير دقة وجودة متفق عليها. نحدد استخدام الذكاء الاصطناعي بقواعد واضحة، ونقيس مخاطره وندقق مخرجاته قبل الاعتماد عليه، دون تعطيل الاستفادة العملية منه.

المخرج الأساسي المقترح هو تقرير تدقيق بالملاحظات والأمثلة وإجراءات لمعالجة الأخطاء المتكررة. يُحدد حجم العمل وعدد العناصر أو الجلسات أو الملفات بعد مراجعة مدخلاتك؛ ولذلك يوضح العرض ما يشمله التنفيذ وما يحتاج اتفاقًا إضافيًا.

تجهيز طلب الخدمة

يساعد تجهيز موجز واضح على الوصول إلى تقدير واقعي للنطاق والمدة. بالنسبة إلى تدقيق مخرجات الذكاء الاصطناعي، ابدأ بتوضيح الغرض من الطلب والجهة التي ستستخدم النتيجة، وأرفق عينة أو مرجعًا يشرح السياق. لا تحتاج إلى معرفة كل التفاصيل الفنية مسبقًا؛ المهم توضيح النتيجة التي تتوقعها والقيود التي ينبغي مراعاتها.

• وصف حالات الاستخدام والأدوات والنماذج المستعملة حاليًا
• البيانات التي تدخل إلى النظام ومن يملك حق الوصول إليها
• القرارات التي يعتمد عليها الناتج ومن يراجعه قبل التنفيذ

إذا كان لديك عمل سابق، وضح ما تريد الاحتفاظ به وما ترغب في تغييره، وميز النسخة المعتمدة عن المسودات. يمكن البدء بعينة صغيرة لتقييم جودة المدخلات وتحديد البيانات الناقصة قبل الالتزام ببقية التنفيذ.

تصنيف حالات الاستخدام والمخاطر

لا تحتاج كل حالة استخدام للذكاء الاصطناعي الضوابط نفسها. يفصل العمل بين استخدامات منخفضة الأثر مثل صياغة مسودة داخلية، واستخدامات عالية الأثر مثل توليد رد يواجه العميل أو التأثير في قرار يتخذه. لكل حالة يوصف الأثر المحتمل عند الخطأ وتحتمل حدوثه، ثم تُحدد الضوابط المناسبة: مراجعة بشرية إلزامية، أو قيود على ما يدخل إلى النظام، أو منع كامل. هذا التصنيف يمنع المبالغة في الإجراءات حيث لا تلزم، ويضمن تشديدها حيث يكون الخطر حقيقيًا.

البيانات والصلاحيات والشفافية

أهم سؤال عملي هو ما البيانات التي يجوز إرسالها إلى خدمة خارجية أو نموذج داخل المنشأة، ومن يملك حق الوصول، وكم تبقى محفوظة. تُصنف البيانات وتوضع قواعد تمنع إدخال المعلومات الحساسة دون ضابط مناسب أو التزام تعاقدي يحميها. وينبغي أن يعرف المستخدم متى يتعامل مع نظام آلي ومتى راجع إنسان النتيجة، وأن تتوفر وسيلة واضحة للاعتراض أو طلب التصحيح، خصوصًا في الخدمات التي تمس حقوق الأفراد أو بياناتهم.

التدقيق والمراقبة بعد التشغيل

تتغير النماذج والأدوات والإعدادات، وقد يتغير سلوك المستخدمين بعد الإطلاق. تُسجل العمليات المهمة بما يكفي للتتبع دون جمع معلومات لا يحتاجها التشغيل، وتُراجع عينات من المخرجات دوريًا مقابل معايير متفق عليها. تقيس المؤشرات أثر الخطأ لا عدد مرات الاستخدام وحده. وعند تحديث نموذج أو مصدر معرفة تُعاد اختبارات العينات المرجعية قبل اعتماد التغيير، لأن نجاح الإصدار السابق لا يضمن سلوك الإصدار الجديد.

تدقيق مخرجات الذكاء الاصطناعي قبل اعتمادها في مسارات العمل

تنتج المؤسسات اليوم مخرجات كثيرة من نماذج الذكاء الاصطناعي: ردود على العملاء، ومسودات عروض، وتقارير داخلية، وتلخيصات لمواد شبه يومية. سرعة هذه الأدوات تُنشئ انطباعًا بأن ما يخرج جاهز للاستخدام، بينما هو في الحقيقة مسودة لم تمر بأي فحص. تبدأ خدمتنا من هذه النقطة بالذات: من يراجع ما أنتجه النظام، وبأي معايير، وكيف يُوثَّق الحكم.

يقع نطاق عملنا هنا في مسار واحد واضح وهو فحص المخرج بعد إنتاجه. لا تُعد هذه الخدمة سياسات استخدام الذكاء الاصطناعي في المؤسسات، ولا تحلّ محل تقييم المخاطر الذي يسبق تشغيل نموذج، ولا تفحص أمن التطبيقات ونقاط الربط. كل ما نفعله أن نضع المخرج أمام معايير متفق عليها، ونسجّل حكمًا بشريًا موثقًا يمكن الرجوع إليه.

تناسب هذه الخدمة مؤسسة توظف النماذج في عمل حقيقي: فريق يرد على استفسارات العملاء، أو إدارة تُنتج تقارير وعروضًا، أو مسار محتوى يعتمد على التلخيص والصياغة الآلية. في هذه البيئات تصبح المراجعة ضرورة تشغيلية، لأن الخطأ قد يصل إلى عميل أو إلى قرار داخلي قبل أن يلاحظه أحد. ندخل حين تحتاج المؤسسة إلى مرجع منضبط لما يُقبل وما يُرفض. ولا يشترط أن تمتلك المؤسسة فريق جودة متكامل، بل يكفي وجود من يملك صلاحية اعتماد المخرج ورفضه، ويجد وقتًا مخصصًا لذلك بدل أدائه في سياق يوم عمله المزدحم.

نسلمه ستة مخرجات ملموسة: دليل معايير التدقيق الذي يحدد المعايير الخمسة وبنودها، وعيّنة معتمدة موثقة من المخرجات الفعلية، ونموذج تقييم بشري يملؤه المراجعون، وسجل تصنيف الأخطاء بخطورته ومصدره، وحزمة إجراءات تصحيحية مع خطة متابعتها، ولوحة مؤشرات جودة تُحدَّث بدورة متفق عليها. كل مخرج مكتوب، قابل للتسليم والتعديل داخل المؤسسة.

لماذا لا يُعتبر إنتاج النص اكتمال العمل

النموذج اللغوي يُكمل أنماطًا من النص ولا يتحقق من الواقع، وهذا الفرق جوهري في العمل اليومي. إجابة مصاغة بثقة عالية قد تكون خاطئة تمامًا كإجابة صحيحة، وانسياب لغتها لا يكشف الفرق بين الاثنين. من يقرأ المخرج دون مرجع خارجي يميل إلى قبوله لمظهره لا لمضمونه، وهذا بالضبط ما يحاول التدقيق كشفه قبل وصول الخطأ إلى وجهته.

ضغط المواعيد يزيد الأمر سوءًا، إذ لا تسمح خطط العمل الجارية بالفحص الشامل لكل رد قبل إرساله. عند هذه الظروف يُعتمد المخرج مباشرة بوصفه نسخة أولى جاهزة، فينتقل عبء الخطأ من مرحلة الإنتاج إلى العميل أو إلى القرار الداخلي. التدقيق يضع نقطة توقف قصيرة ومقنونة بدل ترك المراجعة لصدفة انشغال الموظف. وتكلفة هذه النقطة قليلة مقارنة بأثر الخطأ حين يصل إلى عرض سعر أو إلى رد رسمي موقّع باسم الجهة.

أخطاء المخرج لا تقتصر على معلومة خاطئة، بل تتنوع في صور يصعب حصرها دون إطار متفق عليه. قد يكون المحتوى صادقًا لكنه ناقصًا فيشرط المراجعة قبل الاعتماد، أو يحمل صياغة تعميمية تسيء إلى فئة، أو تخالف قاعدة داخلية التزمت بها المؤسسة في اتصالاتها، أو تدّعي مصدرًا غير موجود. هذا التعدد سبب حاجة التدقيق إلى معايير مكتوبة لا إلى انطباع عام.

المراجعة الفردية غير المخططة لا تنتج معرفة مؤسسية، إذ يفحص الموظف ما يخصه فقط ويتوقف عند حدود مهامه. النتيجة أن المؤسسة تعرف أخطاء متفرقة دون أن تعرف أنماطًا متكررة، ولا تستطيع أن تقرر أين تُصلح أولًا. التدقيق المنهجي يجمع الحالات في مكان واحد، ويُظهر مثلًا أن ضعفًا واحدًا في المدخلات أنتج عشر حالات متشابهة.

يظهر أثر التدقيق في قرار مكتوب: مقبول، أو مقبول بشروط، أو مرفوض، مع اسم المراجع ومعيار الاعتماد وتاريخ الفحص. هذا الأثر يفيد عند المساءلة الداخلية، وعند الإجابة عن سؤال من عميل حول كيفية ضمان جودة المخرجات، وعند استلام فريق جديد. كما يحمي المراجع، لأنه يثبت أنه تبع مرجعية معتمدة لا تقديرًا شخصيًا في لحظة ضغط. ويبالغ في فائدته حين يصبح المرجع الذي يعود إليه من يسأل عن سبب رفض مخرج، دون الحاجة إلى شرح تقني طويل في كل مرة.

المعايير الخمسة وكيف تتحول إلى بنود تقييم

نبدأ من خمسة معايير يغطي كل منها جانبًا لا يغني عنه الآخر: الدقة الواقعية، والاكتمال، وخلوّ المخرج من التحيّز، والمطابقة لسياسات المؤسسة وتعليماتها، ووضوح المصادر وإسنادها. هذه المعايير وحدها لا تصلح للحكم اليومي ما لم تتحول إلى أسئلة صغيرة يجيب عنها المراجع بإجابة واحدة، مع نتيجة يدوّنها في نموذجه الموحد.

تحويل المعيار إلى بند تقييم يتبع خطوات ثابتة: نعرّف المعيار بلغة إجرائية، ثم نحدد ما يُقاس فعلًا، ثم نضع مقياسًا مدرجًا، ثم نرفق مثالًا ناجحًا ومثالًا فاشلًا، ثم نضع قاعدة قرار تحدد متى يصبح البند سببًا للرفض أو للاعتماد المشروط. الخطوة الأخيرة هي ما يمنع تشتت أحكام المراجعين عند الحدود الفاصلة. ثم تُختبر البنود على عيّنة صغيرة قبل اعتمادها، لأن بندًا يفهمه كاتبه وحده لا يصلح أداة تقييم يشترك فيها أكثر من شخص.

الدقة الواقعية تُفحص جملة جملة: الأرقام، والتواريخ، والأسماء، والتعريفات، والعلاقات بين الأسباب ونتائجها. بند التقييم هنا سؤال صريح واحد: هل كل ادعاء يمكن التحقق منه مستند إلى معلومة صحيحة، أم أنه استنتاج زاده النموذج لإكمال النص؟ ما يُصاغ على هيئة حقيقة دون سند يُسجَّل مخالفة، بينما الاستنتاج المُعلن بوضوح يجوز قبوله بشروط.

الاكتمال يعني تغطية عناصر الطلب كما وردت، لا تغطية جزء منها بأسلوب مقنع. يشمل ذلك ذكر القيود والمصطلحات التي يحتاجها القارئ ليفهم النص، وعدم إغفال ما طلبه المستخدم صراحة أو ما تفرضه طبيعة الموضوع. كثير من المخرجات الناقصة تبدو صحيحة عند قراءة سريعة، ولا يظهر نقصها إلا عند مقارنتها بقائمة الأسئلة الأصلية سطرًا سطرًا. ويُفضَّل أن تُكتب قائمة الأسئلة الأصلية قبل توليد المخرج، حتى تصبح المقارنة بين المطلوب والمنتَج ممكنة لا استرجاعًا من الذاكرة.

خلوّ المخرج من التحيّز لا يعني إضافة عبارات تُطمئن القارئ، بل ملاحظة إن كانت المعالجة منصفة في وصف الحالات والأطراف المذكورة. يشمل البند لغة لا تُعمّم على فئات، وعدم استبعاد وجهات نظر معتبرة من السياق، وعدالة تقديم الخيارات حين يكون المخرج قائمة أو توصية. التحيّز يُرصد في الصياغة كما يُرصد في الاختيارات التي يضعها النص أمام القارئ.

المطابقة لسياسات المؤسسة في هذا المعيار تعني احترام ما تعتمده فعلًا في تعليماته ومخرجاته المعلنة، وليس استحداث قواعد جديدة. يفحص المراجع أن المخرج لا يخالف قاعدة قائمة، كإفصاح إلزامي، أو منع ذكر معلومة لا يجوز طرحها، أو نبرة تتعارض مع هوية الجهة. هذه البنود تأتي جاهزة من إطار الحوكمة القائم، ولا نضعها نحن في هذه الخدمة.

وضوح المصادر يعالج مشكلة شائعة في النماذج وهي اختراع المرجعيات. يطلب البند التمييز بين ما استند إلى مصدر مذكور في المدخلات، وما بناه النموذج من استنتاج، وما قدّمه من إحالة عامة غير قابلة للتحقق. عند غياب المصدر يُمنع وضع تفاصيل تُوحي بوجود مرجع، لأن الإيحاء الكاذب أخطر من الاعتراف بعدم التوفر.

كل ما سبق يُجمع في دليل معايير التدقيق، وهو أول مخرج نسلمه في هذا العمل. يضم المعايير الخمسة، وبنود التقييم المشتقة منها، ومقياس الدرجات، وأمثلة الحدود الفاصلة، وقواعد القبول والرفض، وسجل إصدارات يُحدَّث عند أي تغيير. به يصبح الحكم قابلًا للشرح والتحكيم، وبه يبدأ تدريب أي مراجع جديد دون اختراع العملية من جديد. ولا يُسلَّم الدليل بوصفه وثيقة نهائية جامدة، بل كملف عمل يُراجع مع أصحاب العمليات ويُختبر قبل أن يبدأ التدقيق الفعلي.

سحب العيّنة وحجمها وتوزيعها بحسب نوع المخرج وخطره

فحص كل مخرج قد يكون مستحيلًا اقتصاديًا حين يتجاوز حجم الإنتاج ما يمكن فحصه يدويًا، كما أنه غير ضروري حين تُسحب العيّنة بطريقة صحيحة. المبدأ الذي نعمل عليه أن السحب منهجي وموثق: معيار مكتوب، ونطاق معلوم، وسجل يقول متى سُحبت العيّنة ومن سحبها وبأي توزيع اعتمدت. السحب الانتقائي الذي يميل إلى المخرجات المريحة لا يصلح أساسًا.

حجم العيّنة يُحدَّد من ثلاثة عوامل: حجم الإنتاج الفعلي، ودرجة الخطر المترتب على خطأ في هذا النوع من المخرجات، والدقة التي ترغب المؤسسة في اكتشاف المشكلات بها. لذلك لا يوجد رقم واحد يصلح لكل الحالات، بل يُبنى جدول حجم يربط كل حالة استخدام بعدد المخرجات المفحوصة، ويُراجع عند تغيير أحدها. وكل حجم يُتفق عليه مسبقًا ويُوثَّق، فلا يُغيَّر بعد رؤية النتائج بما يخدم رأيًا قائمًا عند أحد الأطراف.

التوزيع الأول يكون بحسب نوع المخرج، إذ لكل نوع أنماط أخطائه الخاصة. ردود المراسلة المباشرة تخاطب العميل فتُفحص فيها الدقة والنبرة، والتقارير تُفحص فيها الأرقام والاستنتاجات، والتلخيص يُفحص فيه إغفال المعنى الأساسي، والترجمة تُفحص فيها المدلول لا الجملة، وتوليد الشيفرة يُفحص فيه السلوك قبل الشكل.

التوزيع الثاني بحسب درجة الخطر: المخرجات المؤثرة في قرار يمس عميلًا أو مالًا أو سمعة تُفحص بنسبة أعلى، وقد تُفحص كاملة حين يكون أثر الخطأ حرجًا. في المقابل، المخرجات الداخلية منخفضة الأثر تُفحص بحد أدنى يكفي لرصد الاتجاه العام. بهذه المعادلة لا يُهدر وقت المدقّق فيما لا يحمل مخاطرة تُذكر.

توزيع العيّنة على الزمن لا يقل أهمية عن وزنها، لأن جودة المخرج تتأثر بوقت التشغيل، وبالقناة، وبمستخدم صاغ الطلب. نغطي أيامًا وأوقاتًا مختلفة، وأدوات وقنوات متعددة، ومستخدمين باختلاف خبرتهم في كتابة التعليمات. بهذا يظهر أثر التذبذب في المخرج، ولا تختفي فروقه داخل متوسط واحد مجمّع يُقرأ هادئًا.

ثاني مخرجاتنا هو العيّنة المعتمدة الموثقة، وهي أداة تمنع الجدل لاحقًا. توثّق نطاق السحب، ومعيار التوزيع، وحجم العيّنة لكل نوع، والتواريخ، وأرقام المخرجات المختارة، ومن نفّذ السحب، والمعايير المعمول بها وقتها. حين يسأل أحدهم لاحقًا كيف توصلت هذه النتيجة، يكون الجواب في سجل واحد لا في ذاكرة من نفّذ المراجعة.

العيّنة تصف دفعة إنتاج بحالتها، ولا تنتقل تلقائيًا إلى الدفعات التالية. عند تغيير النموذج المستخدم، أو تعديل التعليمات المُرسلة، أو تغيير نوع المخرج أو قنواته، يُسحب مستحدثًا وفق المعيار ذاته. كذلك تُعاد العيّنة عند ارتفاع مفاجئ في الشكاوى على نوع ما، لأن ذلك إشارة على أن المعيار الحالي لم يعد يصف الواقع.

من يقيّم المخرجات وكيف يُدرَّب المراجع

التقييم عمل بشري بامتياز، ويجدر اختيار من يحمل مرجعية يعرف فيها سياق عمل المؤسسة ومصطلحاتها وما يُقبل فيها. قد يكون المراجع من الجهة المعنية بالجودة أو من فريق التشغيل، بشرط أن يملك وقتًا مخصصًا لا يُختزل في هامش يوم العمل. نحن نُدرّب هؤلاء على الأداة وعلى الدليل، ويبقى قرار التعيين للمؤسسة صاحبة التشغيل. ويراعى كذلك ألّا يكون المراجع هو من صاغ المخرج محل الفحص في الدفعة نفسها، حتى يبقى الحكم مستقلًا عن جهد الشخص نفسه.

نموذج التقييم البشري، المعروف بورقة الإجابة، هو أداة العمل الأساسية في كل جلسة مراجعة. تتضمن سؤالًا مباشرًا عن كل بند من بنود المعايير الخمسة، مع مساحة للملاحظة والدليل الذي يدعم الحكم، وخانة لقرار القبول، وخانة أخرى لتصنيف الخطأ إن وُجد. ورقة موحّدة تجعل النتائج قابلة للمقارنة بين المراجعين وبين الدورات الزمنية.

قبل التشغيل الكامل نجري جلسة معايرة يقرأ فيها المراجعون مخرجات موحدة ويحكمون عليها، ثم تُقارن أحكام كل واحد بالمرجعية. الاختلاف في هذه المرحلة ليس عيبًا، بل هو المادة التي تُصحح بها مرجعية القياس. بعد اجتماع المعايرة تُضبط الصياغات الغامضة، وتُضاف أمثلة توضيحية للحدود الفاصلة، حتى يقترب الحكم بين المراجعين قبل بدء العدّ الحقيقي.

تُدرج في الدليل حالات حدّية متنازعًا عليها: مخرج صحيح في مضمونه لكنه ناقص في شرط جوهري، أو دقيق واقعيًا لكنه مخالف لقاعدة مؤسسية، أو محايد في معناه متحيّز في صياغته. تُناقش هذه الحالات جماعيًا وتُسجَّل أحكامها المبررة، لأنها تفصل بين المراجع الذي يطبّق المعيار والمراجع الذي يخمّن في موضعه. وتُحفظ هذه الحالات في الدليل نفسه إلى جانب البنود، ليقرأها المراجع الجديد قبل أول تقييم له بدل أن يكتسبها بالخطأ.

خريطة المؤشرات تربط كل بند تقييم بما يقابله من مؤشر في لوحة الجودة، فتعرف أي معيار يُترجم إلى نسبة، وأي معيار يُترجم إلى زمن معالجة أو عدد بلاغات. بهذا تصبح أسئلة ورقة الإجابة مدخلًا للبيانات لا انطباعًا مكتوبًا، ويمكن تتبّع أثر أي تعديل في معايير التدقيق على المؤشرات نفسها في الدورات التالية.

للتأكد من اتساق الحكم، تُختار عيّنة مشتركة يراجعها أكثر من شخص بشكل مستقل، ثم يُحلَّل الفرق بين نتائجهم. إذا اتسع الفرق بين المراجعين بعد المعايرة، فالمشكلة في المرجعية لا في الأشخاص، ويُعاد ضبط البنود قبل استكمال الدفعة. هذا الإجراء قليل التكلفة، ويقي المؤسسة من أن تُبنى أرقامها على أحكام متباعدة.

توثيق التدريب جزء من مخرجات العمل، إذ يُسجَّل من تدرّب، ومتى، وأي إصدار من دليل المعايير استخدم، وعلى أي مخرجات تدرب. هذا السجل يجعل الحكم قابلًا لإعادة الإنتاج، ويمنع أن تختلط أحكام دفعة قديمة بأحكام دفعة بُنيت على معايير معدّلة. كما يسهّل ضم مراجع جديد إلى الفريق دون إعادة بناء العملية من أولها.

تصنيف الأخطاء بحسب الخطورة وتكرارها ومصدرها

خطأ لا يُصنَّف يبقى حدثًا منفردًا يُعالج ويُنسى، بينما الخطأ المصنَّف يصبح وحدة قياس. لذلك يبدأ التصنيف بربط كل حالة بمعيار مخالفه من معايير التدقيق الخمسة، لأن المعيار هو ما يحدد طبيعة المشكلة وما يوجّه المعالجة. هذا الربط هو أيضًا ما يجعل التحليل لاحقًا ممكنًا على مستوى المؤسسة لا على مستوى مثال مفرد.

التصنيف الأول بحسب الخطورة يُقدَّر بأثر الخطأ الفعلي على من يستهلك المخرج. الحرج يقود إلى قرار خاطئ أو يمس عميلًا أو ينشر معلومة مضللة؛ والجوهري يغيّر المعنى أو يُوهِن الاعتماد دون ضرر مباشر؛ والطفيف يمس الصياغة أو التنسيق ولا يقلب الحكم. تُقاس الخطورة بنتائجها على القرار، لا بانطباع القارئ الأول أو بحجم الاهتمام الذي أثارته. ولا يُحسم تصنيف الخطورة لحظة الرصد وحدها، بل يُراجَع بعد سماع من يتحمل أثرها في التشغيل الفعلي.

التصنيف الثاني بحسب التكرار يفصل بين الحالة المعزولة والحالة المعتادة. المعزولة تكفيها معالجة مباشرة، أما المتكررة فيظهر أثرها في عدد الدورات ثم تتحول إلى نمط يستحق تدخلًا في التصميم. وحين يتكرر النمط عبر أدوات أو مستخدمين مختلفين، يصبح دليلًا على أن السبب جذري لا شخصي، وأن التصحيح الفردي لن يُغلق المسألة.

التصنيف الثالث يبحث عن المصدر، وهو أبعد التصنيفات وأكثرها صعوبة في الحسم. الأسباب المحتملة تشمل نقصًا في المدخلات المقدمة للنموذج، أو تعليمات ملتبسة كُتبت بسرعة، أو حدّة في معرفة النموذج بموضوع نادر، أو تعارضًا بين مرجعين داخل المؤسسة، أو إعداد إخراج لا يناسب نوع المخرج. تُسجَّل الإجابة عن المصدر تقديرًا معلَّلًا يُراجَع عند المعالجة. ثم نربط المصدر بمالك العملية: إن كان النقص في المدخلات فالعلاج عند من يجمعها، وإن كان في الإعداد فالعلاج عند من يشغّل الأداة.

سجل تصنيف الأخطاء هو المخرج الذي يجمع هذه الأبعاد في جدول واحد. يحوي لكل حالة: رقمها، وتاريخ رصدها، والمعيار المخالف، ودرجة الخطورة، ونمط التكرار، والمصدر المقدَّر، والإجراء التصحيحي المتخذ، والمسؤول عنه، وحالة الإغلاق. بسطر واحد لكل حالة يصبح السجل قابلًا للفلترة، وتظهر به القضايا التي تستحق اجتماعًا لا مجرد رسالة بريد تمرّ بلا متابعة.

يُقرأ السجل كل فترة متفق عليها بحثًا عن ما يتكرر، لا عن أبرز ما يلمع. حالات عديدة منخفضة الخطورة قد تكون أهم من حالة وحيدة حرجّة، لأن كثافتها تشير إلى خلل في مسار الإنتاج نفسه. كذلك تُتابع الحالات المُغلقة سابقًا للتأكد من عدم عودتها، إذ إن عودة الحالة بعد معالجتها مؤشر أخطر من ظهورها الأول.

الإجراء التصحيحي واختياره بحسب مصدر الخطأ

لا يوجد إجراء تصحيحي واحد يصلح لكل الأخطاء، كما أن حجم الإجراء لا يُقاس بانطباع الحالة بل بموضع الخطأ. قبل اختيار المعالجة نعود إلى المصدر المسجَّل في السجل، ونسأل: هل المشكلة في هذا المخرج تحديدًا، أم في ما سُقِم للنموذج، أم في إعداد التشغيل نفسه، أم في حالة الاستخدام التي أُذِن فيها بالاعتماد على المخرج دون فحص؟

تصحيح المخرج هو الإجراء الأول والأقل كلفة، ويُطبَّق حين يكون الخطأ معزولًا ولا يتكرر في دفعة أخرى. يتمثل في إعادة صياغة الجزء المخالف أو حذفه أو استدراكه، ثم اعتماد النسخة المصححة وتسجيل ما عُدِّل ومن عدّله وبأي بند من دليل المعايير. من دون هذا التسجيل يبقى التصحيح فعلًا شخصيًا لا ينتقل إلى خبرة الفريق.

حين يتبين أن سبب الانحراف يعود إلى ما أُرسل للنموذج، يكون الإجراء تعديلًا للتعليمات أو للمدخلات. تُراجع صياغة الطلب: هل نصّت على المعيار المطلوب، وهل حددت الحدود وما يُمتنع، وهل قدمت البيانات الضرورية بدل افتراضها. هذا النوع من المعالجة شائع، وأثره غالبًا أسرع من تغيير الأداة، لأنه يعالج السبب عند نقطة التحكم الأولى. ويرافق التعديل حفظ النسخة القديمة والجديدة من التعليمات، حتى يُعرف لاحقًا أي صياغة أعطت نتيجة أفضل وأيها استُخدمت فعلًا.

قد يكون الحل تغيير النموذج أو إعداداته حين يتكرر الخلل رغم ضبط المدخلات والتعليمات. تُقارن بدائل في فئة أداء مماثلة، وتُعدَّل معاملات التوليد، وتُفعَّل أدوات تتحقق من المخرج قبل تسليمه، أو يُعاد توجيه المسار ليعبر تحققًا آليًا قبل البث. هذا الإجراء الأعلى تكلفة، ولذلك يأتي بعد استنفاد خطوتَي المدخلات والتصحيح الفردي.

الإجراء الرابع لا يمس النموذج ولا التعليمات، بل يمس قرار الاستخدام: تغيير حالة الاستخدام المعتمدة للمخرج. حين يتبين أن هذا النوع لا يحتمل الاعتماد الآلي، تُخفَّض حالته إلى مراجعة بشرية إلزامية، أو يُحدَّد نطاق استخدامه، أو يُسحب مؤقتًا حتى تتوفر شروط معالجة أفضل. تغيير الحالة أسرع وسيلة لكبح أثر خطر معلوم ومقصور.

كل إجراء تصحيحي يُسلَّم بخطة متابعة لا بجملة ختامية. تتضمن الخطة من ينفّذ، والمدة، ومعيار النجاح، والعيّنة التي ستُفحص بعد التطبيق للتأكد من أثر التغيير. ثم تُعاد الحالة في السجل لتُغلق بدليل لا بقرار شفهي. الإجراء غير المتابع يُعد في سجلنا قيدًا مفتوحًا لا معالجة منتهية.

لوحة مؤشرات الجودة وحالات التصعيد

لوحة مؤشرات الجودة هي المخرج الدوري الذي تُبنى عليه الاجتماعات. تجمع النسبة المئوية للمخرجات المقبولة من العيّنة، وتوزيع الأخطاء بحسب المعيار ودرجة الخطورة، والإجراءات المفتوحة مقابل المغلقة، وأقدمية الحالات غير المعالجة. تُعرض بلغة واحدة متفق عليها مع بيان نطاق العيّنة أسفلها، حتى لا تُقرأ النسب كأقوال مطلقة منفصلة عن مصدرها. وتُضاف إلى اللوحة ملاحظات نصية قصيرة تشرح أي رقم غير معتاد، لأن الرقم وحده يفتح تفسيرات مختلفة أمام الحاضرين.

زمن التصحيح يُقاس فاصلًا من لحظة رصد الخطأ حتى إغلاقه، ثم يُقسَّم إلى زمن الاكتشاف وزمن المعالجة. التقسيم مهم لأن طول المدة قد يكون سببه بطء الفحص أو بطء اتخاذ القرار، والعلاج يختلف في الحالتين. تُحدَّد لكل درجة خطورة مدة مستهدفة باتفاق مسبق، لا بأرقام تُفترض من طرف واحد دون نقاش. ومن المفيد أن تظهر المدد على منحنيين منفصلين: زمن الحالات الحرجة وزمن الحالات العادية، فلا تختلط الأولوية بسرعة المعالجة.

حالات التصعيد تُعرَّف قبل بدء العمل لا أثناء الأزمة. يُرفع المخرج حين تتجاوز خطورته حدًّا متفقًا عليه، أو حين يختلف المراجعون اختلافًا جوهريًا بعد المعايرة، أو حين يتكرر خلل مُعالَج سابق دون سبب جديد، أو حين يمس المخرج التزامًا تعاقديًا أو تنظيميًا. ولكل مسار تصعيد مالك معلوم ومهلة رد مكتوبة. وكل حالة تُرفع تُسجَّل في تقرير التصعيد مع تاريخ إغلاقها، حتى لا يبقى الطلب معلقًا بين جهتين تنتظر أن تبدأ الأخرى.

تكرار الحالات مؤشر مستحق لعمود خاص في اللوحة. حالة عادت بعد إغلاقها تعني أن الإجراء السابق عالج الظاهر لا السبب، أو أن تعليمات التشغيل لم تُحدَّث بعد. كذلك الحالات التي تعود بالمعيار نفسه عبر دورات متتالية تتحول إلى أولوية عمل، وتُرفع بحجة مكتوبة واحدة: أن المعالجة الفردية لم تعد كافية.

تُقرأ المؤشرات عبر الزمن لا في لحظة واحدة، فالنسبة المنخفضة في دفعة واحدة قد تكون نتيجة تحديث في النموذج وليست فشلًا في الإنتاج. مقابل ذلك، انخفاض مستمر مع ثبات الظروف يستدعي تدخلًا. ولا نضع أهدافًا رقمية إلا باتفاق مكتوب مع المؤسسة وبأرقامها هي، لأن هدفًا مستوردًا من جهة لا تعرف حجم إنتاجها يُنتج ضغطًا بلا معنى.

حدود الخدمة وما لا نضمنه

نضع حدود الخدمة صراحة قبل الاتفاق لا بعده. أولًا، لا نصدر شهادات جودة ولا اعتمادات، ولا نضع ختمًا يقول إن مخرجات نموذج ما صارت مطابقة لمواصفة. ما نقدمه حكمًا بشريًا موثقًا وفق معايير اعتمدتها المؤسسة نفسها، وهو أداة داخلية للفحص والمتابعة، لا وثيقة تُسلَّم لطرف خارجي بوصفها تأكيدًا معتمدًا لجودة النموذج.

ثانيًا، لا نضمن صحة مطلقة لأي مخرج نموذج. التدقيق يرفع احتمال اكتشاف الخطأ ولا يلغي وجوده، خصوصًا حين تتغير مادة المعلومة بعد وقت سحب العيّنة. أيًّا كان اتساع الفحص، يبقى النموذج مصدر احتمال لا مصدر يقين، ومن يعتمد المخرج يبقى مسؤولًا عن التحقق فيما يخصّه تحديدًا. وتنطبق الحدود نفسها على أي رسالة عمل تُبنى على تقريرنا: لا تُختصر إلى شهادة، ولا تُنشر بوصفها ضمانًا لجودة النموذج.

ثالثًا، التدقيق وصف لحالة محددة: النموذج الذي يعمل، والإعدادات المعمول بها، والتعليمات المتداولة، ونوع المخرج المفحوص وقت سحب العيّنة. تغيير أي عنصر من هذه العناصر يجعل الوصف قديمًا. لذلك يحتاج التدقيق إلى تجديد متفق عليه عند كل تغيير جوهري، ولا يُنقل حكم دفعة سابقة إلى دفعة بُنيت على أساس مختلف.

رابعًا، نطاقنا المخرج نفسه. لا تُعالج في هذه الخدمة سياسات الاستخدام، ولا يُجرى فيها تقييم مخاطر ما قبل التشغيل، ولا تُختبر بها أمن التطبيقات ونقاط الربط؛ فهذه أعمال تُنجز في مساراتها المتخصصة ولا تُختزل في مراجعة نص. إبقاء الحدود منفصلًا يحمي عمق كل خدمة، ويمنع أن تبدو مراجعة سريعة بديلًا عن عمل أوسع استحقاقًا.

وأخيرًا، القرار النهائي يبقى للمؤسسة. نحن نُحضر المعايير، والعيّنة، وورقة الإجابة، والسجل، والإجراءات مع متابعتها، واللوحة، ونوضح ما رأيناه في المخرج، بينما تقرر المؤسسة ما تعتمده وما ترفضه ومن يملك إغلاق كل حالة. بهذا الترتيب تبقى مسؤولية الجودة في مكانها الطبيعي: عند الجهة التي تُصدر المخرج باسمها وتتحمل نتائجه أمام عملائها. وتُسلَّم الملفات كاملة للمؤسسة عند نهاية الدورة، لأن بيانات جودتها إن بقيت مكانًا آخر لم تبنِ لديها قدرة على المتابعة بنفسها.

مراجع للاطلاع: مبادئ أخلاقيات الذكاء الاصطناعي — الهيئة السعودية للبيانات والذكاء الاصطناعي · مبادئ أخلاقيات الذكاء الاصطناعي — هيئة الحكومة الرقمية

مراجعة الجودة واستلام العمل

تُراجع خدمة تدقيق مخرجات الذكاء الاصطناعي بمقارنة النتيجة بالموجز والمخرجات التي اتفق عليها، وليس بالانطباع العام وحده. توثق الملاحظات وتحدد النسخة التي تشير إليها، ثم تجمع في قائمة واضحة حتى يمكن معالجتها ومراجعة أثرها.

• تحديد المسؤول عن مراجعة المخرج قبل استخدامه
• منع إدخال بيانات مصنفة دون ضابط مناسب
• قابلية تتبع مصدر المعلومة وتحديثها

قبل إغلاق العمل، نتأكد من وجود الملفات أو الروابط المطلوبة ومن وضوح طريقة استخدامها. إذا ظهرت حاجة جديدة أثناء المراجعة، يشرح أثرها على الوقت والتكلفة قبل تنفيذها، وتبقى الملاحظات المتعلقة بالنطاق الأصلي منفصلة عن طلب توسعة المشروع.

أسئلة شائعة عن تدقيق مخرجات الذكاء الاصطناعي

كيف تحدد مدة الخدمة وتكلفتها؟

يعتمد التقدير على حجم الطلب وجودة المدخلات وتعقيد التنفيذ وعدد النسخ أو مراحل المراجعة. أرسل وصف احتياجك وعينة مناسبة لنحدد النطاق قبل البدء، لأن تسمية الخدمة وحدها لا تجعل جميع الطلبات متساوية في الجهد.

هل يمكن تنفيذ جزء من المشروع أولًا؟

يمكن الاتفاق على مرحلة أولى محددة عندما يساعد ذلك على توضيح الاتجاه أو اختبار ملاءمة المخرج. يجب أن تكون لهذه المرحلة نتيجة يمكن تقييمها، وأن توضح علاقتها بما قد يليها من مراحل.

ما الذي يشمله التسليم؟

تقرير تدقيق بالملاحظات والأمثلة وإجراءات لمعالجة الأخطاء المتكررة. يتحدد عدد الملفات وصيغها وحقوق استخدامها وأي متابعة لاحقة في عرض العمل. اطلب توضيح ملفات المصدر أو التدريب أو الدعم إذا كانت ضرورية لك، لأنها ليست مكونات تلقائية لكل طلب.

خدمات مرتبطة

مراجع للاطلاع

• مبادئ أخلاقيات الذكاء الاصطناعي — الهيئة السعودية للبيانات والذكاء الاصطناعي

المراجع للاطلاع العام، وليست وعدًا بنتيجة أو ترتيب محدد.