إرشادات SR 11-7 والذكاء الاصطناعي الوكيلي: إدارة مخاطر النماذج لوكلاء الذكاء الاصطناعي في البنوك

على مدى أكثر من عقد، تشكّلت إدارة مخاطر النماذج في البنوك الأمريكية حول وثيقة واحدة: SR 11-7، وهي الإرشادات الإشرافية لإدارة مخاطر النماذج الصادرة عن الاحتياطي الفيدرالي في أبريل 2011. وأصدر مكتب مراقب العملة (OCC) الإرشادات ذاتها من حيث المضمون في النشرة 2011-12، واعتمدتها المؤسسة الفيدرالية للتأمين على الودائع (FDIC) في عام 2017. وقد بنت معظم البنوك سياساتها وسجلاتها وفرق التحقق لديها لمخاطر النماذج على أساسها.

يختبر الذكاء الاصطناعي التوليدي ووكلاء الذكاء الاصطناعي اليوم هذا الإطار بطرق لم يكن بوسع واضعيه توقعها. والخبر الجيد أن SR 11-7 صيغت كمبادئ لا كقواعد، وكثير منها ينطبق بصورة جيدة. أما التحدي فهو معرفة أين تتمدد حدودها وأين تتوقف.

ما تطلبه SR 11-7 من البنوك

تقوم SR 11-7 على ثلاث ركائز:

• سلامة التطوير والتطبيق والاستخدام. ينبغي أن يكون للنماذج غرض واضح وتصميم سليم وبيانات ملائمة وحدود موثّقة، وأن تُستخدم على النحو المقصود.
• التحقق مع المراجعة النقدية الفعّالة. ينبغي أن يراجع النماذجَ أشخاصٌ مستقلون عن التطوير، يمتلكون الكفاءة والتأثير اللازمين لمساءلة الافتراضات والنتائج.
• الحوكمة والسياسات والضوابط. تضع مجالس الإدارة والإدارة العليا السياسات، وتحدد الأدوار والمسؤوليات، وتحتفظ بسجل للنماذج المستخدمة.

تعرّف الإرشادات النموذج أيضاً تعريفاً واسعاً، بوصفه أسلوباً كمياً يحوّل البيانات المدخلة إلى تقديرات، وتوضح أن مخاطر النماذج تنشأ من الأخطاء في النموذج ومن استخدامه بصورة غير صحيحة على حد سواء. وهذا الاتساع هو ما يجعلها وثيقة الصلة بالذكاء الاصطناعي اليوم.

ما الذي يُعد نموذجاً، وكيف يُصنَّف

من السهل التعرف على بطاقة تقييم ائتماني تقليدية بوصفها نموذجاً. أما وكيل الذكاء الاصطناعي فالأمر فيه أصعب. إذ يجمع عادةً بين نموذج لغوي كبير، ومجموعة من التعليمات والتوجيهات، والاسترجاع من المستندات الداخلية، وأدوات تستدعي أنظمة أخرى، وقواعد أعمال تحدد ما يحدث بعد ذلك.

نوصي البنوك بالإجابة عن هذا السؤال على طبقات لا دفعة واحدة:

• النموذج التأسيسي. النموذج اللغوي الكبير الأساسي هو عادةً مكوّن من طرف ثالث. ومكانه في السجل، حتى لو لم يتمكن البنك من فحص طريقة بنائه.
• التطبيق المُهيّأ. التعليمات ومصادر الاسترجاع والمعايير والضمانات التي تحوّل نموذجاً عاماً إلى حالة استخدام محددة. هنا تنشأ معظم المخاطر الخاصة بالبنك، وهنا ينبغي أن يركز فريق التحقق.
• إجراءات الوكيل. الأدوات وصلاحيات الأنظمة التي تتيح للتطبيق تغيير السجلات أو إطلاق العمليات. وكما نوضح أدناه، تحتاج هذه الطبقة إلى ضوابط لم تُصمَّم SR 11-7 لتوفيرها.

ستعامل بعض البنوك استخدامات معينة للذكاء الاصطناعي التوليدي على أنها «أدوات» أو «غير نماذج» بدلاً من نماذج. وقد يكون ذلك معقولاً للاستخدامات منخفضة المخاطر، لكن القرار ينبغي أن يكون موثّقاً ومتسقاً وخاضعاً للمراجعة النقدية ذاتها التي يخضع لها أي تصنيف آخر. فالاستثناءات غير الموثّقة من الملاحظات الشائعة في المراجعات.

بعد تحديد استخدامات الذكاء الاصطناعي، يجب تصنيفها حسب مستوى المخاطر. تصنّف معظم البنوك نماذجها بالفعل حسب الأهمية النسبية، بحيث يتناسب عمق التحقق مع المخاطر. وينبغي تطبيق المنطق ذاته على الذكاء الاصطناعي، مع تحديث معايير التصنيف. فاستخدام للذكاء الاصطناعي التوليدي يصيغ محاضر اجتماعات داخلية، وآخر يجيب عن أسئلة العملاء حول الرسوم، قد يعتمدان على النموذج الأساسي ذاته ويحملان مخاطر مختلفة تماماً.

من عوامل التصنيف المفيدة للذكاء الاصطناعي والوكلاء:

• ما إذا كانت المخرجات تصل إلى العملاء أو تؤثر في النتائج التي يحصلون عليها؛
• ما إذا كان النظام قادراً على تنفيذ إجراءات أم يقتصر على تقديم توصيات؛
• الأثر المالي والسلوكي والامتثالي للخطأ؛
• درجة المراجعة البشرية قبل الاعتماد على المخرجات؛
• حساسية البيانات التي يمكنه الوصول إليها.

الوكيل القادر على تغيير السجلات في الأنظمة المصرفية الأساسية أو أنظمة المدفوعات ينبغي أن يقع في المستويات الأعلى بحكم التعريف تقريباً، أياً كانت درجة تطور نموذجه.

التحقق من أنظمة لا تعطي الإجابة ذاتها مرتين

يعتمد التحقق التقليدي على تكرار النتائج واختبار الافتراضات والمقارنة المعيارية مع البدائل. أما النماذج اللغوية الكبيرة فغير حتمية: قد ينتج المدخل ذاته مخرجات مختلفة، وقد يتغير السلوك حين يحدّث المورّد النموذج. لذا يجب أن يتكيف التحقق دون التخلي عن المراجعة النقدية الفعّالة.

عملياً، يعني ذلك الجمع بين عدة أساليب:

• مجموعات اختبار لحالات الاستخدام. مجموعات منتقاة من المدخلات الواقعية ذات النتائج المتوقعة، تُشغَّل مراراً لقياس الدقة والاتساق عبر تشغيلات عديدة لا تشغيل واحد.
• المقارنات المعيارية. المقارنة بخط أساس، مثل العملية اليدوية القائمة أو نهج أبسط قائم على القواعد، ليتمكن البنك من الحكم على ملاءمة الذكاء الاصطناعي للغرض منه.
• اختبارات الفريق الأحمر. محاولات متعمدة لإفشال النظام، تشمل حقن التعليمات، ومحاولات استخراج البيانات السرية، ومدخلات مصممة لإثارة مخرجات متحيزة أو ضارة.
• الرقابة المستمرة. لأن السلوك قد ينحرف، لا يمكن أن يكون التحقق عملية تجري في لحظة زمنية واحدة. وتصبح رقابة جودة المخرجات في بيئة الإنتاج، ومعدلات التجاوز البشري، والشكاوى والحوادث، جزءاً من أدلة التحقق.

سيحتاج فريق التحقق أيضاً إلى مهارات جديدة. فالمراجعة النقدية الفعّالة تتطلب أشخاصاً يفهمون كيف تفشل هذه الأنظمة، لا نظرية النماذج الإحصائية وحدها.

نماذج الأطراف الثالثة ومخاطر المورّدين

تتوقع SR 11-7 بالفعل أن تدير البنوك نماذج المورّدين، حتى حين لا يشارك المورّد التفاصيل الكاملة لتصميمها وبياناتها. وقد أصبح هذا المبدأ محورياً اليوم، لأن معظم الذكاء الاصطناعي التوليدي في البنوك يقوم على نماذج لم يبنها البنك ولا يستطيع فحصها بالكامل.

ينبغي أن تربط البنوك إدارة مخاطر النماذج بإدارة مخاطر الأطراف الثالثة، بحيث تفهم لكل مورّد للذكاء الاصطناعي:

• ما الوثائق وأدلة الاختبار التي يقدمها المورّد؛
• كيف ومتى يغيّر المورّد النماذج أو يوقفها، وكيف يُبلَّغ البنك بذلك؛
• أين تُعالَج البيانات، وهل تُستخدم في تدريب نماذج المورّد؛
• ما الحقوق التعاقدية التي يملكها البنك في التدقيق والاختبار والخروج.

حيثما كانت شفافية المورّد محدودة، يجب أن يتحمل اختبار البنك ورقابته للتطبيق المُهيّأ قدراً أكبر من العبء.

الفجوة: SR 11-7 تتحقق من النماذج لا من الإجراءات

هذه هي النقطة الأهم للبنوك التي تنشر الوكلاء. تُعنى SR 11-7 بمدى سلامة مخرجات النموذج وملاءمة استخدامها. لكنها لا تخبر البنك كيف يضبط نظاماً يتصرف من تلقاء نفسه: ما المسموح له بتغييره، ومن يعتمد تلك التغييرات، وكيف يمكن التراجع عنها.

قد يُلحق نموذج خضع لتحقق جيد ضرراً رغم ذلك إذا كان الوكيل المحيط به يملك صلاحيات مفرطة أو يفتقر إلى خطوة اعتماد. وسدّ هذه الفجوة يعني الاستعانة بضوابط من المخاطر التشغيلية والضوابط العامة لتقنية المعلومات:

• الهوية والوصول. لكل وكيل هوية خاصة به بصلاحيات وفق مبدأ الحد الأدنى من الامتيازات، مُدرجة في مراجعات الوصول.
• الاعتمادات. عتبات للاعتماد البشري تُحدَّد وفق مخاطر كل إجراء، لا تُطبَّق بشكل موحّد.
• إدارة التغيير. تخضع التغييرات على التعليمات والأدوات وإصدارات النماذج لعمليات إصدار مضبوطة، تماماً كما تخضع تغييرات الشيفرة البرمجية.
• التسجيل ومسارات التدقيق. كل إجراء قابل للإسناد وإعادة البناء، ومرتبط بالسجل الذي غيّره.
• الاستجابة للحوادث. وسيلة مُختبَرة لتعليق عمل الوكيل والتراجع عن إجراءاته.

الحل العملي ليس تمديد SR 11-7 لتغطي كل شيء، بل تحديد الجهة المسؤولة عن كل ضابط بوضوح، بحيث تعرف كل من وظيفة مخاطر النماذج والمخاطر التشغيلية ومخاطر التقنية وخط الأعمال دورها.

التوقعات الإشرافية في تطور مستمر

أوضحت الجهات الإشرافية أن التوقعات القائمة بشأن مخاطر النماذج ومخاطر الأطراف الثالثة والمرونة التشغيلية تنطبق على الذكاء الاصطناعي، وأن هذه التوقعات مستمرة في التطور. والبنوك التي توسّع أطرها الحالية بتأنٍّ، وتوثّق منطقها، وتسدّ الفجوة بين التحقق من النماذج وضوابط الإجراءات، ستكون في موقع قوي أياً كان ما يأتي لاحقاً.

هذا المقال معلومات عامة، ولا يُعد مشورة قانونية أو تنظيمية.