أول فئة مسؤوليةيتخذ فيها النظامالقرار
- فئة المخاطر
- مخاطر الذكاء الاصطناعي
- محور التركيز
- نماذج · وكلاء · استقلال
- منتجات ذات صلة
- HUMANO-SURE · NOVA
- نموذج التشغيل
- التحقق → المراقبة → المنع → التعافي → التأمين
لماذا يتعثر السوق التقليدي
تفترض تغطية الأخطاء والإغفالات التقنية عيبًا يمكن تتبعه وتكراره وترقيعه. أما سلوك النموذج فناشئ، وحساس للتوزيع، وغير قابل للتكرار في الغالب. والسببية محل نزاع، وسلسلة المسؤولية تمتد من مطوّر النموذج إلى المشغّل إلى المُدمِج، والخسارة قد تكون سمعية وتنظيمية ومالية في وقت واحد. واكتتابها يقتضي أدلة تقييم لا طمأنات.
ما نبنيحوله.
مخرجات خاطئة وضرر قرار
خسارة مالية أو مادية سببها مخرجات نموذج اعتُمد عليها في عملية قائمة.
تصرف وكيل ذاتي
تعرض ينشأ حين يملك النظام وصولًا إلى أدوات أو صلاحية إنفاق أو قدرة على التعامل.
سلامة النموذج
تسميم البيانات، وحقن التوجيهات، واستخراج النموذج، والتلاعب العدائي.
الملكية الفكرية والمحتوى
مطالبات الغير الناشئة عن بيانات التدريب والمخرجات المولَّدة وتوزيعها لاحقًا.
التنظيم والالتزام
التعرض بموجب أنظمة الذكاء الاصطناعي الناشئة، بما فيها الالتزامات المرتبطة بالتشغيل عالي المخاطر.
الأداء والإتاحة
التدهور والانحراف وإخفاق التبعيات في أنظمة إنتاج يعتمد عليها العملاء.
الدورة نفسها،مطبَّقة على هذه الفئة.
- التحقق
مراجعة منهجية التقييم، والحواجز الواقية، وتصميم إبقاء الإنسان في الحلقة، وحدود التشغيل.
- المراقبة
إشارة مستمرة عن الانحراف ومعدل الحوادث ونطاق الاستقلال وأي تغيّر في النموذج أو المزوّد.
- المنع
احتواء متفق عليه: حدود للقدرات، ومحفزات تصعيد، وشروط للتراجع.
- التعافي
استجابة للحوادث تشمل الاحتواء التقني والإفصاح والتعرض تجاه الغير.
- التأمين
نقل خطر مُعايَر على درجة الاستقلال العاملة فعلًا في الإنتاج.
ما يبقى تحت الملاحظة بعد إلزام الخطر.
- درجة الاستقلال في الإنتاج
- وتيرة التقييم والفريق الأحمر
- تغطية الإشراف البشري
- نطاق الأدوات وصلاحية الإنفاق
- معدل تغيّر النموذج والمزوّد
- قياسات الحوادث وحوادث الكاد
- وضع مصدر البيانات
- مطوّرو نماذج الذكاء الاصطناعي
- المنشآت التي تشغّل أنظمة وكيلة
- مزوّدو الذكاء الاصطناعي في الصحة والقانون والمال
- مزوّدو المنصات والبنية التحتية
- المستثمرون الذين يكتتبون محافظ الذكاء الاصطناعي