تحديد مهمة نظام الذكاء الاصطناعي والمتطلبات الفنية: NIST AI RMF Map 2.1
تم تصميم إطار عمل إدارة مخاطر الذكاء الاصطناعي (AI RMF) من NIST كإطار عمل طوعي ينطبق على أي منظمة تشارك في تصميم أو تطوير أو نشر أو استخدام أنظمة الذكاء الاصطناعي. إنه ليس مطلب امتثال إلزامي بنفس الطريقة التي تكون بها بعض اللوائح (على سبيل المثال، EU AI Act). ومع ذلك، فإنه يقدم إرشادات مفيدة للغاية - فكر فيه كدليل لمساعدة مؤسستك على ضمان تحقيق فوائد الذكاء الاصطناعي بمسؤولية.
ما هو Map 2.1؟
هل مهمة نظام الذكاء الاصطناعي الخاص بك محددة بوضوح؟ تجنب هذه المزالق الشائعة عند التوافق مع NIST’s AI RMF 2.1:
- التعريف غامض للغاية
“سيتعلم النظام تحسين رضا العملاء.” كيف ستقيس التحسين؟ ما الإجراءات التي سيتخذها نظام الذكاء الاصطناعي؟
سيتعلم الذكاء الاصطناعي تقليل أوقات انتظار العملاء على دعم الهاتف عن طريق التنبؤ بحجم المكالمات وتحليل نوع المكالمة المتوقع وتحسين جدولة الوكلاء.
- النطاق طموح للغاية
“سيحل النظام جميع مشاكل خدمة العملاء لدينا.”
حقًا؟
- تجاهل الافتراضات والقيود (المتعلقة بالبيانات أو البيئة أو سلوك المستخدم)
يمكن أن تؤدي الافتراضات المخفية إلى فشل غير متوقع. القيود ليست فشلاً.
الافتراضات:
- يتم تسجيل التاريخ الطبي للمريض والأعراض بدقة في السجل الصحي الإلكتروني.
- الصور المستخدمة للتشخيص ذات جودة ودقة كافية.
- ستكون اللغة المستخدمة في رسائل البريد الإلكتروني العشوائية في الغالب هي اللغات التي تم تدريب المرشح عليها. القيد: قد يواجه النظام صعوبة في الأسئلة التي تتطلب فهمًا دقيقًا للسخرية أو الفكاهة.
- المواصفات والمتطلبات الفنية غير محددة بوضوح
يجب أن يكون الذكاء الاصطناعي سريعًا ودقيقًا. يجب أن يحقق نظام الكشف عن الاحتيال المدعوم بالذكاء الاصطناعي درجة F1-score لا تقل عن X على مجموعة بيانات اختبار محجوزة لا تقل عن Y معاملة. يجب أن يكون النظام قادرًا على التعامل مع حجم معاملات يصل إلى Z معاملة في الثانية.
- لا يوجد توثيق للتطوير والاختبار والمقاييس والأداء
تم تدريب النظام على مجموعة بيانات كبيرة وتم اختباره على نطاق واسع. تم تطوير نظام الترجمة باستخدام بنية X. تتكون بيانات التدريب من نصوص متوازية باللغتين الإنجليزية والإسبانية، مصدرها مجموعات بيانات متاحة للجمهور ومجموعتنا الداخلية. استخدمنا درجة BLEU كمقياس تقييم أساسي. حقق النظام متوسط درجة BLEU يبلغ 0.85 على مجموعة الاختبار.
- لا توجد إشارة إلى ممارسات إدارة البيانات القائمة على المساءلة الخاصة بك
تلتزم منظمتنا بمبادئ خصوصية OECD. لقد قمنا بتنفيذ ممارسات إدارة البيانات وحمايتها التالية: …
- عدم مواءمة المواصفات مع الأهداف والغايات
تتضمن المواصفات الفنية للنظام تتبع المخزون في الوقت الفعلي بدقة 99٪، والطلب الآلي بناءً على عتبات محددة مسبقًا ومُحسَّنة للتكلفة ووقت التسليم. تدعم هذه المواصفات بشكل مباشر أهداف تقليل نفاد المخزون وتقليل النفايات من خلال تمكين التنبؤ بالطلب بشكل أكثر دقة، ورؤية أفضل للمخزون، وعمليات طلب مُحسَّنة.
راجع هذه النقاط: من خلال تحديد مهام نظامك بوضوح وضيق، فإنك تسهل تحديد الفوائد والمخاطر، مما يحسن إدارة المخاطر.
