الخارطة/مسار AI FDE

المرحلة 10 · مسار AI FDE

أمن التطبيقات الذكية

اختبر ما قد يسيء استخدامه

٤ موضوعات للتعلممشروع تطبيقي٣ معايير للإتقان

قبل أن تبدأ: تطبيق يسترجع معرفة أو يستدعي أدوات.

ما الذي تتعلمه وتطبقه؟

  1. ارسم حدود الثقة: المستخدم والمصادر والنموذج والأدوات والأنظمة.
  2. اختبر حقن التعليمات وتسرب البيانات والوصول بين العملاء واستخدام الأدوات خارج النطاق.
  3. قلّل الصلاحيات وافصل القراءة عن الكتابة، واربط الإجراءات المؤثرة بسياسة واضحة.
  4. نقّح السجلات من الأسرار والبيانات غير المطلوبة، وسجّل المخاطر المتبقية ومالكها.

المشروع التطبيقي

نفّذ مراجعة تهديدات لتطبيق RAG أو وكيل الطلبات ثم أعد الاختبارات بعد الإصلاح.

كيف تتحقق من الإتقان؟

  • توجد سيناريوهات تهديد واقعية
  • توجد أدلة على منع وصول غير مصرح
  • تبقى القيود واضحة بعد الإصلاح