ممارسة

قائمة تحقق أمن الذكاء الاصطناعي

استخدم هذه القائمة عند مراجعة ميزة ذكاء اصطناعي تملكها. هي نقطة انطلاق وليست تدقيقًا كاملًا ولا ضمانًا.

احمِ مفاتيح واجهة البرمجة

احفظ مفاتيح النماذج في متغيرات بيئة الخادم أو مدير أسرار. لا تُدرجها في المستودع ولا تضمّنها في تطبيقات الجوال ولا تشحنها في حزم الواجهة العامة. دوّر المفاتيح التي قد تكون كُشفت.

قلّل البيانات الحسّاسة المرسلة إلى الذكاء الاصطناعي

أرسل فقط الحقول التي تحتاجها المهمة. احجب بيانات الاعتماد والبيانات الشخصية والمعرّفات الداخلية. فضّل أمثلة اصطناعية عند تطوير المطالبات.

تحقق من مخرجات الذكاء الاصطناعي

راجع الشفرة والأوامر والادعاءات الأمنية مقابل الأدلة الأصلية. لا تنفّذ سكربتات مولَّدة ولا تطبّق إعدادات مولَّدة حتى يراجعها شخص.

استخدم ضوابط وصول مناسبة

امنح الرموز أقل امتياز تحتاجه الميزة. افصل من يغيّر المطالبات ومن يقرأ السجلات ومن يستدعي أدوات تغيّر الحالة.

اختبر حقن المطالبة

ضمّن محتوى غير موثوق في الاختبارات: مستندات وتذاكر وصفحات تحاول تجاوز التعليمات. تأكد أن الأدوات لا تستطيع تنفيذ إجراءات لا رجعة فيها من تلك المدخلات وحدها.

راجع تكاملات الذكاء الاصطناعي التابعة لأطراف ثالثة

اقرأ الاحتفاظ والتدريب والمعالجين الفرعيين لكل واجهة نموذج. عطّل الميزات التي لا تحتاجها. اعرف كيف تلغي تكامل مورّد.

أبقِ إشرافًا بشريًا على القرارات المهمة

تغييرات الوصول وحذف البيانات والإشعارات الخارجية والتصريحات الأمنية العامة تتطلب شخصًا مسمّى. سجّل تلك الموافقة عندما يهم القرار.