المطالبات بيانات
أي شيء يُوضع في مطالبة — سجلات عملاء أو شفرة مصدر أو ملفات ارتباط جلسة أو عناوين داخلية — يعالجه مزوّد النموذج وقد يُحفظ وفق شروطه. إن كنت لا ترسل النص بالبريد إلى ذلك المزوّد فلا تلصقه في محادثة.
مخاطر البيانات
تسريب بيانات الذكاء الاصطناعي
يحدث التسريب في أنظمة الذكاء الاصطناعي غالبًا عبر لصق الأسرار، أو سجلات تحتفظ بالمطالبات، أو أدوات يُسمح للنموذج باستدعائها.
كل موضوعات أمن الذكاء الاصطناعي01 02 03
السجلات والنصوص
غالبًا تحتفظ التطبيقات بنصوص للتصحيح. تصبح تلك المخازن نسخة ثانية مما كتبه المستخدمون. قلّل مدة الاحتفاظ، وقيّد من يقرأ السجلات، وانزع الأسرار قبل الكتابة. تخزين المتصفح في هذا الموقع محلي للزائر؛ لا يستطيع المشغّلون قراءته عن بُعد.
الأدوات المتصلة
إذا استطاع المساعد البحث في البريد أو التذاكر أو الملفات، فقد تدفع مطالبة مُلاعب بها إلى استرجاع أكثر مما قصده المستخدم. حدّ نطاق الأدوات، واطلب تأكيدًا للتصدير، ولا تربط مفتاحًا يقرأ بيانات إنتاج لا تريد تعريضها لمسار النموذج.