Fondations
Les systèmes d’IA sont des logiciels. Ils héritent des problèmes de sécurité ordinaires et en ajoutent autour des prompts, des données d’entraînement et d’une sortie trop souvent crue.
La sécurité IA consiste à protéger les données, identifiants et décisions autour des systèmes d’apprentissage automatique. Elle inclut la construction des prompts, le stockage des journaux, qui peut appeler une API, et si une personne relit une sortie lourde de conséquences. Ce n’est pas une discipline qui remplace la sécurité web, cloud ou d’identité.
Un modèle prédit du texte ou des étiquettes à partir de son entraînement et de l’entrée fournie. Il n’inspecte pas votre réseau, ne prouve pas qu’un code est sûr, et ne sait pas si une affirmation est vraie. Traitez le contenu généré comme une aide non fiable : utile pour rédiger et classer, insuffisant comme preuve.
Les nouveaux modes d’échec sont l’injection de prompt, des données sensibles placées dans le contexte, des allégations techniques inventées, et des actions automatiques sans contrôle humain. Ils s’ajoutent aux problèmes familiers : clés d’API fuitées, jetons trop larges, services tiers non relus.
Utilisez les modèles pour des tâches bien définies, avec des entrées et sorties claires. Gardez les secrets de production hors des prompts. Exigez qu’une personne approuve les changements d’accès, les suppressions ou les déclarations de sécurité publiques. Le matériel éducatif de ce site ne remplace pas l’évaluation d’un système précis.
