Supervision humaine
Une personne reste responsable des actions qui changent des accès, suppriment des données, notifient des utilisateurs ou publient une conclusion de sécurité. La sortie du modèle n’est qu’un élément de cette décision.
Pratique
IA responsable
Utiliser l’IA dans un contexte de sécurité crée des obligations faciles à négliger. Les points ci-dessous sont des contraintes de conception, pas une certification.
Tous les sujets de sécurité IA01 02 03 04
Développement sécurisé
Les points de terminaison, les clés d’API et d’éventuels corpus d’entraînement sont des actifs sensibles. Protégez-les comme tout identifiant de production. Validez les entrées destinées à un prompt comme toute entrée non fiable.
Recherche autorisée
Scanner, exploiter ou tester un système exige la permission du propriétaire. Le matériel éducatif de ce site n’autorise l’attaque d’aucun réseau, y compris ceux qui utilisent l’IA.
Limites connues
Injection de prompt, fuites via les journaux, allégations techniques inventées et couverture incomplète d’une menace sont des raisons de poser des limites. Ce ne sont pas des raisons d’éviter totalement les outils lorsque la tâche est étroite et relue.