Risque lié aux données
Les fuites dans les systèmes d’IA passent souvent par le collage de secrets, des journaux qui conservent les prompts, ou des outils que le modèle a le droit d’appeler.
Tout ce qui est placé dans un prompt — dossiers clients, code source, cookies de session, URL internes — est traité par le fournisseur du modèle et peut être conservé selon ses conditions. Si vous n’enverriez pas ce texte par e-mail à ce prestataire, ne le collez pas dans un tchat.
Les applications gardent souvent des transcriptions pour le débogage. Ces stocks deviennent une seconde copie de ce que les utilisateurs ont saisi. Réduisez la rétention, limitez qui peut lire les journaux, et retirez les secrets avant d’écrire. Le stockage navigateur de ce site reste chez le visiteur ; les opérateurs ne peuvent pas le lire à distance.
Si un assistant peut chercher dans le courrier, les tickets ou les fichiers, un prompt manipulé peut lui faire extraire plus que prévu. Limitez les périmètres, exigez une confirmation pour les exports, et n’attachez jamais une clé qui lit des données de production que vous n’êtes pas prêt à exposer au chemin du modèle.
