Recherche et pratique

Sécurité IA

L’intelligence artificielle peut soutenir le travail de cybersécurité lorsqu’elle est appliquée à des tâches bien définies, alimentée par des données appropriées, et maintenue sous supervision humaine. Elle ne remplace ni le jugement d’ingénierie, ni les tests autorisés, ni la réponse à incident.

Sujets

Guides courts sur les échecs des modèles, les fuites de données, et un usage défensif. Chaque carte ouvre une note complète.

Fondations

Fondamentaux de la sécurité IA

Ce qui change lorsque un logiciel génère du texte, du code et des décisions — et quels contrôles s’appliquent encore.

Attaques et défenses

Injection de prompt

Comment un texte non fiable peut orienter un modèle — et comment limiter ce que cette orientation peut faire.

Risque lié aux données

Fuite de données liée à l’IA

Comment prompts, journaux et outils connectés peuvent exposer des informations qui n’auraient jamais dû quitter une session.

Risque lié aux données

Vie privée et IA

Réduire les données personnelles dans les prompts, comprendre la rétention, et garder les accords de traitement en vue.

Pratique

Cybersécurité assistée par l’IA

Où les modèles aident à la détection, l’analyse et la rédaction — et où ils doivent rester derrière une relecture humaine.

Pratique

IA responsable

Supervision, usage autorisé, et limites des conseils générés dans un contexte de sécurité.

Pratique

Liste de contrôle de sécurité IA

Contrôles défensifs pratiques pour les équipes qui appellent des modèles ou livrent des fonctions assistées par l’IA.