AI red team · offensive security
Sécurité offensive des systèmes d'IA, ancrée dans le red teaming — pas dans le ML. Le jailbreak n'est pas la faille. La SSRF, le token trop large et le pivot derrière, si.
[01]Le problème
Un LLM dans votre stack n'est pas un chatbot. C'est un nouvel appelant à l'intérieur de votre périmètre — qui lit du contenu non fiable, détient des identifiants et déclenche des outils.
Les instructions ne viennent pas forcément de votre utilisateur. Un ticket de support, une page scrapée, un PDF dans votre index RAG — n'importe lequel peut porter une charge que votre modèle exécutera.
Un document empoisonné dans la base de connaissances demande à l'assistant d'appeler une URL interne, et sa réponse revient avec votre endpoint de métadonnées en pièce jointe.
Donnez des outils à un modèle et vous lui donnez de la portée. Si l'agent tourne avec des permissions plus larges que l'utilisateur en face, le modèle devient un adjoint dupé muni d'une clé d'API.
Un agent censé « lire les commandes de l'utilisateur » est détourné pour appeler un endpoint d'administration interne auquel l'utilisateur n'a jamais eu droit.
Ce sur quoi le modèle a été entraîné, affiné ou ce qu'on lui passe à l'inférence peut ressortir — y compris des données appartenant à un autre client.
Un prompt soigneusement construit reconstitue un enregistrement de fine-tuning, et un locataire lit les données d'un autre.
[02]Services
Quatre missions. Choisissez celle qui colle à l'endroit où se trouve réellement votre IA.
Revue d'architecture, cartographie de la surface d'attaque IA sur vos modèles, flux de données et intégrations d'outils, analyse d'écart face à un référentiel reconnu.
Une cartographie de surface, une liste priorisée des points d'exposition, et une note courte sur l'endroit où un audit rapporterait le plus vite.
Une application LLM/RAG en fonctionnement, de bout en bout — injection directe et indirecte, fuite de contexte et de system prompt, RBAC sur les sources, et abus de la chaîne applicative dans laquelle le modèle s'insère.
Des findings reproductibles avec requêtes de preuve, l'impact métier par problème, et une remédiation concrète à passer à vos équipes.
Membership inference, extraction de modèle et de données d'entraînement, fuite inter-locataires, et l'exposition en matière de protection des données qui en découle — rattachée aux obligations RGPD.
Un rapport d'exposition des données, les chemins d'extraction démontrés quand ils existent, et une vue du risque privacy exploitable par votre DPO.
Des agents avec de vrais outils et des intégrations MCP — abus d'appels d'outils, escalade de privilèges via les permissions d'agent, et chaînes multi-étapes qui transforment un maillon faible en accès au SI.
Le récit complet de l'attaque, de l'entrée à l'impact, la chaîne reproduite étape par étape, et les mesures de confinement qui la brisent.
[03]Méthodologie
Chaque problème est relié à une référence publique pour tenir face à l'examen — de vos ingénieurs, de vos auditeurs et de vos clients qui vous soumettent à un vendor security review.
[04]À propos
Injentik est un cabinet indépendant de sécurité offensive. Les personnes qui cadrent votre mission sont celles qui écrivent l'exploit et présentent les résultats — pas de chargé de compte, pas de passage de relais à un junior.
Le parcours, c'est du red teaming offensif classique. Et ça compte : la plupart des offres de red teaming IA viennent du ML et s'arrêtent au jailbreak. Injentik vient du côté attaquant et suit la chaîne derrière — jusque dans l'appli, les tokens et le réseau.
Les tests sont menés au standard HTB COAE — Certified Offensive AI Engineer, un examen pratique de sept jours conçu avec Google. Chaque finding est rattaché à un référentiel public, pour tenir face à l'examen.
[05]Obtenir le rapport type
Le rapport type est le compte rendu anonymisé d'une mission — une vraie chaîne, de l'injection indirecte à l'accès interne, avec les étapes de reproduction et le correctif. Laissez un email professionnel et il arrive directement dans votre boîte.
Vous préférez échanger d'abord ? Utilisez le même formulaire et dites-le dans le message.