L’intégration d’assistants IA internes — copilotes métiers, agents conversationnels, outils d’aide à la décision — s’accélère dans les banques et assurances. Ces systèmes, souvent connectés à des bases documentaires internes via des architectures de type RAG (Retrieval-Augmented Generation), offrent des gains de productivité significatifs.
Mais cette évolution introduit une nouvelle surface d’attaque, distincte des systèmes applicatifs traditionnels. Les modèles de langage ne se comportent pas comme des logiciels classiques : ils interprètent du texte, manipulent du contexte et peuvent être influencés par des entrées malveillantes. Les travaux de l’OWASP Top 10 for LLM Applications et du NIST AI Risk Management Framework ont précisément formalisé ces nouveaux risques, en mettant l’accent sur la gouvernance, la sécurité des données et les usages contrôlés des modèles.
Dans ce contexte, la question n’est plus seulement “comment utiliser l’IA”, mais comment la sécuriser dans un environnement sensible.
Une nouvelle surface d’attaque : du code vers le langage
Contrairement aux applications traditionnelles, les assistants IA reposent sur des interactions en langage naturel. Cela modifie profondément les modes d’attaque.
L’OWASP identifie notamment la prompt injection comme un risque majeur. Elle consiste à manipuler le modèle via des instructions malveillantes dissimulées dans une requête ou dans un document source. Dans un environnement RAG, cette injection peut provenir non seulement de l’utilisateur, mais aussi des données elles-mêmes (documents internes, bases de connaissances, contenus externes intégrés).
Un exemple classique consiste à intégrer dans un document une instruction cachée demandant au modèle d’ignorer ses règles ou de révéler des informations sensibles. Le modèle, n’ayant pas de distinction native entre données et instructions, peut exécuter cette logique sans mécanisme de contrôle explicite.
Ce type de vulnérabilité est structurel : il ne relève pas d’un bug logiciel, mais du fonctionnement même des modèles.
Data leakage : un risque amplifié par le contexte
Les assistants IA internes manipulent du contexte étendu : documents, bases internes, historiques de conversation. Cela crée un risque accru de divulgation d’informations sensibles.
Le NIST AI Risk Management Framework souligne que les systèmes IA doivent être conçus pour limiter les expositions involontaires de données. Dans un contexte financier, cela concerne notamment :
- données clients,
- informations financières,
- documents internes stratégiques,
- données réglementaires ou confidentielles.
Le risque ne vient pas uniquement d’une attaque externe. Il peut aussi résulter d’un usage légitime mal encadré, par exemple lorsqu’un utilisateur accède à des informations au-delà de son périmètre habituel via un assistant mal configuré.
RAG et connecteurs : des points d’entrée critiques
Les architectures RAG reposent sur la connexion du modèle à des sources de données internes ou externes. Ces connecteurs deviennent des points critiques :
- accès à des bases documentaires internes,
- connexion à des outils métiers,
- interfaçage avec des systèmes tiers.
Si ces accès ne sont pas correctement contrôlés, le modèle peut devenir un point de pivot permettant d’exfiltrer des données ou de contourner les contrôles applicatifs classiques.
Dans plusieurs retours d’expérience partagés dans l’industrie, les failles ne proviennent pas du modèle lui-même, mais de la mauvaise configuration des accès aux données.
Sur-permissionnement : un risque souvent sous-estimé
L’un des risques les plus fréquents dans les déploiements d’assistants IA est le sur-permissionnement.
Dans un souci de simplicité, les assistants sont parfois connectés à des sources de données larges, sans granularité fine des droits. Cela crée une situation où :
- le modèle a accès à plus de données que nécessaire,
- les contrôles d’accès existants ne sont pas correctement appliqués,
- les utilisateurs peuvent obtenir indirectement des informations auxquelles ils n’auraient pas accès via les applications classiques.
Le NIST insiste sur la nécessité d’intégrer les principes de least privilege et de segmentation des accès dans les systèmes IA, au même titre que dans les systèmes IT traditionnels.