Titre:  Cybersécurité des systèmes agentiques IA

Cybersécurité des systèmes agentiques IA

PFE-26-27-TT

MOTS

CLÉS

Cybersécurité, Systèmes agentiques, Injection de prompt, Abus d'outils (tool abuse), Modélisation des menaces, Red teaming.

Avec l'adoption croissante d'agents IA autonomes dans les processus métier (support client, automatisation d'opérations réseau, assistants internes), de nouvelles surfaces d'attaque émergent : injection de prompt, détournement d'outils (tool abuse), fuite de données sensibles ou exécution d'actions non autorisées. L'objectif de ce PFE est d'évaluer la posture de sécurité des architectures d'agents IA autonomes en contexte télécom et de concevoir un cadre de sécurisation opérationnel adapté, fondé sur la modélisation des menaces, l'expérimentation par des campagnes de red teaming et la validation de contre-mesures concrètes et déployables.

• Réaliser un état de l'art des architectures d'agents IA autonomes et de leurs vecteurs de vulnérabilité (prompt injection, tool abuse, jailbreak, fuite de données).
• Modéliser les menaces spécifiques aux cas d'usage télécom (agents de support client, agents d'automatisation réseau, assistants internes).
• Concevoir et exécuter des scénarios de red teaming ciblant les agents IA étudiés.
• Développer et tester des contre-mesures (garde-fous applicatifs, validation des sorties, sandboxing des outils, gestion fine des permissions).
• Évaluer l'efficacité des contre-mesures mises en place et mesurer la réduction du risque résiduel.
• Documenter un cadre de sécurisation opérationnel réutilisable et rédiger un rapport de recommandations.

Formation : Master ou diplôme d’Ingénieur en Sécurité informatique, Ingénierie informatique, Intelligence Artificielle ou dans une spécialité équivalente.

Compétences : Bonnes connaissances en cybersécurité, avec un intérêt pour la sécurité des systèmes d’information et des systèmes basés sur l’intelligence artificielle.