Cybersécurité et IA générative
Prix inter HT / stagiaire : 2400 €
Pré-requis :
- Bonnes bases en cybersécurité
- Connaissances générales en IA ou architectures logicielles modernes
- Lecture de code Python ou YAML utile (non indispensable)
Télécharger le plan
DETAILS DE LA FORMATION
Syllabus complet-
Comprendre les LLMs et les architectures agentiques
Rappels : LLMs, prompts, embeddings, context window
Architectures LangChain, CrewAI, AutoGen, Hugging Face Transformers
Chaînes, agents, tools, mémoire, exécution multi-agent
Cartographie des surfaces d’attaque dans un système LLM
Attaques sur l’entrée: prompt injection, jailbreak
Manipulation du contexte: prompt pollution, data poisoning
Tool misuse - usage malicieux d’outils exposés:
+ API non filtrée
+ exécution de code
+ accès web
Hijack d’agent ou de mémoire: state leakage, replay attack
Panorama des menaces réelles
Exemples concrets :
+ vol de données via prompt
+ désactivation de sécurité par agent
+ exfiltration d'informations
Études de cas :
+ ChatGPT
+ Plugins malveillants
+ Hallucinations exploitées
Risques directs: injection, fuite, contournement
Risques indirects: manipulation, désinformation
Sécuriser les entrées et les prompts
Techniques de sanitation et validation de prompt
Prompt templating sécurisé
Détection de patterns malveillants:
+ regex
+ scoring LLM
+ agents critiques)
Sécurisation des outils, agents et chaînes
Confinement des tools:
+ sandboxing
+ whitelisting
+ quota
Logs, audit, replay des agents
Limiter les agents autonomes :
+ contrôle par supervision
+ critic agents
+ throttle
Safe tool composition : gestion des dépendances entre agents
Détection et monitoring en environnement LLM
Outils d’observabilité:
+ LangSmith
+ TruLens
+ PromptLayer
+ Helicone
Journaux de prompt + outils utilisés + outputs générés
Détection d’anomalies dans les réponses:
+ exfiltration
+ non-conformité
+ hallucinations malicieuses
Atelier 1 : Cartographie des risques d’un système GenAI multi-agent
Étude d’un cas concret: chatbot ou agent multi-outils
Identification des points de vulnérabilité
Proposition de sécurisation:
+ pare-feu applicatif
+ journalisation
+ isolation
Gouvernance sécurité d’un système LLM/agentic
Politiques de droits, rôles et audit
Cycle de vie sécurisé d’un prompt / modèle / outil
Revue de sécurité en phase design:
+ menace, DPIA
+ logs, validation
Sécurité dans le cycle DevSecOps IA
Intégration de la sécurité dans la CI/CD de modèles ou d’agents
Testing des prompts, scoring automatique
Méthodologie de revue de chaîne (prompt → outil → réponse)
Outils de test de vulnérabilités spécifiques aux LLMs
Cadre réglementaire et souveraineté
RGPD appliqué aux systèmes LLM (traces, personnalisation, exécution)
IA Act : contraintes sur la sécurité et la robustesse des systèmes
Hébergement sécurisé:
+ cloud souverain
+ LLM self-hosted
+ vector stores chiffrés
Atelier final : Audit d’un système LLM/Agentic
Analyse complète d’un prototype avec LangChain ou AutoGen
Identification de vulnérabilités potentielles
Élaboration d’un plan de sécurisation
- Ce qui est inclus
-
+ Formateur expérimenté
+ 40% théorie, 60% pratique : cartographie, analyse, audit
+ Études de cas réels et attaques simulées
+ Post-formation : kit d’audit, modèles de politiques, checklists
+ Matrices de risques LLM/agent
+ Templates de politiques de sécurité
+ Exemples de journaux, outils de surveillance
+ Guides d’audit et scénarios d’attaque simulés
+ Diagrammes d’architectures sécurisées: tool wrapper, agent sandbox - Public concerné
-
+ RSSI
+ DevSecOps
+ Architectes sécurité
+ Équipes IT/IA/Data/ML Engineering
+ Juristes IT, auditeurs techniques, DPO - Certification et évaluation
-
En cours de formation, des travaux pratiques et études de cas sont proposés. Cette formation ne propose pas encore de certification.
AVANTAGES. TEMOIGNAGES
- Votre coach Reconvert.
- Pédagogie orientée pratique.
- Echanges interactifs.
- Communautés.
La qualité est excellente, l'enseignant crée un espace de confiance et rend la formation très agréable. J'ai adoré, le professeur et son cours sont très complets. La formation a été facile à comprendre et très dynamique. Le formateur est un excellent professeur.
J. Ruiz
The Moneytizer, Mexico
La formation avec vous était géniale. C'est super intéressant et très formateur. Actuellement je suis chez Micropole, en tant que Cloud & Big Data Engineer. Merci.
A. Chuttoo
Micropole, France
Ces 4 jours ont été enrichissants. Suite à la formation HTML puis CSS, celle de Javascript m'a apporté encore plus de connaissances et de compétences sur le sujet.
J. Salgueiro
The Moneytizer, Brazil
Autres références :
Cliquez sur le logo.
Capgemini Atos Allianz TheMoneytizer CPAM M2iFormation Global Knowledge Ikea Hewlett Packard Ministère de la Défense AKKA Ministère de l'intérieur AFP Enedis Viveris Titeflex Autres
DUREE (H)
Durée : 21 heures.
PRIX. DATES. RESERVER
- PRESENTIEL ou CLASSE VIRTUELLE
-
Diffusée en Présentiel ou en Classe Virtuelle, cette formation peut être faite soit en :
1- inter entreprise : avec des stagiaires de plusieurs entreprises,
2- intra entreprise : avec des stagiaires qui sont de la même entreprise.
Quelque soit la formule souhaitée, veuillez réservez un RDV téléphonique avec un conseiller en cliquant ci-dessous.
Prix inter HT / stagiaire : 2400 €
Autres formations
Python par la pratique
Apprendre par la pratique à programmer en langage Python.
Django : développement web en Python
Apprendre à développer des applications web en Python avec le framework Django.
MYSQL : prise en main et langage SQL
Ecrire et tester du SQL pour les données de votre application web.
PostgreSQL
Apprendre le langage SQL à travers le serveur de bases de données PostgreSQL.
Certification Python TOSA
Se préparer en pratique à passer la certification TOSA Python3.
Scraping Web en Python
Apprendre à extraire des données depuis un site web en utilisant des modules Python.