Gérer les risques de l'intelligence artificielle pour une sécurité optimale

• À l'issue de la formation Sécurité de l'intelligence artificielle : enjeux, risques et bonnes pratiques, le participant sera en mesure de :
• Analyser les enjeux spécifiques et les défis de la sécurité dans le domaine de l'intelligence artificielle.
• Évaluer les impacts potentiels et les conséquences des vulnérabilités de l'IA sur les systèmes informatiques.
• Distinguer les différentes formes d'attaques liées à l'intelligence artificielle et anticiper leurs effets sur la sécurité des systèmes.
• Appliquer les méthodes et les bonnes pratiques de sécurisation d'un projet ou d'une application d'IA, en tenant compte des contextes spécifiques.
• Utiliser l'IA générative comme outil de renforcement de la cybersécurité, en comprenant ses avantages et ses limites.

1. SÉCURITÉ DE L’IA : ENJEUX MAJEURS ET DÉFIS À RELEVER

• Introduction aux concepts clés de l'IA : IA générative, API, machine learning et deep learning
• Comprendre l'impact stratégique de l'IA et les défis en matière de sécurité
• Identifier les risques : cyberattaques, biais algorithmiques et modèles d’IA
• Approche globale de la sécurité de l’IA : dimensions techniques, juridiques, organisationnelles et éthiques

2. NOUVELLES MENACES ET CYBERATTAQUES

• Les techniques d'ingénierie sociale et la fraude assistée par IA
• Les malwares génératifs et les malwares polymorphes
• Les attaques sur les systèmes d’authentification
• La découverte automatisée de vulnérabilités et l'exploitation de vulnérabilités zero-day

3. VULNÉRABILITÉS DES SYSTÈMES D’IA

• Les attaques sur les interactions et sur l'intégrité des données
• Les attaques sur la confidentialité et la propriété intellectuelle
• Les attaques sur les mécanismes d'apprentissage et de prise de décision
• Les attaques sur les modèles et sur les infrastructures

4. GESTION DES RISQUES DANS LES PROJETS D’INTELLIGENCE ARTIFICIELLE

• La cartographie des risques et la taxonomie des menaces
• Les référentiels de gestion des risques
• La protection des données personnelles et l'évaluation d’impact sur la vie privée
• Le traitement des risques : mesures techniques et organisationnelles

5. SÉCURITÉ DES APPLICATIONS IA

• Les principes généraux de sécurité des applications d’IA
• La sécurité des modèles et des algorithmes
• La sécurité des infrastructures et des APIs

6. SÉCURISER L’USAGE DE L’IA GÉNÉRATIVE EN ENTREPRISE

• Identifier et comprendre les risques liés à l’usage de l’IA générative
• Définition d’une politique d’usage des IA génératives en entreprise
• Sensibilisation et gouvernance de l’usage de l’IA en entreprise
• Les bonnes pratiques pour un usage sécurisé

7. AUDIT, TRANSPARENCE ET ÉVALUATION DE LA SÉCURITÉ DES SYSTÈMES IA

• La conformité et les audits des systèmes IA
• La transparence et l'explicabilité des modèles IA
• La validation de l'équité des modèles IA et la gestion des dérives dans le temps

8. EXPLOITER L’IA GÉNÉRATIVE DANS LA CYBERSÉCURITÉ

• La gouvernance et la gestion des risques (GRC)
• Le support au développement et à la sécurisation des applications
• Le renforcement des capacités de détection et de réponse aux incidents
• La cybersurveillance et le renseignement sur les menaces (Threat Intelligence)
• L'assistance à la conformité réglementaire
• L'intégration de l’IA dans les solutions de cybersécurité