La CNIL et le CIANum, le Conseil de l’IA et du Numérique, ont mené des réflexions sur l’utilisation de l’IA agentique au quotidien et les impacts sur la protection des données.
Mais au fait, qu’est ce que l’IA agentique ?
C’est une IA qui n’attend pas passivement des instructions. Elle agit de façon autonome et en continu en connectant plusieurs outils (e-mails, banques) pour gérer des tâches complexes.
Les travaux menés par la CNIL et le CIANum ont permis de recenser 4 types de risques :
• Des profils trop précis : L’IA retient tout sur les utilisateurs à long terme, ce qui fait perdre le contrôle des données.
• Des règles bafouées : Elle collecte trop d’infos, mélange les objectifs et propage parfois ses propres erreurs (hallucinations).
• Un flou juridique : Si l’IA fait une grave erreur (achat non voulu, fuite), on ne sait pas qui est responsable (créateur, utilisateur, etc…).
• Des failles de sécurité : Se connecter à plein d’outils tiers multiplie les risques de piratage.
Les pistes envisagées pour la maîtrise des données :
• Garder le contrôle : Obligation d’une validation humaine pour les choix critiques et création d’un bouton d’arrêt d’urgence (kill switch).
• Verrouiller la technique : Séparer la mémoire des robots, effacer automatiquement les vieilles données et isoler leur zone d’action (sandboxing).
• Clarifier la loi : Suivre les règles européennes attendues pour fin 2026.
Pour plus d’informations sur ces travaux, rdv sur le site de la CNIL à cet endroit : lien
