IA générative : un rapport remis à l’Élysée veut encadrer la flatterie des assistants

Le mardi 10 novembre 2026, la commission « IA générative et vulnérabilités » a remis au président de la République son rapport, intitulé « Protéger sans empêcher ». Il cible les assistants conversationnels, ces programmes comme ChatGPT qui répondent en langage courant. Ses 18 recommandations visent à protéger leurs utilisateurs, à commencer par les mineurs. Les experts veulent notamment encadrer la flagornerie de ces outils, leur tendance à flatter l’utilisateur, et les évaluer avant leur mise sur le marché.

Le 20 février 2026, la ministre déléguée chargée de l’Intelligence artificielle et du Numérique avait confié au Conseil de l’IA et du numérique (CIANum) la constitution de cette commission. Coprésidée par les psychiatres Amine Benyamina et Raphaël Gaillard et par la chercheuse en IA Serena Villata, elle réunit neuf experts. Elle a mené 55 auditions, notamment auprès de professionnels de santé, de la recherche publique et de l’enseignement supérieur. Son constat de départ : une adoption rapide et massive, avec 33 millions d’utilisateurs uniques en France en début d’année.

Dette cognitive et dépendance

Le danger est d’abord individuel. La synthèse publiée par le CIANum décrit une « dette cognitive » croissante : à force de déléguer sa réflexion à l’IA, l’utilisateur en devient dépendant. « Le premier enjeu est l’affaiblissement cognitif », résume Raphaël Gaillard. Le document cite des chercheurs du Massachusetts Institute of Technology (MIT) : confier des tâches d’écriture à un assistant réduirait l’amplitude cognitive de 55 %. Il rappelle aussi qu’il n’aura fallu que deux mois à ChatGPT pour atteindre 100 millions d’utilisateurs.

Le deuxième danger touche aux émotions. Les compagnons IA, ces personnages virtuels conçus pour converser comme un proche, exposent à un risque de dépendance émotionnelle. La commission la juge « amplifiée par ce qu’on appelle la flagornerie ». Les jeunes sont en première ligne : près de 70 % des 15-24 ans utilisent régulièrement l’IA générative. Et 92 % des adolescents avouent passer plus de temps qu’ils ne le souhaitent sur ces outils.

Contrôles, formation et publicité

Pour y répondre, les experts demandent d’encadrer strictement les mécanismes qui rendent les utilisateurs dépendants. Ils visent en priorité la flagornerie et l’anthropomorphisme excessif, cette tendance des machines à se présenter comme humaines. Les outils d’IA grand public devraient voir leurs effets évalués avant leur commercialisation, puis subir un contrôle renforcé. Le coprésident Amine Benyamina évoque même une autorisation de mise sur le marché, comme pour un médicament.

La commission réclame aussi un accès des autorités et des chercheurs agréés aux données d’entraînement, d’usage et de monétisation des modèles. Elle recommande de former massivement à l’IA, dès le plus jeune âge. L’État devrait enfin disposer d’un protocole interministériel, très rapide à activer, contre les manipulations de l’information. Amine Benyamina cite le précédent des élections législatives écossaises de mai 2026 : 35 % des informations diffusées par l’IA aux électeurs étaient erronées.

Dernier axe : l’argent. Amine Benyamina appelle à se méfier de la concentration de l’IA entre les mains de quelques grandes entreprises technologiques. Le rapport met en garde contre l’avènement d’une « économie de la cognition », où la pensée humaine deviendrait une source de valeur. Les publicités intégrées aux réponses des agents conversationnels en offrent un exemple, que nous avions examiné dans notre enquête sur ce que coûte vraiment ChatGPT gratuit.

Macron envisage des interdictions

Dans un entretien aux Échos, Emmanuel Macron s’est dit favorable à l’interdiction de certains usages de l’IA générative. Il vise en particulier ceux qui exposent les enfants à des contenus dangereux ou à des mécanismes de manipulation. Le président souhaite que les entreprises qui conçoivent ces modèles acceptent des évaluations préalables. Il entend aussi inciter d’autres pays, notamment les États-Unis et le Canada, à adopter des dispositifs similaires. Comme le relève Entrevue, les contours des interdictions et les moyens de vérifier l’âge des utilisateurs restent à définir.

Le lundi 9 novembre 2026, à la veille de la remise du rapport, l’Élysée avait fait signer un « appel de Paris » sur la sécurité de l’IA à dix entreprises du secteur. Parmi elles figurent OpenAI, Anthropic et le français Mistral. Le texte fixe trois priorités : se doter d’évaluateurs indépendants, adopter des standards d’évaluation et de signalement des incidents majeurs, clarifier la responsabilité des acteurs. Henry Papadatos, directeur exécutif de l’association SaferAI, y voit « un moment important pour la sécurité de l’IA ».

Ce n’est pas parce que c’est de l’IA que ce doit être le Far West

Ce rapport ne change rien dans l’immédiat : ses recommandations doivent encore être traduites en règles. À notre avis, les familles peuvent déjà en tirer des réflexes simples : parler avec les enfants de ce qu’ils confient à un assistant, et se méfier d’un outil qui approuve tout. Les TPE et les associations ont intérêt à savoir qui exploite leurs requêtes. Pour garder la main sur ses données, une IA installée sur son propre ordinateur avec des outils libres reste une piste sérieuse à étudier.