Le rapport de la commission « IA générative et vulnérabilités », remis le 10 novembre 2026 au président Emmanuel Macron à l'Élysée, recommande de soumettre les systèmes d'IA générative à des évaluations indépendantes avant et après leur mise sur le marché. Intitulé « Protéger sans empêcher : les vulnérabilités à l'ère de l'IA générative », il contient 18 recommandations et pourrait concerner des services comme ChatGPT ou Gemini.

Ces propositions restent à ce stade des recommandations d'experts, pas des décisions du gouvernement. La commission a été constituée par le Conseil de l'intelligence artificielle et du numérique (CIANum), saisi en février 2026 par la ministre déléguée chargée de l'Intelligence artificielle et du Numérique, Anne Le Hénanff. Le sujet touche directement ChatGPT et Gemini, deux des assistants les plus utilisés par le grand public.

Qui a rédigé le rapport sur l'IA générative et les vulnérabilités ?

Le groupe de travail réunit neuf experts pluridisciplinaires et indépendants, selon l'Élysée. Il est piloté par Serena Villata, chercheuse en intelligence artificielle, et par deux psychiatres, Raphaël Gaillard et Amine Benyamina.

La présence de deux psychiatres à sa tête donne le ton du rapport. Il s'intéresse moins à la performance des modèles qu'à leurs effets sur les utilisateurs, notamment les plus fragiles, et aux risques cognitifs d'un usage intensif.

Examen avant commercialisation : ce que recommande la commission

L'examen des systèmes d'IA générative avant leur commercialisation est l'une des 18 recommandations du rapport. La commission demande des évaluations indépendantes avant et après la mise sur le marché, ainsi qu'un accès des autorités et des chercheurs agréés aux données d'entraînement, d'usage et de monétisation des modèles.

Amine Benyamina défend l'idée d'une « autorisation de mise sur le marché » comparable à celle du médicament. Le rapport vise aussi les techniques qui exploitent les vulnérabilités des utilisateurs pour favoriser l'engagement ou la dépendance, notamment la flagornerie, c'est-à-dire la tendance d'un chatbot à toujours aller dans le sens de son interlocuteur.

Le périmètre couvre les chatbots grand public en général, pas seulement ChatGPT et Gemini. Les recommandations ne fixent pas de calendrier.

Pourquoi les experts s'inquiètent des usages de l'IA générative ?

L'inquiétude des experts de la commission porte sur l'attention et la dépendance que provoquent les assistants d'IA générative. Selon l'Élysée, ces outils comptaient 33 millions d'utilisateurs uniques en France en début d'année, et 92 % des adolescents français déclarent passer plus de temps qu'ils ne le veulent sur les applications d'IA.

Raphaël Gaillard décrit un « système disponible en permanence, qui n'a pas d'autre intention que de vous garder en ligne ». Amine Benyamina parle de son côté d'une « dette cognitive ». Ces propos sont des déclarations de membres de la commission.

L'examen de ChatGPT et Gemini est-il déjà obligatoire ?

L'examen de ChatGPT et de Gemini avant commercialisation n'est pas une obligation à ce jour. Seule l'adoption d'un texte donnerait une force contraignante aux recommandations de la commission, et une partie d'entre elles relève de l'échelon européen.

Le cadre européen évolue déjà : un règlement récent ajoute deux pratiques interdites à l'article 5 du règlement sur l'IA, les images intimes non consenties et les contenus pédocriminels. En France, le rapport prolonge les réflexions d'Emmanuel Macron sur le numérique et les démocraties, après un rapport parlementaire de 2017, « Pour une intelligence artificielle maîtrisée, utile et démystifiée », présenté par Claude de Ganay et Dominique Gillot.

Le gouvernement n'a pas indiqué à ce stade quelles recommandations il retiendrait.