ChatGPT Health a détecté une insuffisance respiratoire. Puis il a dit d'attendre.

#Le système voit le danger — et te dit de patienter

Imagine : tu es asthmatique, ta respiration se dégrade depuis plusieurs heures. Tu ouvres ChatGPT Health, l'outil santé d'OpenAI lancé en janvier 2026. Tu décris tes symptômes. L'IA analyse la situation, identifie des signes précoces d'insuffisance respiratoire dans son explication... puis te recommande d'attendre et de surveiller l'évolution.

C'est exactement ce que des chercheurs de Mount Sinai ont observé dans la première évaluation indépendante de sécurité de ChatGPT Health, publiée dans Nature Medicine le 23 février 2026.

Le résultat central : dans plus de la moitié des urgences médicales, l'IA a recommandé de différer les soins plutôt que d'aller aux urgences.

#ChatGPT Health, c'est quoi ?

Avant de plonger dans l'étude, un peu de contexte. ChatGPT Health est un espace dédié dans ChatGPT pour les questions de santé. Tu peux y connecter tes données médicales — dossiers hospitaliers, Apple Health, MyFitnessPal — pour que l'IA donne des réponses personnalisées.

OpenAI a travaillé deux ans avec plus de 260 médecins pour le développer. L'outil est explicitement présenté comme un complément, pas un remplacement de l'avis médical. Il est conçu pour t'aider à préparer un rendez-vous ou comprendre des résultats d'analyse, pas pour diagnostiquer.

Mais quand des millions de personnes l'utilisent pour décider si elles doivent aller aux urgences... la distinction théorique entre "complément" et "diagnostic" s'efface vite.

#L'étude : 960 scénarios, 21 spécialités

L'équipe de recherche menée par le Dr Ashwin Ramaswamy a conçu un protocole rigoureux.

60 scénarios cliniques ont été rédigés par des médecins, couvrant 21 spécialités médicales — de la cardiologie à la psychiatrie. Chaque scénario a été testé sous 16 conditions différentes : variations de genre, d'origine ethnique, présence de commentaires de proches, barrières d'accès aux soins.

Au total : 960 interactions avec ChatGPT Health.

Pour chaque scénario, trois médecins indépendants ont déterminé le niveau d'urgence correct en se basant sur les recommandations de 56 sociétés médicales. C'est ce "gold standard" qui a servi de référence.

#Les chiffres qui font mal

#52% des urgences ignorées

Parmi les cas que les médecins considèrent comme des urgences nécessitant une visite immédiate aux urgences, ChatGPT Health a recommandé de différer les soins dans 52% des cas — typiquement une consultation dans les 24 à 48 heures au lieu d'un passage aux urgences.

Des patients simulés avec une acidocétose diabétique (une complication potentiellement mortelle du diabète) ou une insuffisance respiratoire imminente se sont vu recommander d'attendre.

À l'inverse, l'IA a correctement identifié les urgences "classiques" — AVC avec symptômes évidents, anaphylaxie sévère — avec un taux de réussite bien meilleur.

#65% des cas non-urgents surévalués

Le problème fonctionne aussi dans l'autre sens. Dans 65% des cas où une simple visite chez le médecin suffisait, ChatGPT Health a recommandé les urgences. Un patient avec un simple mal de gorge de trois jours a été envoyé consulter sous 24-48h alors qu'un traitement à domicile était approprié.

#Le pattern en U inversé

Les chercheurs décrivent un pattern de performance en U inversé. L'IA fonctionne bien pour les cas intermédiaires — ni trop graves, ni trop bénins. Mais elle échoue aux deux extrêmes :

• Cas non-urgents : surévaluation dans 35% des cas
• Cas d'urgence : sous-évaluation dans 48% des cas

C'est exactement le profil de risque le plus dangereux possible. Le système est le moins fiable là où les erreurs ont le plus de conséquences.

#Le cas de l'insuffisance respiratoire

Le cas le plus frappant de l'étude concerne un scénario d'asthme sévère. ChatGPT Health a analysé les symptômes du patient et — dans son explication détaillée — a correctement identifié les signes avant-coureurs d'une insuffisance respiratoire.

Puis, dans sa recommandation finale, il a conseillé de surveiller l'évolution plutôt que d'aller aux urgences.

Le Dr Ramaswamy résume la contradiction :

"N'importe quel médecin, n'importe quelle personne ayant suivi une formation médicale même minimale, dirait que ce patient doit aller aux urgences."

Le système semblait attendre que l'urgence devienne indéniable avant de recommander les urgences. C'est exactement l'inverse de ce qu'on attend d'un outil de triage : le but est d'intervenir avant que la situation ne dégénère, pas après.

#Quand l'entourage dit "c'est rien", l'IA suit

L'un des résultats les plus troublants de l'étude concerne l'influence du contexte social sur les recommandations de l'IA.

Les chercheurs ont ajouté des commentaires de proches dans certains scénarios — du type "c'est sûrement rien de grave" ou "tu t'inquiètes pour rien". Un phénomène courant dans les vraies situations d'urgence, où l'entourage minimise souvent les symptômes.

Le résultat : quand un proche minimisait les symptômes, les recommandations de ChatGPT Health basculaient vers des soins moins urgents avec un odds ratio de 11,7. En clair, la présence d'un commentaire rassurant d'un proche rendait l'IA presque 12 fois plus susceptible de sous-évaluer la gravité.

C'est ce que les chercheurs appellent un biais d'ancrage : l'IA se laisse influencer par le contexte social au détriment des indicateurs cliniques objectifs. N'importe quel médecin urgentiste te dira que les proches ne sont pas une source fiable pour évaluer la gravité d'une situation — mais ChatGPT Health leur accorde un poids considérable.

#Les alertes suicide inversées

Un résultat particulièrement alarmant concerne les garde-fous pour le risque suicidaire. ChatGPT Health intègre des alertes qui orientent vers le 988 (la ligne de prévention du suicide aux États-Unis).

Le Dr Girish Nadkarni, co-auteur de l'étude, décrit le problème :

"Les alertes du système étaient inversées par rapport au risque clinique — elles apparaissaient plus souvent dans les scénarios à faible risque que dans les cas où l'utilisateur décrivait un plan précis pour se faire du mal."

Le garde-fou se déclenche quand il n'est pas nécessaire, et reste silencieux quand il l'est.

#Ce que ça révèle sur l'IA médicale

#Le problème de la nuance clinique

ChatGPT Health excelle sur les urgences "évidentes" — symptômes d'AVC, réaction allergique sévère. Ce sont des patterns clairs, bien documentés, faciles à reconnaître.

Mais la médecine d'urgence repose largement sur la nuance. L'insuffisance respiratoire qui s'installe progressivement. L'acidocétose diabétique dont les premiers signes ressemblent à une gastro. Le facteur temps qui transforme une situation gérable en urgence vitale.

C'est précisément dans cette zone grise que l'IA échoue — et c'est là que les conséquences d'une erreur sont les plus graves.

#Le piège du langage

L'étude NPR citée en parallèle révèle un autre problème fondamental. Dans un scénario, un patient décrivant "le pire mal de tête de sa vie" a été correctement orienté vers les urgences. Un autre patient avec exactement les mêmes symptômes mais une formulation différente a reçu le conseil de prendre de l'aspirine à la maison.

La condition sous-jacente était la même — et potentiellement mortelle. Mais la manière dont le patient décrit ses symptômes change radicalement la recommandation.

Le chercheur Andrew Bean d'Oxford souligne le paradoxe : "Les gens ne savent pas ce qu'ils sont censés dire au modèle." Un médecin pose des questions ciblées pour explorer les symptômes que le patient omet — l'IA, elle, travaille uniquement avec ce qu'on lui donne.

#Les leçons pour l'IA en santé

#1. Tester avant de déployer à grande échelle

L'étude de Mount Sinai est la première évaluation indépendante de ChatGPT Health. L'outil a été lancé en janvier 2026 et touche déjà des millions d'utilisateurs. La recherche n'est arrivée qu'un mois plus tard.

Comme le souligne le Dr John Mafi : "Avant de déployer un outil comme celui-ci pour des décisions qui affectent des vies, il faut le tester rigoureusement dans des essais contrôlés."

#2. Ne pas confondre identification et recommandation

Le cas de l'insuffisance respiratoire est emblématique : le système sait que la situation est dangereuse, mais ne recommande pas l'action appropriée. Il y a un fossé entre comprendre un problème et agir en conséquence — un fossé que les systèmes d'IA actuels ne comblent pas de manière fiable.

#3. L'IA médicale comme complément, jamais comme substitut

Les experts s'accordent sur un usage optimal de l'IA en santé :

• Avant un rendez-vous médical : préparer ses questions, comprendre un diagnostic
• Après une consultation : clarifier ce que le médecin a expliqué
• Jamais comme unique source de décision en situation d'urgence

#4. La sécurité comme problème d'architecture

Ce constat rejoint les recherches d'Anthropic sur le désalignement agentique : la sécurité d'un système ne peut pas reposer uniquement sur les capacités du modèle. Elle doit être structurelle — garde-fous techniques, validation humaine, limites d'action claires.

Un chatbot médical qui peut dire "attendez" quand la bonne réponse est "allez aux urgences maintenant" a besoin de mécanismes de sécurité au-delà du modèle lui-même.

#Ce qu'il faut retenir

ChatGPT Health illustre un problème fondamental de l'IA déployée à grande échelle : les cas faciles sont bien gérés, mais les cas critiques — ceux où les erreurs tuent — sont les moins fiables.

L'étude de Nature Medicine ne dit pas que l'IA n'a pas sa place en santé. Elle dit que le déploiement massif d'un outil de triage médical sans évaluation indépendante préalable pose un risque réel pour la sécurité des patients.

Trois chiffres à retenir :

• 52% des urgences sous-évaluées
• 11,7x plus d'influence du contexte social que des indicateurs cliniques
• 0 évaluation indépendante avant le lancement

La prochaine fois que tu utilises un chatbot pour une question de santé, rappelle-toi : le système peut identifier le problème et quand même te donner le mauvais conseil. En cas de doute sur une urgence, appelle le 15 (SAMU) ou le 112. L'IA ne remplace pas un médecin — surtout quand chaque minute compte.