En 2018, j’écrivais déjà que « l’InclusiveCoding ne devrait pas être négociable ». On pouvait encore me répondre que j’exagérais, que l’algorithmique n’était qu’un outil neutre, que les biais venaient « des humains, pas des machines ». Huit ans plus tard, une nouvelle étude sur les systèmes de triage médical à base de grands modèles de langage — Gender-Dependent Diagnostic Substitution in LLM Medical Triage: Same Symptoms, Unequal Urgency — vient confirmer, de manière glaçante, ce que je craignais : quand on code sans diversité, on industrialise les angles morts.
Et cette fois, ce ne sont pas seulement des biais dans un moteur de recommandation ou une banque d’images, mais des décisions qui peuvent littéralement déterminer qui arrive aux urgences… et qui n’y arrive pas.
Retour en 2018 : pourquoi l’InclusiveCoding n’était « pas négociable »
Quand a été défendue l’idée que l’algorithmique inclusive n’était pas une option mais une exigence, le point de départ était simple : un algorithme n’est jamais plus neutre que les personnes, les données et les organisations qui le produisent. Cette intuition traverse déjà « l’InclusiveCoding ne devrait pas être négociable » et sera prolongée plus tard dans « InclusiveCoding, plus que jamais d’actualité ».
À l’époque, trois idées centrales apparaissaient déjà :
- Qui code compte autant que ce qui est codé.
- Comment on code est politique.
- Pour qui on code détermine qui paie le prix des erreurs.
En 2019, le billet « Diversité : Broadly propose une nouvelle banque d’image inclusive » montrait déjà que les jeux de données et les représentations ne sont jamais anodins. En 2018, « 5 raisons de favoriser la diversité et l’inclusion dans vos équipes » défendait aussi l’idée que la diversité n’est pas seulement morale ou symbolique, mais qu’elle améliore la qualité des décisions collectives.
Tout cela pouvait encore sembler théorique. L’étude de 2026 sur le triage médical transforme brutalement ce débat en enjeu de sécurité des soins.
Une étude qui donne des sueurs froides
L’étude Gender-Dependent Diagnostic Substitution in LLM Medical Triage: Same Symptoms, Unequal Urgency examine le comportement de trois LLM de triage médical face à un même scénario neurologique sévère, décliné selon différents profils démographiques. Le protocole compare des versions du même cas clinique selon l’âge et le genre, avec 30 essais par combinaison, pour un total de 630 tests.
Le résultat principal est net : pour les jeunes femmes, les modèles recommandent beaucoup moins souvent un passage aux urgences que pour les hommes du même âge, alors même qu’ils évaluent la gravité du tableau à un niveau comparable, autour de 7 à 9 sur 10. L’écart observé disparaît largement chez les patients plus âgés, ce qui renforce l’idée d’un biais spécifique touchant les femmes jeunes.
Quand le diagnostic change… et l’urgence avec
Les auteurs montrent que le biais ne porte pas d’abord sur la gravité perçue, mais sur le diagnostic mis en avant. Chez les jeunes femmes, les modèles privilégient plus souvent l’hypertension intracrânienne idiopathique, tandis que chez les hommes ils évoquent davantage une lésion expansive ou une tumeur, ce qui entraîne des recommandations d’urgence différentes malgré des symptômes identiques.
C’est précisément ce mécanisme qui rend l’étude si importante : la machine ne dit pas seulement « ce cas est moins grave », elle reconfigure le sens clinique du cas en fonction du genre. Ce phénomène rejoint les constats de travaux plus larges montrant que les outils génératifs peuvent renforcer des biais historiques déjà présents dans la littérature et les pratiques médicales.
« Automatiser le problème » : la continuité avec les billets précédents
Le lien avec les billets publiés depuis 2018 est direct. Ce que cette étude révèle, c’est que les biais que l’on décrivait naguère comme des problèmes de conception deviennent, avec les LLM, des mécanismes industrialisés de décision.
Le fil rouge entre « l’InclusiveCoding ne devrait pas être négociable », « InclusiveCoding, plus que jamais d’actualité », le billet sur la banque d’images inclusive et le texte sur la diversité dans les équipes devient ici presque évident :
- des données historiques biaisées nourrissent les modèles ;
- des choix de design insuffisamment interrogés laissent les biais se transformer en décisions ;
- l’absence de diversité dans les équipes et les processus de validation réduit la capacité à détecter ces angles morts avant déploiement.
Autrement dit, ce qui était parfois présenté comme du militantisme ou de la vigilance excessive apparaît désormais comme une exigence de robustesse, de sécurité et de justice.
De la représentation à la sécurité des patientes
Le parallèle avec la question des images inclusives est éclairant. Dans un cas, des représentations homogènes imposent des normes culturelles étroites ; dans l’autre, des corpus médicaux et des raisonnements cliniques historiques apprennent aux modèles que certains symptômes n’ont pas tout à fait la même urgence selon le genre.
La différence, c’est qu’ici le coût de l’erreur peut être immédiat. Un système de triage déployé sans audit sérieux peut contribuer à éloigner des patientes d’une prise en charge urgente alors même que les signaux cliniques imposeraient la prudence maximale.
InclusiveCoding, version 2026
Cette étude rappelle qu’en santé, l’InclusiveCoding n’est plus un supplément d’âme. Elle devient une condition minimale de qualité des systèmes, ce qui implique des audits contre-factuels systématiques, une séparation plus stricte entre gravité, diagnostic et orientation, ainsi qu’une gouvernance associant experts techniques, soignants et personnes concernées.
Le débat sur la diversité dans les équipes, ouvert dans « 5 raisons de favoriser la diversité et l’inclusion dans vos équipes », ne relève donc plus seulement du management ou des RH. À l’ère des IA cliniques, il touche directement à la façon dont une société décide qui est cru, qui est pris au sérieux et qui est orienté à temps vers les soins.