Skip to content
Press ReleasesSubmit a releaseSign in
Colour theme
Nigeria WireBusiness and community news from across Nigeria

SyndicatedCommunity

Des soins de santé plus intelligents, mais des résultats inégaux ? Les risques de l'IA en Afrique australe

Depuis des générations, le stéthoscope incarne l'examen médical. Le médecin s'en sert pour écouter le corps, interprétant des sons parfois imperceptibles pour établir un diagnostic. L'IA appliquée à la santé promet une autre forme d'écoute.

Depuis des générations, le stéthoscope incarne l'examen médical. Le médecin s'en sert pour écouter le corps, interprétant des sons parfois imperceptibles pour établir un diagnostic. L'IA appliquée à la santé promet une autre forme d'écoute.

En Afrique du Sud, des unités médicales mobiles utilisent l’intelligence artificielle (IA) pour examiner des radiographies thoraciques pour détecter d'éventuels signes de tuberculose (TB). Une étude menée dans les zones rurales de la province du KwaZulu-Natal a utilisé cette approche pour dépister près de 10 000 personnes.

Cette technologie est également utilisée à une échelle bien plus grande. Les chiffres présentés par le Partenariat « Stop TB » en décembre 2024 ont montré qu’un programme sud-africain intégrant un dépistage par radiographie thoracique assisté par IA avait permis de dépister plus de 450 000 personnes grâce à 33 unités médicales mobiles réparties dans tout le pays.

Au Zimbabwe, une technologie similaire est utilisée dans les communautés minières pour dépister la silicose, une maladie pulmonaire associée à l’exposition à la poussière de silice.

Ces nouveaux outils s’appuient sur des tendances observées dans les dossiers médicaux, les résultats de laboratoire et les données démographiques. C’est là tout le potentiel d’une santé plus intelligente. Mais quels besoins de santé ces systèmes prennent-ils en compte lorsque les données ne représentent pas tout le monde de manière équitable ?

Shiven Naidoo, doctorant en bioinformatique (utilisation des technologies informatiques pour collecter, stocker et analyser des données biologiques) à l’université du Witwatersrand, et moi-même avons exploré cette question dans notre récent travail de recherche.

La question à laquelle nous avons cherché à répondre était de savoir si les algorithmes (les règles utilisées par les systèmes d’IA pour transformer les données en prédictions ou en recommandations) renforcent involontairement les inégalités sanitaires existantes.

Nous avons développé un cadre conceptuel permettant d’examiner comment les populations sont représentées dans les données de santé. Nous avons également étudié la manière dont les algorithmes les classent et les hiérarchisent, ainsi que la façon dont ces classifications peuvent influencer l’accès aux soins de santé.

Nous avons constaté que les technologies de santé numériques risquent de renforcer les inégalités en matière de santé. Le problème commence par la question de savoir quelles informations sont collectées. Les patients issus de communautés rurales et disposant de peu de ressources peuvent être sous-représentés en raison d’un accès limité aux soins de santé, de dossiers médicaux incomplets et de systèmes numériques fragmentés.

Des systèmes d’information de santé déconnectés peuvent laisser les patients avec des antécédents médicaux incomplets, en particulier lorsqu’ils changent d’établissement ou de province.

Le problème s’étend également à la génétique. La plupart des recherches génomiques sur la manière dont l’ADN influence la santé se sont appuyées sur des données provenant de personnes d’ascendance européenne. Cela signifie que les outils utilisés pour prédire les risques de maladie peuvent être moins précis pour les populations africaines.

L’utilisation de données locales plus représentatives, la vérification régulière de ces systèmes pour détecter d’éventuels biais et l’implication des communautés concernées dans leur conception et leur évaluation peuvent contribuer à garantir que les avancées technologiques ne se fassent pas au détriment d’une santé équitable.

Par exemple, un outil de dépistage pourrait être testé à l’aide de données provenant des centres de santé en milieux rural et urbain où il sera utilisé. De tels tests pourraient révéler qu’un outil identifie avec précision la maladie dans une population, mais passe à côté d’un plus grand nombre de cas dans une autre en raison de différences dans les conditions de santé sous-jacentes ou dans la manière dont la maladie se manifeste.

Les chercheurs pourraient alors utiliser ces résultats pour affiner l’outil, ajuster ses critères de dépistage et le tester à nouveau afin de s’assurer qu’il fonctionne de manière fiable auprès de différentes populations de patients.

Gouverner par les données

Nous nous sommes appuyés sur le concept de « biopolitique » du philosophe français Michel Foucault. Cette approche examine comment les populations sont gouvernées par le biais de la mesure, de la régulation et de l’observation statistique.

Ce prisme nous a aidés à aller au-delà de la précision des données utilisées pour nous intéresser aux conséquences de la classification. Le fait de classer les personnes en catégories de risque, de vulnérabilité et de priorité peut influencer qui bénéficie d’une intervention et où les ressources sont allouées.

En Afrique australe, les disparités en matière d’infrastructures et l’inégalité d’accès aux soins déterminent quelles expériences sont intégrées dans les ensembles de données.

Mais la représentation n’est qu’un point de départ. Les critères utilisés par les systèmes d’IA pour évaluer les patients et allouer les ressources de santé peuvent également produire des résultats inégaux.

Notre article examine comment les algorithmes d’IA peuvent intégrer des critères de référence pour une santé « normale » qui marginalisent les personnes atteintes de maladies rares. Les critères utilisés pour hiérarchiser les patients peuvent de la même manière désavantager certains groupes au sein d’une population.

Une étude publiée en 2019 a révélé qu’un algorithme de santé utilisé aux États-Unis sous-estimait les besoins de santé des patients noirs, car il se basait sur les dépenses de santé pour évaluer les besoins médicaux. Comme, historiquement, les dépenses consacrées aux soins des patients noirs présentant des besoins de santé comparables étaient moins élevées, le système leur attribuait des scores de risque plus faibles. Ils avaient donc moins de chances d’être identifiés comme nécessitant des soins supplémentaires.

La préoccupation va au-delà de la question de savoir qui est représenté dans les données. Elle s’étend aux hypothèses qui déterminent la manière dont les données sont interprétées et utilisées.

Qui est représenté dans les données ?

Une grande partie des données génomiques sur lesquelles s’appuient les technologies de santé de pointe provient de populations européennes. Les populations africaines restent nettement sous-représentées.

Les scores de risque polygéniques en illustrent les conséquences. Ces outils utilisent des informations génétiques pour estimer le risque de maladie.

Les scores élaborés principalement à partir de données génétiques européennes peuvent s’avérer peu performants chez les populations africaines noires. Cela limite leur utilité clinique.

Notre analyse examine également qui dispose des infrastructures nécessaires pour produire ces données. La surveillance génomique des agents pathogènes utilise le séquençage et l’analyse pour suivre l’évolution et la propagation des organismes pathogènes. Elle dépend des capacités de séquençage, des infrastructures numériques et de l’expertise spécialisée.

Ces ressources sont concentrées dans les grands centres. Par conséquent, les échantillons provenant d’épidémies survenant dans des communautés moins bien équipées peuvent être séquencés tardivement, voire pas du tout. De ce fait, d’importants schémas de transmission restent mal compris. Lors de l’épidémie d’Ebola de 2013 à 2016 en Afrique de l’Ouest, par exemple, une interruption du séquençage du génome viral a fait que certains échantillons n’ont été analysés que plus tard.

Cela a limité la possibilité d’utiliser des preuves génétiques pour suivre en temps réel la propagation du virus entre les communautés. Ces informations auraient pu aider les autorités sanitaires à identifier plus tôt les chaînes de transmission et à cibler plus efficacement les efforts de surveillance et d’isolement.

Ces exemples concernent des technologies différentes. Mais ils illustrent un problème commun. Les inégalités en matière de capacité à générer et à analyser des données peuvent déterminer quels besoins de santé sont pris en compte par les systèmes numériques.

Quand l’efficacité masque l’exclusion

Nous avons également examiné comment les lacunes dans les données et les hypothèses sous-jacentes à leur utilisation peuvent influencer les prévisions et les décisions relatives à l’allocation des ressources.

Les mesures agrégées de vulnérabilité peuvent masquer les différences au sein des communautés. Des données qui sous-représentent les zones rurales ou qui ne reflètent pas correctement les conditions de vie dans les quartiers informels peuvent faire passer inaperçus certains besoins particuliers.

Par exemple, une communauté dont les dossiers sont incomplets peut sembler présenter des besoins sanitaires moindres. Un patient se déplaçant d’une province à l’autre peut voir son dossier médical fragmenté. Un centre de santé disposant d’une connexion Internet insuffisante peut générer des données moins exploitables.

Un traitement plus efficace des données disponibles ne peut, à lui seul, combler ces lacunes.

Une évaluation apparemment objective des besoins sanitaires peut en réalité refléter qui est en mesure de se rendre dans les cliniques, quels dossiers sont complets et quels établissements disposent d’une infrastructure numérique opérationnelle.

Quelles conclusions tirer de cette analyse ?

Les décisions relatives à l’adoption des technologies de santé basées sur l’IA doivent prendre en compte l’équité au même titre que les performances cliniques et les coûts. Les évaluations des technologies de santé doivent examiner qui est représenté, qui risque d’être défavorisé et si la gouvernance des données reflète les priorités locales.

Nous proposons également des audits réguliers, des processus décisionnels transparents et la participation des communautés à la conception et à l’évaluation.

Le renforcement de la gouvernance de la recherche en Afrique constitue un autre volet de la réponse. Les principes de supervision locale, de consentement inclusif et d’utilisation équitable des données devraient également guider la manière dont les technologies d’IA appliquées aux soins de santé sont évaluées et adoptées.

Des soins de santé équitables exigent un examen minutieux de l’ensemble du parcours, de la collecte des données à leur classification et à l’intervention. La question n’est pas simplement de savoir si l’IA traite efficacement les données de santé, mais plutôt de déterminer quels besoins elle identifie et comment cette identification façonne l’accès aux soins de santé.

Rennie Naidoo does not work for, consult, own shares in or receive funding from any company or organisation that would benefit from this article, and has disclosed no relevant affiliations beyond their academic appointment.

ShareX (opens in a new tab)LinkedIn (opens in a new tab)Facebook (opens in a new tab)Email (opens in a new tab)

More from this newsroom