UnitedHealthcare, la plus grande compagnie d’assurance maladie aux États-Unis, utiliserait un algorithme d’IA profondément défectueux pour passer outre les jugements des médecins et refuser à tort une couverture santé essentielle aux patients âgés. Cela a eu pour conséquence que les patients ont été expulsés beaucoup trop tôt des programmes de réadaptation et des établissements de soins, les obligeant à puiser dans leurs économies pour obtenir les soins nécessaires qui devraient être couverts par leur plan Medicare Advantage financé par le gouvernement.

C’est tout ce qui ressort d’un procès déposé cette semaine devant le tribunal de district américain du district du Minnesota. Le procès est intenté par les successions de deux personnes décédées qui se sont vu refuser une couverture santé par UnitedHealth. La poursuite vise également à obtenir le statut de recours collectif pour des personnes dans une situation similaire, qui pourraient être des dizaines de milliers à travers le pays.

Le procès se déroule parallèlement à une enquête menée par Stat News qui soutient largement les affirmations du procès. Les conclusions de l’enquête proviennent de documents et de communications internes obtenus par le média, ainsi que d’entretiens avec d’anciens employés de NaviHealth, la filiale de UnitedHealth qui a développé l’algorithme d’IA appelé nH Predict.

« À la fin de mon séjour chez NaviHealth, j’ai réalisé : je ne suis pas un défenseur, je suis juste une source d’argent pour cette entreprise », a déclaré à Stat Amber Lynch, ergothérapeute et ancienne responsable de cas de NaviHealth. « Tout est question d’argent et de données », a-t-elle ajouté. « Cela enlève la dignité au patient, et je détestais ça. »

Refus basés sur l’IA

Selon le procès, UnitedHealth a commencé à utiliser nH Predict au moins en novembre 2019, et il est toujours utilisé. L’algorithme estime la quantité de soins post-aigus dont un patient bénéficiant d’un plan Medicare Advantage aura besoin après une blessure, une maladie ou un événement aigu, comme une chute ou un accident vasculaire cérébral. Les soins post-aigus peuvent inclure des éléments tels que la thérapie et les soins qualifiés dispensés par des agences de santé à domicile, des maisons de retraite qualifiées et des centres de réadaptation pour patients hospitalisés.

On ne sait pas exactement comment fonctionne nH Predict, mais il estimerait les soins post-aigus en extrayant des informations d’une base de données contenant des cas médicaux de 6 millions de patients. Les gestionnaires de cas NaviHealth intègrent certaines informations sur un patient donné, notamment son âge, sa situation de vie et ses fonctions physiques, et l’algorithme d’IA génère des estimations basées sur des patients similaires dans la base de données. L’algorithme estime les besoins médicaux, la durée du séjour et la date de sortie.

Mais Lynch a noté à Stat que l’algorithme ne prend pas en compte de nombreux facteurs pertinents dans la santé et le temps de récupération d’un patient, y compris les comorbidités et les événements qui surviennent pendant les séjours, comme s’ils développent une pneumonie à l’hôpital ou s’ils contractent le COVID-19 en soins infirmiers. maison.

Selon l’enquête de Stat et le procès, les estimations sont souvent draconiennes. Par exemple, dans le cadre d’un plan Medicare Advantage, les patients qui restent à l’hôpital pendant trois jours ont généralement droit à jusqu’à 100 jours de soins couverts dans une maison de retraite. Mais avec nH Predict, les patients restent rarement dans les maisons de retraite pendant plus de 14 jours avant de recevoir des refus de paiement de UnitedHealth.

Lorsque des patients ou leurs médecins ont demandé à consulter les rapports de nH Predict, UnitedHealth a rejeté leurs demandes, leur disant que les informations étaient exclusives, selon le procès. Et lorsque les médecins prescripteurs ne sont pas d’accord avec la détermination de UnitedHealth quant au niveau de soins post-aigus dont leurs patients ont besoin, leurs jugements sont annulés.

Des échecs favorables

L’utilisation d’une IA défectueuse n’est pas nouvelle pour le secteur des soins de santé. Alors que les chatbots IA et les générateurs d’images font actuellement la une des journaux et suscitent l’inquiétude, le secteur de la santé aux États-Unis a un historique plus ancien d’utilisation problématique de l’IA, notamment l’établissement de préjugés raciaux algorithmiques dans les soins aux patients. Mais ce qui distingue cette situation, c’est que les estimations douteuses émises par nH Predict semblent être une fonctionnalité, et non un bug, pour UnitedHealth.

Depuis que UnitedHealth a acquis NaviHealth en 2020, d’anciens employés ont déclaré à Stat que l’accent de l’entreprise était passé de la défense des patients aux mesures de performance et au maintien des soins post-aigus aussi courts et allégés que possible. Diverses déclarations des dirigeants de UnitedHealth ont fait écho à ce changement, a noté Stat. En particulier, le directeur de UnitedHealth supervisant NaviHealth, Patrick Conway, a été cité dans un podcast de l’entreprise disant : « Si [people] aller dans une maison de retraite, comment faire pour les faire sortir le plus rapidement possible ? »