美国最大的医疗保险公司联合健康保险公司（UnitedHealthcare）因声称其使用了有缺陷的人工智能模型而遭到起诉。据说，该系统错误地拒绝为危重老年患者提供医疗保险，并且不同意医生的判断。

这起向美国明尼苏达州地方法院提起的诉讼来自两名现已去世的男子的家人，这两名男子需要在急性病后机构接受长期护理。这些人的家属在他们去世前被迫自掏腰包为他们的治疗和护理共支付了 21 万美元。

诉讼称，UnitedHealth 一再错误地拒绝支付这两位老人的医疗索赔，他们使用的是医疗保险优势计划（Medicare Advantage Plans）。诉讼还称，此类事件至少从 2020 年联合健康保险公司收购急性期后护理管理公司 Navihealth 开始就一直存在。

该诉讼是在 Stat News 网站对 Navihealth 开发的一种名为 nH Predict 的人工智能算法的使用情况进行调查之后提起的。该算法用于预测患者在急性损伤、疾病或事件后将在康复中心停留多长时间。急性病后护理包括疗养院和康复中心。据报道，该算法通过检查来自 600 万患者的医疗病例数据库，估算出患者的医疗需求和住院时间。

诉讼称，该人工智能系统的错误率高达 90%，并推翻了医生的急性期后护理意见。诉讼还称，nH Predict 没有考虑到患者的个人需求，如合并症（患有多种疾病）和在住院期间感染疾病。诉讼中另一个令人震惊的部分称，虽然只有少数患者对基于 nH Predict 估计值的承保拒绝提出上诉，但其中 90% 以上的上诉都通过内部上诉程序或联邦行政法官程序被推翻。

"根据医疗保险优势计划，住院三天的患者通常有权在疗养院居住长达 100 天，"诉讼援引 Stat 的调查称。"使用 nH Predict AI 模型后，[UnitedHealthcare] 只用了一小部分时间就切断了付款。患者在疗养院的住院时间很少超过 14 天，然后就会开始收到拒绝付款的通知"。

NaviHealth 的前员工告诉 Stat，UnitedHealth 接管后，工作重心从帮助患者转移到了保持利润和尽可能缩短后期护理时间上。该公司的播客引用了负责监管 NaviHealth 的 UnitedHealth 高管 Patrick Conway 的一段话："如果[人们]去了疗养院，我们如何让他们尽快出院？"

nH Predict 至今仍在使用。UnitedHealth 的子公司 Optum Health 表示："NaviHealth 预测工具不是用来确定承保范围的。该工具被用作一种指南，帮助我们告知医疗服务提供者、家属和其他护理人员，病人在医疗机构和回家后可能需要什么样的帮助和护理。承保决定基于 CMS 承保标准和会员计划的条款。这起诉讼毫无根据，我们将积极为自己辩护。"