美國最大的醫療保險公司聯合健康保險公司（UnitedHealthcare）因聲稱其使用有缺陷的人工智能模型而遭到起訴。據說，該系統錯誤地拒絕為危重老年患者提供醫療保險，並且不同意醫生的判斷。
這起向美國明尼蘇達州地方法院提起的訴訟來自兩名現已去世的男子的傢人，這兩名男子需要在急性病後機構接受長期護理。這些人的傢屬在他們去世前被迫自掏腰包為他們的治療和護理共支付 21 萬美元。
訴訟稱，UnitedHealth 一再錯誤地拒絕支付這兩位老人的醫療索賠，他們使用的是醫療保險優勢計劃（Medicare Advantage Plans）。訴訟還稱，此類事件至少從 2020 年聯合健康保險公司收購急性期後護理管理公司 Navihealth 開始就一直存在。
該訴訟是在 Stat News 網站對 Navihealth 開發的一種名為 nH Predict 的人工智能算法的使用情況進行調查之後提起的。該算法用於預測患者在急性損傷、疾病或事件後將在康復中心停留多長時間。急性病後護理包括療養院和康復中心。據報道，該算法通過檢查來自 600 萬患者的醫療病例數據庫，估算出患者的醫療需求和住院時間。
訴訟稱，該人工智能系統的錯誤率高達 90%，並推翻醫生的急性期後護理意見。訴訟還稱，nH Predict 沒有考慮到患者的個人需求，如合並癥（患有多種疾病）和在住院期間感染疾病。訴訟中另一個令人震驚的部分稱，雖然隻有少數患者對基於 nH Predict 估計值的承保拒絕提出上訴，但其中 90% 以上的上訴都通過內部上訴程序或聯邦行政法官程序被推翻。
"根據醫療保險優勢計劃，住院三天的患者通常有權在療養院居住長達 100 天，"訴訟援引 Stat 的調查稱。"使用 nH Predict AI 模型後，[UnitedHealthcare] 隻用一小部分時間就切斷付款。患者在療養院的住院時間很少超過 14 天，然後就會開始收到拒絕付款的通知"。
NaviHealth 的前員工告訴 Stat，UnitedHealth 接管後，工作重心從幫助患者轉移到保持利潤和盡可能縮短後期護理時間上。該公司的播客引用負責監管 NaviHealth 的 UnitedHealth 高管 Patrick Conway 的一段話："如果[人們]去療養院，我們如何讓他們盡快出院？"
nH Predict 至今仍在使用。UnitedHealth 的子公司 Optum Health 表示："NaviHealth 預測工具不是用來確定承保范圍的。該工具被用作一種指南，幫助我們告知醫療服務提供者、傢屬和其他護理人員，病人在醫療機構和回傢後可能需要什麼樣的幫助和護理。承保決定基於 CMS 承保標準和會員計劃的條款。這起訴訟毫無根據，我們將積極為自己辯護。"