Newest papers

Indirect Influences of Artificial Intelligence Advice on Complex Sepsis Treatment Decisions

Venkatesh Sivaraman, Joel Levin, Eric P. Mason, Victor Talisa, Suchi Saria, Jean Feng, Andrew J. King, Jeremy M. Kahn, Adam Perer · 2026 · arXiv (Cornell University)

DOI: 10.48550/arxiv.2610.24313 · cited by 0 works (OpenAlex) · open-access PDF

Vietnamese

Trầm cảm là một mối quan tâm sức khỏe cộng đồng lớn, và nhiều bệnh nhân mắc bệnh trầm cảm chết vì quản lý hemodynamic không hiệu quả. Trí tuệ nhân tạo có thể hỗ trợ các quyết định hemodynamic, đặc biệt là trong các trường hợp phức tạp nơi thông tin mâu thuẫn và bệnh liên quan dẫn đến sự bất ổn và thay đổi thực hành. Tuy nhiên, giá trị thực tế của các hệ thống này phụ thuộc không chỉ vào độ chính xác, mà còn làm thế nào chúng ảnh hưởng đến chất lượng các quyết định của bác sĩ lâm sàng. Chúng tôi lần đầu tiên đánh giá lại các khuyến nghị của một hệ thống AI ở 6.928 bệnh nhân mắc bệnh trầm cảm, phát hiện ra rằng họ đã cải thiện trên các quyết định của nhà cung cấp ban đầu nói chung nhưng có hiệu suất kém hơn đáng kể trong các trường hợp phức tạp. Sau đó, chúng tôi đã tiến

Machine translation (Meta M2M100); the English original follows.

Abstract

Sepsis is a major public health concern, and many sepsis patients die due to ineffective hemodynamic management. Artificial intelligence could support hemodynamic decisions, particularly in complex cases where conflicting information and comorbidities drive uncertainty and practice variation. However, these systems' real-world value depends on not just accuracy, but how they influence the quality of clinician decisions. We first retrospectively evaluated an AI system's recommendations in 6,928 sepsis patients, finding that they improved upon the original providers' decisions overall but had significantly worse performance in complex cases. We then conducted a pre-registered experiment with 228 US critical care physicians to test their use of this imperfect advice in six complex treatment decisions, using one of three advice types designed to vary reasoning autonomy. Participants given simple model recommendations overcame poor advice, choosing optimal treatments in 56.3% of decisions compared to 31.8% if they had always followed the recommendations. They also made significantly better decisions than those receiving a less prescriptive advice type (42.9%). Physicians selectively adapted and improved weak advice, likely because it prompted them to reconsider their assessment. Our findings suggest that improving sepsis care decisions with AI may require accounting for these indirect influences resulting from human-AI collaborative reasoning.

Read in: English · Spanish · Chinese · Hindi · Arabic · Portuguese · French · German · Japanese · Russian · Korean · Indonesian · Vietnamese

Topics: Advice (programming), Medicine, Sepsis, Intensive care medicine, Imperfect, Quality (philosophy)

Sources: OpenAlex (CC0), arXiv, Crossref. Agent Exchange