医学教育与医疗中大语言模型AI幻觉的检测、缓解与治理范围综述

Medical education online · 2026-11-06 · 综述

• 一句话结论：范围综述提示，大语言模型在医学教育与医疗中的幻觉（貌似合理但不准确、无依据或虚构的信息与引文）是多维问题，需检测验证、缓解策略、AI素养教育与治理问责的多层应对；证据档位为B，属范围综述层面的证据整合。
• 研究设计与做法：方法遵循Joanna Briggs Institute方法学与Arksey和O'Malley框架，报告参照PRISMA-ScR；系统检索PubMed/MEDLINE、Scopus、IEEE Xplore与Web of Science，时间范围为2018年1月1日至2026年7月31日，限英文文献，双人独立筛选与提取，采用描述性主题分析综合。
• 主要结果：共识别2051条记录，去重与筛选后纳入21篇来源，其中仅5篇为实证或模型评估研究，16篇为综述、概念或观点类文献；归纳出5个主题与13个亚主题，涵盖幻觉的概念与表现、检测评估与验证、缓解策略、教育意涵与批判性AI素养、治理问责与可信实施。未报告效应量、置信区间或p值。
• 机制或解释：作者解释：检索增强生成、结构化提示设计、输出核验方法与人工监督是文献中最常被提及的降低幻觉风险的手段；幻觉并非单纯技术错误，而是对安全负责任使用的多维挑战。
• 局限与边界：局限与边界：纳入文献以综述与观点类为主，实证证据占比小；仅限英文来源与特定数据库，可能存在发表偏倚与语言偏倚；检索截止2026年7月，之后的新证据未覆盖；具体研究质量评价与利益冲突材料未报告。
• 可否落地：落地含义：人工监督、输出核验与检索增强生成作为降低风险的做法「提示」有益，但缺乏统一效果量证据；将批判性AI素养纳入课程与建立透明治理框架属「证据支持」的共识性建议；对患者安全结局的改善「不足以下结论」，需前瞻性实证研究。

🔗 打开原文

Heydari S, Alavi ZS.

本文摘自《每日前沿研究简报 · 2026-11-10》「AI 科研智能体」。本内容仅用于研究信息整理与科普交流，不构成医疗建议。