当前，人工智能（AI）在医疗领域的应用引发了广泛讨论，尤其是在湖南省医保局发布的一则通知中提到的“严禁使用人工智能自动生成处方”引起了公众的关注。AI在医疗领域的应用，特别是其“幻觉”现象，使得一些人对其可靠性产生了质疑。然而，AI在辅助医生诊疗方面的作用不可忽视，它正在逐渐成为医生们信赖的“全知型”助手。
AI在医疗中的定位
AI在临床诊疗中的主要作用是提供临床决策支持和辅助。广东医科大学多模态数据融合应用实验室主任弓孟春指出，医嘱开立作为诊疗行为的关键步骤，目前确实不允许也不应该由AI直接进行。AI的主要职责是提供建议，而最终的决策权仍然掌握在医生手中。AI可以提供诸如用药禁忌、剂量换算、注意事项提醒等辅助功能，但不能替代医生进行诊疗决策。
实体医院与互联网医院的区别
在实体医院内，由于诊疗流程有着严格的质控和监管，AI自动处方的情况几乎不会发生。相比之下，互联网医院等医疗主体的诊疗环节在院外，监管难度较大。因此，国家卫生健康委在2022年发布的《互联网诊疗监管细则（试行）》中明确规定，其他人员、人工智能软件等不得冒用或替代医师本人提供诊疗服务，处方应由接诊医师本人开具，严禁使用AI自动生成处方。
AI“幻觉”问题及其应对措施
AI“幻觉”是指AI系统在推理过程中产生看似逻辑严密但毫无依据的结论，这在医疗领域可能导致严重的后果。例如，AI可能会杜撰药品名称或治疗方法，给患者带来风险。为了应对这一问题，北京协和医院与中国科学院自动化研究所共同研发了“协和?太初”罕见病人工智能大模型，该模型通过整合权威数据、动态更新知识、增加溯源机制等方式，有效抑制了AI“幻觉”，增强了临床决策的可信度。
高质量数据集的重要性
抑制AI“幻觉”的关键在于使用本地化的高质量数据集和大量经人工验证的知识库进行模型微调。通过提示词工程等技术，可以在推理过程中施加有效的证据佐证、溯源核查、判据验证，并不断反馈与修正。这样可以让AI只学习“好知识”，并限制其推理的“边界”，从而提高AI在临床应用中的准确性。
多模态临床数据的未来前景
研究表明，AI技术所提供的临床洞察意见可能会超越医生所能掌握的知识极限和物理感觉极限，为临床决策提供重要的辅助意见。因此，对于AI给出的新证据、新论断，应采取“审慎验证、充分研判”的态度。建设多模态临床数据基础设施，梳理高质量的队列，对各类数据驱动的医学新发现进行验证，将是未来医疗科研的重要方向。以多学科诊疗（MDT）的形式将AI提供的临床证据融入诊疗环节为患者服务，也是全球医疗科研领域的主流发展趋势之一。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
