今日健康科技｜一句提醒，能让医疗AI少犯错吗？
当人工智能开始参与医疗判断，一个重要问题随之出现：AI不仅要会回答，更要知道什么时候不能轻易作出判断。
10月8日，美国西奈山医学院公布了一项医疗AI安全研究。研究人员测试了20个AI模型，分析超过1000万次模型回答，观察简单的安全提醒能否减少潜在有害的临床选择。
研究发现，在加入简短安全提醒后，19个模型的表现有所改善。整体潜在有害选择的比例从16.6%下降至10.1%。
这意味着什么？
第一，医疗AI的安全性不完全取决于模型本身。
同一个AI模型，在不同指令和使用条件下，可能产生不同的判断结果。
这说明，除了提高模型能力，如何设计使用流程、设置安全约束，也可能影响医疗AI的实际表现。
第二，安全提醒不等于医疗安全已经得到保证。
研究中的潜在有害选择，是在模拟临床任务中评估的，并不代表真实患者的不良事件发生率。
即使错误比例下降，仍然存在需要识别和处理的风险。
第三，医疗AI需要的是一套安全体系，而不只是一句提示词。
未来医疗AI的可靠应用，可能需要结合多个环节：
① 明确模型可以承担哪些任务，以及能力边界。
② 对高风险判断设置核查和人工复核机制。
③ 使用真实临床数据进行独立验证。
④ 在实际部署后持续监测模型表现和潜在风险。
这项研究带来的启发，并不是告诉我们，只要给AI一句提醒，它就安全了。
真正值得关注的是：医疗AI的安全性，可能不仅来自模型训练，也来自模型如何被使用、监督和持续评估。
当AI逐渐进入临床决策支持、医学影像分析和健康管理领域，我们需要改变一个习惯：
不再只问AI回答得有多准确，还要问：
当它回答错误时，谁能够发现？
当它不确定时，能否及时提示？
当它参与重要判断时，有没有可靠的安全防线？
医疗AI的下一阶段竞争，可能不只是能力的竞争，更是可靠性、可验证性和安全管理能力的竞争。
——
Science & Education：
BI 身体智慧（Body Intelligence）
AI-assisted Research & Illustration：
BI × GPT
Professional Review：
林存默（Thomas Lin）
Professional Community：
ACPN — The Association of Certified Professional Nutritionists
加拿大注册执业营养师公会
Published by：
VoiceToday｜今日之声
#医疗AI #人工智能医疗 #医疗安全 #健康科技 #临床决策 #ACPN
广告
