AI医疗存风险 演算法应受检视

医疗业受高度监管，如何运用AI、避免决策偏误，仍得克服许多挑战。李建梁摄（数据照）

医疗业应用人工智能（AI）的需求增加，然数据搜集和应用牵涉病患隐私，相关应用要进一步普及，仍得克服法规和网安技术相关议题。专家指出，AI能否协助临床诊断决策仍有风险，演算法发展应有监理机制；此外，已有加密技术可提升病历上云的安全保障，但要获医院导入还有一段路。

生成式AI（Generative AI）、大型语言模型（LLM）蔚为流行，除了通用式聊天机器人，业者也纷纷锁定智能医疗为应用场域。如Google为医疗应用发展出Med-PaLM系列模型，据传已在美国医疗机构展开测试。AWS日前也宣布推出HealthScribe服务，可记录摘要医病对话。

中研院欧美所副研究员何之行在相关论坛中指出，LLM可提供直观、看似有道理的答案，但答案可能与真实状况不符。而演算法的训练数据来源若不够全面，则可能复制人类社会的族群偏差，这些都是AI用于医疗场域的风险。

例如，有研究发现，卷积神经网络（CNN）在分类皮肤病变样态时，训练数据以白人患者的影像样本为大宗，黑人患者数据占比仅约5~10%。因此，当使用黑人患者的影像进行测试时，AI诊断的准确性便大打折扣。为建立可信任的AI，相关演算法的开发应受到适当监理，提升数据来源的透明度和广度。

何之行认为，医疗诊断不仅涉及技术，还有价值判断，例如医师该建议病人接受开刀或较保守的治疗方式，仍须回到以人为中心的价值判断。

此外，智能医疗场域还有数据整合、数据二次利用、当事人同意模式、去识别化等相关议题。

许多业者盼台湾健保数据可开放二次利用，然在现行法规下，健保数据原始目的是为了稽核保费，仍欠缺数据提供目的以外的应用授权机制。《个人数据保护法》则开放公务和学术机关运用，前提是当事人的数据应去识别化，但去识别化标准范围为何仍须厘清。

宪法法庭曾于2022年裁决，《个资法》及《全民健康保险法》对信息隐私权保障不足，应于3年内修正相关法律或制定专法；若逾期未完成，当事人可请求停止利用。于此，如何在隐私保护和研究公益性之间达成平衡，还有不少挑战。

此外，卫福部于2023年推动《人体生物数据库管理条例》修正，扩大对生物数据的定义范围，并提供生物数据整合平台的法规基础。通过后也将影响相关数据的应用方式。

另一方面，中山大学资工系特聘教授范俊逸表示，团队推动「具隐私保护暨安全数据探勘之医疗数据仓储系统」计划，以医疗数据为核心，利用加密技术让病历可存放在公有云平台。即便公有云遭黑客入侵，黑客仍需一定技术门槛才能破解密文。

范俊逸指出，机密运算技术在云端和地端皆可进行，搭配硬件端的处理器和芯片强化安全防护。除了医疗，加密技术也可用于保护金融和电子邮件数据。

技术成果曾在近两年的网安大会展示，但因为是较进阶的技术，尚未获医院实际导入，团队仍在努力推广中。

责任编辑：毛履万亿