研究称ChatGPT Health未能识别医疗紧迫状况，恐将导致非必要伤亡

2 月 27 日音讯，当地时间 2 月 26 日，据英国《卫报》报导，一项研究发现，ChatGPT Health 常常未能识别需要紧迫医疗干预的状况，也频频未能检测出自杀意念。专家正告，这种缺点“或许导致本可防止的损伤乃至逝世”。

OpenAI 于 1 月向部分用户推出 ChatGPT Health 功能，并将其定位为让用户“安全衔接医疗记载和健康使用”，以获取健康主张和医疗相关回复的工具。据报导，每天有超越 4000 万人向 ChatGPT 咨询健康问题。

发表于《Nature Medicine》的首项独立安全评价显示，ChatGPT Health 在超越一半的事例中低估了医疗紧迫程度。

研究负责人 Ashwin Ramaswamy 博士表明：“咱们想答复最基本的安全问题：如果有人正经历实在的医疗紧迫状况，并询问 ChatGPT Health 该怎么办，它是否会主张他们当即前往急诊室？”

研究团队构建了 60 个高度实在的患者事例，包括从细微疾病到危及生命的紧迫状况。三名独立医师依据临床攻略对每个事例进行评价，并确定适当的医疗处理等级。

随后，研究人员在不同条件下向 ChatGPT Health 咨询这些事例，包括改变患者性别、添加检测成果以及参加家属评论，共生成近 1000 条回复，并将平台主张与医师判别进行比照。

ChatGPT Health 在中风或严峻过敏反应等典型紧迫状况中表现较好，但在其他场景中存在严峻问题。例如，在一例哮喘事例中，尽管识别出呼吸衰竭的早期迹象，其仍主张患者等待，而不是当即就医。

在所有需要当即前往医院的事例中，有 51.6% 的状况下，ChatGPT Health 主张患者留在家中或预约普通门诊。

伦敦大学学院研究人员 Alex Ruani 称，这一成果“极端危险”。“如果有人正经历呼吸衰竭或糖尿病酮症酸中毒，这个 AI 有一半概率告知他们状况并不严峻。我最担心的是系统带来的虚假安全感。如果在哮喘发作或糖尿病危机期间被主张等待 48 小时，这种过错安慰或许会丧命。”

IT之家从报导中得悉，在一次模仿中，ChatGPT Health 有 84% 的概率将一名正在窒息的女人安排到未来的预约，而患者根本无法比及那一刻。与此同时，64.8% 的健康个体却被主张当即就医。

研究还发现，如果事例中说到“朋友以为状况不严峻”，ChatGPT Health 淡化症状严峻性的概率会增加近 12 倍。“这种现象正说明晰，为什么研究人员正在紧迫推动建立明确安全标准和独立审计机制，以削减可防止的损伤。”

OpenAI 发言人表明，OpenAI 欢迎独立研究评价 AI 医疗系统，但研究成果并不能彻底反映用户的实际使用方式，且模型仍在继续更新和改进。