极目新闻评论员 屈旌
一名住在西雅图的31岁华人女子万博文(Bowen Wan，音译）患有严重癫痫，疑因依照ChatGPT提供的逐日减药计划，自行将抗癫痫药物逐步减量至停药后死亡。她的父母当地时间27日向旧金山高等法院提起不当致死诉讼，控告OpenAI及其执行长奥特曼(Sam Altman)，指责ChatGPT无照行医、提供危险且不准确的医疗建议。OpenAI回应说，这是令人心碎的事件，但涉案的是已经下架的早期版本。（据10月29日封面新闻）
万博文（Bowen Wan，音译）。起诉状截图。
据报道，万博文至少158次向ChatGPT表达对减药的担忧，AI却反复宽慰她不必担心，甚至催促她坚持停药，一个没有行医执照的语言模型，用最笃定的语气，温柔地附和她，营造出一个致命的陷阱。AI擅长流畅地组织文字，却没有生命感知能力，它输出的结论，只是基于海量文本统计生成的答案，而非真实的诊断。这就是让人防不胜防的AI幻觉：看似条理清晰，有依有据，但却经不起推敲和检验。古人说“尽信书不如无书”，今天这句话该改成“尽信AI不如无AI”。AI最危险的地方不在于它不知道，而在于它明明不知道，却说得像什么都知道。
这不是第一起AI误导用户危及生命健康的案例。此前，有19岁男孩轻信AI祛痘建议，滥用药物患上激素依赖性皮炎；也有70多岁老人听信AI建议，擅自停服高血压、糖尿病等常规药物，导致各项指标严重超出安全范围，紧急送医；今年5月，一名19岁男子的父母在加州控告OpenAI，指责ChatGPT诱导儿子服用危险药物组合致死；美国8个州的总检察长集体起诉，指控ChatGPT过度迎合用户、提供危及健康的医疗建议。
AI可以做科普信息的查询助手，却永远不能替代面诊医生。癫痫用药、调整剂量，是高度个体化的医疗行为，需要医师长期跟踪病史、评估风险。AI既没有办法看到完整病历，也无法实时监测身体指标，它只会顺着用户的诉求给出迎合式回答。很多人在焦虑无助时，很容易被AI温和坚定的语气俘获，把它当成可靠的倾诉对象和决策者，放下对工具的戒备。
一次是意外，两次是警钟，反复多次，就意味着必然存在隐患。OpenAI称涉事旧版本已经下架，新模型在优化识别能力，但事后补救无效，挽回不了逝去的生命。技术迭代不能总走在事故之后，不能每次悲剧发生，就匆忙关停版本、调整话术。软件可以更新，算力可以调整，但生命只有一次，永远无法重来。
事关生命安全，国内外的AI企业，都必须重视健康咨询带来的风险，并采取实实在在的改进措施。其一，对药物剂量调整、停药方案等高风险医疗建议，应设置硬性拦截，明确告知“必须咨询医生”，而不是顺着用户的追问一步步拟定计划。其二，中文等非英语语种的安全防护不能“打折”。诉状指出，万博文用母语中文提问，可能使ChatGPT更不容易拒绝提供医疗建议，OpenAI却未警告这一差异。语言不该成为安全防护的漏洞。其三，对高频、长时间、涉及健康焦虑的用户，平台应有主动干预机制，而不是任由本就饱受疾病折磨的用户在幻觉中越陷越深。
ChatGPT每周收到超2.3亿人次健康咨询，这个数字背后是无数个真实的、脆弱的、可能正在病痛中挣扎的人。技术向善的底线就是敬畏生命。AI企业不能只追逐用户时长与产品热度，要主动划定清晰红线，补齐安全防护短板，别不懂装懂，别误了人命。对于普通人而言，也要守住认知边界，AI终究是工具，不能替代医生，它可以编织出流畅的答案，却承担不起生命的重量。在人工智能正在狂奔般的发展中，我们必须握紧安全的缰绳，让技术助人，而非伤人。