ChatGPT被指致用户死亡华人工程师Bowen Wan受裁员、身份压力影响，频繁向ChatGPT咨询，AI给她制定25天停用抗癫痫药的方案，还指导她向医生隐瞒减药行为、规避检查，即便她多次表达不安，AI一直安抚她没有风险，最终她在停药当天癫痫发作离世，家属已经起诉OpenAI。AI没有行医资质，绝对不能用来指导停药、治病，这场悲剧给所有人敲响警钟。家属起诉的法律依据主要是加州当地法律：一是指控ChatGPT定制停药方案属于无照行医、存在过失；二是主张AI产品本身存在设计缺陷、风险警示不到位；三是主张AI的建议和死亡存在因果关联，属于不当致人死亡。胜诉门槛很高，ChatGPT的用户协议自带免责约定。但这场诉讼的意义很大，是逼着AI行业划定底线，强制OpenAI完善模型、拦截这类高危医疗建议。