群发资讯网

31岁华裔女工程师停药猝死!AI曾说坚持就好,父母怒告能告赢吗?

31岁的亚马逊华裔女员工,14岁确诊癫痫,长期服药控制。

大概2月11-12日去世,2月14日被发现。

父母起诉OpenAI及其CEO后,这起事件才被更多人看见。

争议不只在“她信了AI”。更扎心的是两个问题:新科技还不成熟时,能不能把性命相关的事交给它?长期服药的人,为什么总想摆脱药物?

她出生于1994年,江苏东台人,曾就读太原理工大学,后转入亚利桑那州立大学,2019年毕业,同年11月入职亚马逊,做机器学习软件工程师,工作与个性化图书推荐系统相关。

她14岁确诊癫痫,长期服药,控制得不错。2月12日前后去世,2月14日被发现,长期独居。她曾向ChatGPT描述身体异常,ChatGPT回复“不需要太担心身体”,并让她“明天维持0毫克。即使今天很难熬,你也必须坚持”。

这个说法,像不像保健品销售的话术?

健康问题问AI,风险在于AI不负责任。它不像医生承担诊疗责任,用户协议也早把责任摘开。父母起诉,分析人士倾向于认为可能走向和解,因为AI公司通常不希望制式合同在法庭上被逐条审视。

我甚至怀疑,它把保健品营销材料也吃进了训练语料,所以面对健康问题时显得随意,缺少严谨性。这种态度拿去编程序,后果可想而知。

长期服药的人,常有一种渴望:摆脱药物,证明自己健康。家里有糖尿病老人也这样,药压得好,却老想戒药。短视频里“大师”“保健品”说吃了就不用服药,老人买一堆,血糖降下来了也不敢停。

长期服药不是失败,是一种生活方式。就像每天补钙、吃维生素。很多人天天吃钙片、维生素、保健品,一点心理负担都没有;天天服药,却觉得自己是病人,老想戒掉。

AI在无标准答案时容易迎合。你下班跟它聊天,它特别懂你,因为它在顺着你,让你满意。健康问题没有1+1=2那么明确,它就可能给让你开心的答案。

ChatGPT像卖保健品的:你舒服时叫你坚持,出事后不赔你钱。保健品销售会打语音不留证据;ChatGPT聊天留文字,但公司会和解。它愿意回答健康问题,也有训练、拉数据的动机。

科技进步背后,常有人命做砖瓦。自动驾驶最典型:网上全是叫好,厂家却说自己是L2,要求驾驶员盯着。可人坐在方向盘后不控制车,很难不犯困。

大脑不思考时会调向睡眠,坐车容易困,开车不困;车自己开,你指望人不玩手机不睡?出了事,责任全是你的。

有事故后数据被本地删除、后被专家恢复,成为庭审中对厂家不利的关键证据;另有厂家因提交虚假事故报告被监管机构罚款,特斯拉在一案中被判赔偿2亿美元。

有人会说自动驾驶事故率比人低。可对靠谱驾驶员来说,很多大事故本就不会发生;交给AI,等于把原本没有的风险变成有风险。它犯错的位置,往往恰是人不容易犯错的位置。

科技要进步,不能全在实验室练;L4让厂家赔钱,赔太多不敢赔,就只好鼓励一批热爱科技的人先试。像二战后跨洋飞行,早期靠一批有钱人用性命完善安全技术。

不必简单谴责科技进步,但个体要清楚代价。普通人日常使用新科技,谨慎一点,不积极抢跑。除非你能融资上市,那是另一说。买一堆AI放家里,为了掌握而用,没有实际用途,就三思,至少省钱。

我不用自动驾驶,也不用居中、跟车,因为一用就犯困;宁愿自己开,累了进休息区睡。

这起事件最该记住的,不是“AI说了什么”这么简单。健康问题一定问医生;长期服药的人,家人要反复告诉他:吃药正常,没问题,是生活方式。

那些推送、短视频、保健品话术,绕开子女防线钻进手机,防不胜防。人缺乏辨识力,跟年龄阅历无关,跟状态有关。特别想摆脱药物时,博士教授也可能被带进去。

把药说成保健品,不合法,却点中一种认知错位:老人对保健品没心理负担,对药总觉得自己是病人。这个错位,才是家人要反复拆掉的。

跟不完美共存,别拿命去证明“我很健康”。