美国前高盛分析师Darren Zhou在ChatGPT中详细策划绑架、性侵并谋杀前女友，触发OpenAI安全机制。经人工复核确认存在“紧迫且可信的现实威胁”后，平台将两个月聊天记录移交FBI，男子被捕并被开除，最终认罪获8年缓刑及佩戴GPS脚环。   此案为全球首例AI主动报警抓人案，打破了AI聊天“绝对隐私”的错觉。商业AI不再是私密树洞，当对话涉及明确对象、具体手段及实施时间的暴力计划时，会触发自动检测与人工复核机制。生成式AI从被动信息管道转变为具备风险预警能力的“控方证人”，在极端场景下展现出预防严重暴力犯罪的公共安全价值。  这引发了关于隐私边界与平台“准执法权”的争议，但也确立了司法先例：技术识别异常，人工理解语境，警方调查取证，法律划定边界。用户需意识到输入文字可能成为证据，切勿利用AI策划违法内容。