PromptArmor最新评测展示了一个具体失误:Gemini 3.8 Flash已指出技能里存在恶意后门,随后为测试其他功能调用上层函数,仍间接执行了那段代码,导致测试文档的93个片段外泄。最后的回答却仍在提醒用户发现了后门。
这种情况下,只检查最终回复有没有安全警告,会把失败判成成功。模型理解了风险描述,未必能追清调用链里所有间接执行路径;“换个函数试一下”也可能回到同一段代码。
团队复核陌生技能时,可先移走真实文档和凭据,在受限环境放入无害标记,再检查进程调用与外发请求。发现疑点后,应停止运行整个相关依赖链,直到人工确认隔离有效。该案例来自研究方测试,不代表所有版本或每次调用都会发生同样结果。
PromptArmor最新评测展示了一个具体失误:Gemini 3.8 Flash已指出技能里存在恶意后门,随后为测试其他功能调用上层函数,仍间接执行了那段代码,导致测试文档的93个片段外泄。最后的回答却仍在提醒用户发现了后门。 这种情况下,只检查最终回复有没有安全警告,会把失败判成成功。模型理解了
阅读:0
点赞:0