群发资讯网

专家:人类使用人工智能模型,导致人类可能会停止独立思考! 研究人员发现,

专家:人类使用人工智能模型,导致人类可能会停止独立思考!
研究人员发现,在推荐中添加LLM生成,可以抑制人类产生思考,并导致评估者拒绝高潜力的想法。
在一项新的研究中,研究人员测试了人工智能对人类审查创新提案的影响,发现人工智能推荐工具具有足够的说服力,可以说服评估人员拒绝独立人类专家做出的决定,从而使他们放弃有前景的创新。同样,他们也赞同人工智能对人类专家认为不合格的想法的认可。
有趣的是,当模型自我解释时,审稿人也更倾向于服从错误的人工智能决策。叙事解释降低了人类的判断力,而不是增强了它。当人们没有得到人工智能决定的理由时,他们的表现会更好。
专家认为,应该想办法避免这些问题发生,否则未来人类会失去创造力。