专家:AI不会产生幻觉,但你的数据可能是!
当输出不准确时,很多人会归咎于AI模型,但许多幻觉源于不完整、碎片化或管理不善的数据。
更好的数据胜过更好的模型。“幻觉”已经成为人工智能出错的总称。它描述了一个真实的现象:大型语言模型可以生成自信、流畅的答案,而这些答案根本不是真实的。但在IT运营中,许多被标记为幻觉的错误有一个更普通的解释。人工智能并没有发明事实。它忠实地报告了恰好过时、不完整或矛盾的信息。
这种情况在足够多的环境中发生,知道原因通常位于上游,在系统从中学习的数据中找到原因才是关键。
