与历史上的技术革命（轮子、望远镜、计算机）不同，AGI不是放大人类能力的工具，而是独立的智能源，其作用不是放大，而是替代。当前阶段的AI已经出现替代苗头。一旦出现AGI，它本身就拥有通用学习能力和智能，不再依赖人类指令。一旦AGI能自我改进，它可能快速进入超人工智能阶段（ASI），短时间内智力远超人类。从来没有任何技术是独立智能存在，人类无法用历史经验预测后果。它可能不需要你，你也无法完全控制它。