“深远的风险”:为何马斯克等人呼吁紧急暂停ChatGPT开发?

土澳的生活 2023-03-30 15:14:26

我们是否会被不断发展的智能机器超越、取代和淘汰?这就是马斯克和其他人呼吁暂停强大的人工智能系统开发的原因。

埃隆·马斯克(Elon Musk)和一群人工智能专家及业界高管呼吁暂停开发比OpenAI新发布的GPT-4更强大的系统,他们在一封公开信中提到了潜在的社会风险。

本月早些时候,微软支持的OpenAI发布了其GPT(生成式预训练转换器)AI程序的第四个迭代版本,该程序以其与用户进行人类般的对话、创作歌曲和总结冗长文件的能力而让用户惊叹不已。

“只有在我们确信其效果将是积极的且其风险将可控时,才应该开发强大的人工智能系统,”由生命未来研究所(Future of Life Institute)发布的公开信中写道。

根据欧盟的透明度登记册,根据欧盟的透明度登记册,该非营利机构主要由马斯克基金会、总部位于伦敦的Founders Pledge集团以及硅谷社区基金会资助。

马斯克本月早些时候表示:“人工智能让我倍感压力。”他是行业领袖OpenAI的联合创始人之一,其汽车制造商特斯拉使用人工智能驾驶辅助系统。

马斯克曾对监管特斯拉自动驾驶系统的努力感到沮丧,现在他正在寻求一个监管机构,以确保人工智能的发展符合公共利益。

康奈尔大学数字和信息法教授詹姆斯·格林梅尔曼(James Grimmelmann)表示:“考虑到特斯拉自动驾驶汽车中有缺陷的人工智能问题,马斯克签署此信是极其虚伪的。”

他表示:“暂停(开发)是一个好主意,但这封信含糊不清,没有认真对待监管问题。”

特斯拉上个月不得不召回超过36.2万辆美国车辆以来更新软件。此前美国监管机构表示,驾驶辅助系统可能会导致事故,这促使马斯克发推文称,对于一次无线软件更新来说,“召回”一词“不合时宜而且完全错误!”

“逐渐在数量上超过我们、智力上胜过我们、淘汰并取代我们”

OpenAI没有立即回应对这封公开信发表评论的请求,该信敦促在独立专家制定共享安全协议之前,暂停先进的AI开发,并呼吁开发人员与政策制定者就治理问题进行合作。

“我们应该让机器用宣传和不实言论充斥我们的信息渠道吗?……我们是否应该培养可能逐渐在数量上超过我们、智力上胜过我们、淘汰并取代我们的非人类智慧?”这封信问道,并表示“这样的决定不应委托给未经选举的技术领袖”。

这封信被超过1000人签署,包括马斯克在内。

OpenAI首席执行官阿尔特曼(Sam Altman)未在签署名单之中。Alphabet和微软的CEO桑达尔·皮查伊(Sundar Pichai)和萨提亚·纳德拉(Satya Nadella)也未在签署者之列。

联合签署人包括Stability AI首席执行官莫斯塔克(Emad Mostaque)、Alphabet旗下DeepMind的研究人员,以及被誉为“AI教父”之一的约书亚·本吉奥(Yoshua Bengio)和AI领域研究先驱斯图尔特·罗素(Stuart Russell)等重量级人物。

这些担忧出现之际,ChatGPT因其对国家安全和教育的影响而引起美国立法者的关注。欧盟警方机构欧洲刑警组织周一发出警告,称该系统可能被用于网络钓鱼、虚假信息和网络犯罪。

与此同时,英国政府公布了围绕AI的“适应性”监管框架提案。

“AI竞赛”

“这封信并不完美,但精神是正确的:我们需要放慢脚步,直到我们更好地理解其后果,”纽约大学教授加里·马库斯(Gary Marcus)在签署这封信后表示。

“大公司对他们正在做的事情越来越保密,这使得社会很难防范可能出现的任何危害。”

自去年发布以来,OpenAI的ChatGPT已促使竞争对手加快了类似的大型语言模型的开发,包括Alphabet在内的公司都在竞相将其产品浸入AI领域。

据悉,担心依赖单一公司的投资者正在拥抱OpenAI的竞争对手。如微软拒绝就这封信置评,Alphabet也没有回复请求置评的电话和电子邮件。

布朗大学教授、前白宫科技政策办公室助理主任文卡塔苏尼安(Suresh Venkatasubramanian)说:“很多开发这些系统的能力一直掌握在少数拥有资源的公司手中。这就是这些模型的本质,难以构建,难以实现民主化。”

0 阅读:379
评论列表
  • 2023-03-31 10:05

    东方古人早已有云科技不可控不可信

  • good 2
    2023-03-30 19:55

    跟核武器一样,自己发展了,就叫大家不要研究,忽悠人的,真的危险的话,那我们更要发展

  • 2023-03-30 19:25

    独立思考什么的都是扯谈 主要是AI的运行依托于庞大的数据资源 而这些资源来源于每个用户 而AI的搜索算法难免会把一些不该被局外人知道的信息透露出去

土澳的生活

简介:讲一讲在海外的人与事。