首页 > 科技 > 智能 谷歌新论文称“AI 即将超越人类”还不现实,有其自身局限性

谷歌新论文称“AI 即将超越人类”还不现实,有其自身局限性

11 月 8 日消息,三名谷歌研究人员在最新提交给预印本文献库(ArXiv)的一篇论文中指出,人工智能领域的底层技术深度神经网络 transformer 并不擅长归纳概括。transformer 是 ChatGPT 等人工智能工具背后大语言模型的基础。在 11 月 1 日提交给 ArXiv 的一篇新论文中,三名作者 Steve Yadlowsky、Lyric Doshi 和 Nilesh Trip…

11 月 8 日消息,三名谷歌研究人员在最新提交给预印本文献库(ArXiv)的一篇论文中指出,人工智能领域的底层技术深度神经网络 transformer 并不擅长归纳概括。

transformer 是 ChatGPT 等人工智能工具背后大语言模型的基础。在 11 月 1 日提交给 ArXiv 的一篇新论文中,三名作者 Steve Yadlowsky、Lyric Doshi 和 Nilesh Tripuraneni 写道:“当任务或功能需要超出预训练数据的范围时,transformer 出现了各种故障模式,发现即使是简单的任务外延也会降低它们的归纳能力。”

根据这篇论文的说法,深度神经网络 transformer 所擅长的是执行与训练数据相关的任务,并不太擅长处理超出这个范围的任务。

对于那些希望实现通用人工智能(AGI)的人来说,这个问题不容忽视。通用人工智能是技术人员用来描述可以完成任何人类所做事情的假想人工智能。就目前而言,人工智能非常擅长执行特定任务,但不像人类那样能跨领域转移技能。

华盛顿大学计算机科学与工程荣誉教授佩德罗・多明戈斯(Pedro Domingos)表示,新研究意味着“在这一点上,我们不应该对即将到来的人工智能过于疯狂。”

人们将 AGI 吹捧为人工智能领域的终极目标,从理论上讲,其代表着人类创造出与自己一样聪明或比自己更聪明的东西。许多投资者和技术人员都在为此投入大量时间和精力。

本周一,OpenAI 首席执行官萨姆・奥尔特曼(Sam Altman)就与微软首席执行官萨蒂亚・纳德拉(Satya Nadella)共同登台,重申了他关于“合作打造 AGI”的愿景。

实现这一目标意味着让人工智能完成许多人类大脑可以完成的归纳性任务,包括适应不熟悉的场景、创建类比、处理新信息以及抽象思维等等。

但是,正如研究人员指出的那样,如果这项技术连“简单的任务外延”都难以实现,那么显然我们离目标还很远。

普林斯顿大学计算机科学教授阿尔温德・纳拉亚南(Arvind Narayanan)在社交媒体平台 X 上写道:“这篇论文甚至与大语言模型无关,但似乎是打破集体信念泡沫的最后一根稻草,让许多人接受了大语言模型的局限性。”“该是清醒的时候了”。

英伟达高级人工智能科学家 Jin Fan 质疑为什么这篇论文的发现会让人们感到惊讶,因为“transformer 本来就不是灵丹妙药”。

多明戈斯表示,这项研究凸显出,对于一项被吹捧为通向 AGI 之路的技术潜力,“很多人都感到非常困惑”。

他补充说:“这是篇刚刚发表的论文,有趣的是谁会感到惊讶,谁不会感到惊讶。”

虽然多明戈斯承认 transformer 是一项先进的技术,但他相信很多人认为这种深度神经网络比实际要强大得多。

他说:“问题是神经网络非常不透明,而且这些大语言模型都是在难以想象的大量数据上训练的,这让很多人对它们能做什么和不能做什么感到非常困惑。”“他们开始总认为自己可以创造奇迹。”

更高级的人工智能可能会在归纳概括方面做得更好。谷歌研究人员在研究中使用的是 GPT-2 比例模型,而不是更主流的 GPT-4 比例模型。

人工智能初创企业 Lamini AI 首席执行官莎朗・周(Sharon Zhou)认为,她自己并不觉得 transformer 很难归纳概括是个问题。

“这就是为什么我创办了一家训练模型的公司,而不仅仅是向它们提问,这样它们就能学到新东西,”她说。“它们仍然非常有用,仍然可以引导和调整。”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

本文来自网络,不代表头条在线-头条新闻网立场。
上一篇星纪魅族 AR 智能眼镜预热:双模真无线,号称“无牵无挂”
下一篇 三星自研大模型 Gauss(高斯)公布:AI 聊天、代码、图片,用于内部员工
头条新闻网

来源: 网易科技

本文来源于网易科技。包含文章,图片,视频等资源归属于原作者所有。如有侵权请联系gridf@126.com处理。紧急处理联系电话:15144810328

为您推荐

评论列表()

    联系我们

    联系我们

    0898-88888888

    在线咨询: QQ交谈

    邮箱: email@wangzhan.com

    工作时间:周一至周五,9:00-17:30,节假日休息

    关注微信
    微信扫一扫关注我们

    微信扫一扫关注我们

    关注微博
    返回顶部