AI 究竟能否抓住推理的本质,对分布在元素之间的远距离关系实现认知?

访客1年前AI生活173

AI 终究能否捉住推理的实质,也便是,对散布在多个现实或回忆中的元素之间的远距离联系完结认知? 

为此,Alphabet 子公司 DeepMind 企图从即将在 Arxiv.org 上发布的一项研讨中找到答案,该研讨提出了一种具有远距离推理才能的架构 MEMO 。依照研讨人员说法,MEMO 有两个新的组成部分:第一个介绍现实和存储在外部存储中的回忆之间的不同点,第二个则选用检索体系,该体系答应在决议答案之前运用可变数量的“内存跃点”。

AI 要更聪明晰?Deepmind 提出新架构:可完结更高等级推理

经过这两个部分,可以使之可以处理新式推理使命。

这个架构的创意来历是海马。论文的合著者写道:

海马以全新的方法支撑单个经历的灵敏重组,以推断出未观察到的联系……这称为推理。风趣的是,已经有依据证明,海马是经过一个被称之为方法别离(pattern separation)的进程互相独登时存储回忆,以最大程度地削减回忆之间的搅扰。 最近的一项研讨提醒了这一点:这些被独立存储回忆的整合出现在经过循环机制(该机制答应多个方法别离的代码进行交互并因而支撑推理)进行检索的时分。 

由此,DeepMind 的作业从这项研讨中取得启示,以研讨和增强机器学习模型中的推理。 研讨人员运用神经科学文献,规划了一个进程生成的使命,称为配对联想推理(paired associative inference,简称 PAI),该使命旨在经过迫使 AI 体系学习笼统常识以处理从前未见的问题来获取推理才能。 

随之,研讨者们构建了 MEMO,它可以在供给输入查询时会输出一系列或许的答案;而且为了尽量削减必要的核算,答案还多选用表征的方法。

研讨人员说,MEMO 在内存中保留了一组现实,并学习了一种与某种机制合作运用的映射方法,该机制在运用内存时具有更大的灵敏性,而且它与典型的 AI 模型不同,由于它使核算时刻习惯了使命的杂乱性。 在作业进程中,MEMO 从称为 REMERGE 的人类联想回忆模型中获取头绪,该回忆将从回忆中检索到的内容作为新查询进行再循环,并运用再循环进程中不同时刻步长检索到的内容之间的差异来核算模型是否已习惯在固定点上,随后,MEMO 会输出一个动作,该动作指示它是否期望持续核算并查询其内存,或许是否是可以呼应给定的使命。 

在测验中,DeepMind 的研讨人员在 Facebook AI Research 的 bAbi 套件中将 MEMO 与两个基准模型以及当时的最新模型进行了比较,成果显现,MEMO 可以在 PAI 使命上完结最高的准确性,而且它是仅有可以在较长的序列上成功答复最杂乱的推理查询的体系结构。  

此外,与功能最佳的基准模型的 10 个过程比较,MEMO 仅需求三个“跃点(hops)” 即可完结一项使命。 在另一个需求模型在给定节点图的情况下找到两个节点之间最短途径的使命中,面临更为杂乱的节点图,MEMO 比基准模型的体现好出了 20%。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:362580117!

相关文章

彭博社、费加罗报等外媒聚焦波场TRON与Tangem重磅合作

彭博社、费加罗报等外媒聚焦波场TRON与Tangem重磅合作

近日,波场TRON官方宣布正式与硬件钱包解决方案提供商Tangem AG达成合作,包括彭博社、费加罗报、金融时报、美联社等在内的多家权威外媒...

清华大学团队研制出全世界首个多阵列忆阻器存算一体系统!

清华大学团队研制出全世界首个多阵列忆阻器存算一体系统!

有很多童鞋可能不知道忆阻器是什么?在开始今天的话题之前,先为大家普及下忆阻器是什么。 所谓忆阻器,全称记忆电阻器(Memristor)...

对话天壤XLab负责人苗洪江:如何做一款AI蛋白质设计领域的「EDA软件」?

对话天壤XLab负责人苗洪江:如何做一款AI蛋白质设计领域的「EDA软件」?

AlphaFold 近年来展现给世人的惊喜层出不穷,使得向来被称为生物学圣杯的蛋白质折叠问题有了新的解决方法,为整个计算生物领域带来了更大的...

5.5G一出,中国5G遥遥领先!欧美彻底“摆烂”了,争都不争了?

5.5G一出,中国5G遥遥领先!欧美彻底“摆烂”了,争都不争了?

中国又在通讯领域搞大事情了!现在不只是5G,5.5G技术悄悄崭露头角,直接冲向10Gbps的超高速度。这不仅是技术的革新,更是一次全球通信版...

马里亚纳X芯片,又去OPPO Reno 9 Pro里「发光」了?

马里亚纳X芯片,又去OPPO Reno 9 Pro里「发光」了?

OPPO花费重金研发出马里亚纳X芯片后,最让人关心的问题是如何将这枚自研芯片的价值最大化? 今年初,OPPO旗舰手机Find X5/X5 Pr...

自动驾驶业态三分天下,觉非科技的思考及方法论!

自动驾驶业态三分天下,觉非科技的思考及方法论!

数据,是驱动自动驾驶向前发展的重要「燃料」。 在数据的连通之下,汽车已经不再是一座信息孤岛,而是一个集车、路、云端信息于一体的智能移动...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。