首页 > 技术知识 > 正文

树架构的学习被证明优于卷积前馈网络-树形决策树的构成

基于树突树的简单神经网络方案(左)与复杂的人工智能深度学习架构(右)

传统上,人工智能源于人脑动力学。然而,与深度学习(DL)相比,大脑学习在许多重要方面受到限制。首先,高效的深度学习布线结构(架构)由数十个前馈(连续)层组成,而大脑动力学仅由几个前馈层组成。其次,DL架构通常由许多连续的过滤器层组成,这对于识别其中一个输入类至关重要。

例如,如果输入是汽车,则第一个过滤器识别车轮,第二个过滤器识别门,第三个过滤器亮起,经过许多其他过滤器后,很明显输入对象确实是汽车。相反,大脑动力学只包含一个靠近视网膜的过滤器。最后一个必要的组成部分是数学复杂的深度学习训练程序,这显然远远超出了生物学的实现。

大脑在精确数学 运算的实现有限的情况下,能否与在快速并行计算机上实现的先进人工智能系统竞争?根据我们的日常经验,我们知道对于许多任务,答案是肯定的。为什么会这样,既然是肯定的答案,人们能构建一种受大脑启发的新型高效人工智能吗?在今天发表在《科学报告》上的一篇文章中,以色列巴伊兰大学的研究人员解决了这个难题。

“我们已经证明,在人工树架构上进行高效学习,其中每个权重都有一条通往输出单元的单一路线,可以实现比以前由更多层和过滤器组成的DL架构实现的更好的分类成功率。这一发现为高效,生物学启发的新AI硬件和算法铺平了道路,“Bar-Ilan物理系和Gonda(Goldschmied)多学科脑研究中心的Ido Kanter教授说。

“高度修剪的树结构代表了朝着通过单个或多个神经元高效树突树学习的合理生物学实现迈出的一步,降低了复杂性和能耗,并实现了反向传播机制的生物学实现,这是目前人工智能的核心技术,”博士生Yuval Meir补充道。

猜你喜欢