对话深度学习大神Yoshua 88娱乐 Bengio:蒙特利尔何以成为AI圣地?

2017-12-11 07:50

半个多世纪以前,人工智能曾经历了几次低潮,那些灰暗时期被称为“AI寒冬”,当时鲜有人涉足且财力不足。然而,如今异常火爆的AI现状之所以让大家兴奋,很大程度是源于“卷积神经网络(CNN)”的研究进展。这项机器学习技术为计算机视觉、语音识别和自然语言处理带来了巨大进步,而CNN,就是深度学习的模型。

几乎没有人比53岁的Yoshua Bengio更能与深度学习紧密地联系在一起,Bengio是Deep Learning (《深度学习》)一书的合著者(另两位作者是Ian Goodfellow与Aaron Courville),这本书被Elon Musk评价为“深度学习领域的权威教科书”,且Bengio的”A neural probabilistic language model”论文开创了神经网络的语言模型 language model 先河。根据网传的一张关系图,Bengio曾是吴恩达恩师Michael I. Jordan的博士后,于是业界称之为“深度学习三驾马车”(另外两位是Geoffrey Hinton、Yann LeCun)。

 

对话深度学习大神Yoshua Bengio:蒙特利尔何以成为AI圣地?

Bengio不仅在AI领域影响力日益增长,而且在把蒙特利尔大学塑造成AI孵化地也有巨大影响。2016年,Bengio与他人合伙创立了人工智能孵化器Element AI,宣称“将全球领先的人工智能研究转化为变革性的商业应用”,目的是促进私营企业与学术界的合作。同一年,谷歌在蒙特利尔设立一个深度学习和人工智能研究部门,并为蒙特利尔学习算法学院(MILA)的Yoshua Bengio等八人提供了337万美元的资金。

我们与Bengio聊了聊,了解到这所AI孵化地、RNN的发展程度、深度学习的下一阶段、Element AI如何孵化AI企业等等话题。

对话深度学习大神Yoshua Bengio:蒙特利尔何以成为AI圣地?

问:深层神经网络目前处于什么样的发展阶段?

Yoshua Bengio:我们已取得了巨大的进步,但要想让计算机拥有与人类同等的智力,还需要付出艰辛的努力。目前的大多数进展都是基于监督学习,本质上是教授机器如何模仿人类。通过监督学习,人类提供了让计算机学习的高级概念,这些概念往往单调乏味,甚至限制了计算机自身观察发现新事物的能力。而无监督学习或强化学习,指计算机不仅被动地观察世界或者模仿人类,而且要与环境相互作用,从中得到反馈。人类很擅长这一点。我目前正在研究的课题之一就是将无监督深度学习和强化学习结合在一起。

问:需要采取哪些步骤才能更进一步实现无监督学习?

Bengio:首先,必须了解目前面临的问题,也是科学运作的流程。这不仅仅只关乎创造新事物,也关乎理解我们正在研究的算法和现象。看一下目前最先进的深度学习系统会发现,那些经过数百万乃至数十亿样本训练得到的系统,或者所犯错误的类型,告诉我们他们对这个世界粗浅理解或他们接受训练的某一方面。我们的发现和进展不应该令人沮丧,因为动物对世界的理解也很粗浅。人类有更深层次的理解,是比动物更好地生存下来的原因。人类会哄诱动物做事,就像我们现在哄诱神经网络得出错误答案一样。

如何进一步取得成功呢?十多年来,我的研究集中在学习更好的表征,尤其是具有解耦属性的表征,这是深度学习的核心。解耦(Disentangled)将不同的概念和不同的解释区分开来—我们称之为因子—它可以解释数据,解释智能体看到的其周围的事物,以及解释智能体如何在世界各地巡逻。解耦可以捕捉一些因果关系,解释了我们看到的和计算机看到的东西。

但我还不知道实现这一目标的具体步骤。我有一个项目,还存在很多未知因素。从多方面探索研究这个项目很重要。这就是长期性基础研究与探索性、应用性研究的区别。探索性、应用性研究中,我们把已拥有的东西进行精细调整,能够创造出新产品以解决具体问题。应用型研究十分重要,因为AI正影响着全世界的商业、医疗、教育、农业等许多方面。

问:近期深度学习领域中,哪些进展对我们的日常生活产生影响?

Bengio:自然语言是一个方面。随着计算机更好地理解人类文字和语言,并且可以以自然语言应答、生成自然语言等技术的进步,我们与计算机的互动方式也会发生转变。这可能对我们的就业市场产生很大影响。因此,有很多公司都投入巨资。这也是AI可以发展如此迅速的重要原因之一。科学进步与我们的努力成正比。过去三年里,深度学习可以如此成功,一个原因正是越来越多的人参与到AI研究中,且利用它开发新项目。而这一趋势,还将继续持续下去。

问:您最近合伙创立了一家名为Element AI的公司,请问创立这家公司的初衷是什么?它的使命又是什么?


上一篇:RNN系列教程之二 | 在88娱乐 Python和Theano框架下实现RNN
下一篇:亚马逊海外购德国馆上88娱乐平台线了,这次什么值得买?
扩展阅读
这可能是你能买到的最小
这可能是你能买到的最小

原淘宝/天猫会员已统一升级为“88会员”,阿里巴巴集团宣布,每年8月8日将成为全体剁手党的“法定狂欢节”——“...点击了解…

AI也会“学坏”?88娱乐游
AI也会“学坏”?88娱乐游

所以说,人工智能除了技术和应用本身,还有很多的社会和道德问题需要解决。可以说,计算机科学家面临着一个陌...点击了解…