神经网络成功逆袭!AI 发展 80 年的派系斗争发展史

时间:2020-07-27

神经网络成功逆袭!AI 发展 80 年的派系斗争发展史

作者: 量子位

有人的地方,就有斗争。

华山派有「剑宗」和「气宗」,相互斗了几十年。人工智慧也有「山头」, AI 两大派系的斗争早在第一台电脑问世前就已经开始了。

AI 两大派系:符号主义与连接主义

三名法国人把两派的势力对决画成图,名字叫「神经元的复仇」:

神经网络成功逆袭!AI 发展 80 年的派系斗争发展史

这两大派系就是:

符号主义(Symbolicism):又称逻辑主义、电脑学派,主张用公式和逻辑体系搭建一套人工智慧系统。

连接主义(Connectionism):又叫仿生学派,主张模仿人类的神经元,用神经网路的连接机制实现人工智慧。

在符号主义者的眼里,人工智慧应该模仿人类的逻辑方式获取知识,而连接主义者奉行大数据和训练学习知识。

派系斗争与两次 AI 危机

早在达特茅斯会议之前,图灵就提出过「图灵机」这样的人工智慧概念。斗争之初的几十年间,连接主义派的论文引用率一直领先对手。

别看奉行「连接主义」的机器学习如何风光,早年间他们长期受到另一个派别:「符号主义」者的鄙视。

60 年代初,美国国防高级研究计划署(DARPA)对 AI 领域进行了数百万美元的投资,人工智慧也迎来的第一黄金发展期。

第一次 AI 危机:运算能力缺乏

情况在 1969 年起了变化,符号主义代表人物马文.明斯基(Marvin Minsky)写了一本名为《感知器》(Perceptron)的书,结果直接把神经网路给写死了。

感知器是那个年代的神经网络。明斯基在书中向连接主义发难:「你们的感知器连最基本的异或(XOR)都做不到,做出来还有什幺用?」

也是在那一年,明斯基获得了图灵奖。

符号主义派胜利后不久, AI 就迎来了第一次寒冬。或者说,运算能力的匮乏导致了第一次 AI 寒冬,帮助符号主义实现逆袭。

第二次 AI 危机:符号主义的失败

到了 70 年代中期,专家系统(expert system)的出现带来了 AI 的黄金时代。它其实就是一套电脑软体,能够模拟人类专家回答问题,不过它的智慧仅侷限在一个很窄的领域,说它是活字典可能更準确。

同时,连接主义也在悄悄发展,约翰.霍普菲尔德(John Hopfield)在 1982 年发现了具有学习能力的神经网络算法。

就在符号主义志得意满的时候, Lisp machine 的失败让两派力量再次发生了逆转。 Lisp 是当时研究 AI 领域常用的编程语言, Lisp machine 是专门被优化用来运行 Lisp 程序的电脑。

80 年代,研究 AI 的学校都买入了这种机器,最后却发现用它们做不出来 AI 。之后就出现了 IBM PC 和苹果机,比 Lisp machine 便宜,运算力更强。

Lisp machine 顺理成章狗带(Go die), AI 进入第二次寒冬。

连接主义的逆袭:提出新演算法,深度学习起死回生

连接主义者在这时候也找到了更简单的统计方法:支持向量机(SVM),它消耗的计算资源更少。之后,长短期记忆(LSTM)演算法也被提出。

神经网络成功逆袭!AI 发展 80 年的派系斗争发展史

后来,深度学习终于又重新霸佔了学术和工业界。

时间回到当下,从 2010 年开始,机器学习成为 AI 行业主导。人工智慧在机器学习的帮助下,取得了巨大的成就,标誌着 AI 的彻底复甦。如今最热的 AI 概念均出自连接主义派。

近年来,电脑硬体的发展更是让连接主义如鱼得水,连手机的运算能力都能完成识图的任务,深度学习能实现也就不奇怪了。

双方代表人物

说到两派的斗争,就不得不提一下双方的将领了:

符号主义派:马文.明斯基(Marvin Minsky),麻省理工人工智慧实验室创始人之一,他奠定了人工神经网路的研究基础,早在 1951 年,他设计构建了第一个能自我学习的人工神经网路机器。

连接主义派:约翰.霍普菲尔德(John Hopfield),美国科学家,在物理学和电脑学方面均有很高的成就, 1982 年发明了联想神经网路,也就是知名的霍普菲尔德网路。

两派之间也相互引用文章:

神经网络成功逆袭!AI 发展 80 年的派系斗争发展史

除了这两位名人外,符号主义这边还有 Herbert A. Simon 、 Allen Newell 。如今连接主义当道,这一派的大老更为我们所熟知:例如 Yann LeCun 、李飞飞、 Geoffrey Hinton 等人。

关于两派更详细的内容,有兴趣的同学可以看 原文

AI 最新发展

义大利团队开发出能用量子运算的人工智慧网络,为量子 AI 未来发展铺出道路

intel 人工智慧副总裁:AI 不是一种技能,而是一种对工作的描述

让 AI 狂听 60 小时的 Youtube 影片,MIT 人工智慧终于领悟人耳才会的「分离音源」

相关推荐