图灵测试开启了人工智能领域两条路线的斗争领域的大牛

图灵测试开启了人工智能领域两条路线的斗争

图灵测试开启人工智能两条线之战

人工智能领域的大牛迈克尔_阿比卜,创建了麻省大学的计算机系。

Michael Abib,人工智能领域的大佬,在马萨诸塞大学创立了计算机科学系。

比罗森布拉特小一岁的威德罗是斯坦福大学的教授。当 Rosenblatt 首次提出“感知器”时,他提出了 Adaline 自适应算法。Adaline 与感知器非常相似,也是机器学习的鼻祖模型之一。在罗森布拉特享有声誉的同时,维德罗也对自己的行为不屑一顾,但在罗森布拉特死后,他并没有受到指责。几十年后,维德罗回忆说,这是因为他主要在电气工程系(EE)从事集成电路工作,而不是在计算机科学系从事人工智能研究。.

感知器的失败导致了神经网络研究的终结,用加州理工学院的集成电路大师 Carver Mead 的话来说,就是“二十年的饥荒”。在 Perceptron 的再版中,Minsky 从原版中删除了对 Rosenblatt 进行人身攻击的那句话,并手写了“In memory of Frank Rosenblatt”。但其他在大饥荒期间受到压迫的科学家发现明斯基不可原谅,在神经网络站稳脚跟后,他们猛烈抨击明斯基。罗森布拉特奖由电气和电子工程师协会 (IEEE) 于 2004 年设立,旨在奖励神经网络领域的杰出研究。

信息科学和神经科学结合处的失败不会影响内部的神经生物学。哈佛神经生物学家休贝尔和威塞尔因对视网膜和视觉皮层神经细胞信息处理模式的深入研究而获得 1981 年诺贝尔医学奖。随后,英年早逝在麻省理工学院的大卫马尔建立了视觉信息处理的数学模型,影响了后来的联结主义运动。威塞尔后来离开哈佛去了洛克菲勒大学。1991 年,时任洛克菲勒大学校长大卫巴尔的摩因学术丑闻被迫辞职后,威塞尔成为洛克菲勒大学校长,并为使该校成为生物学中心做出了贡献。

1974 年,哈佛的一篇博士论文证明,在神经网络中再增加一层,使用“反向传播”学习方法可以解决 XOR 问题。该论文的作者是后来获得 IEEE 神经网络学会先锋奖的 Werbos。Wobos 的文章刚发表时并没有引起太多关注。那个时候是神经网络研究的低谷,文章已经落伍了。

1980 年代神经网络的复兴归功于物理学家 Hopfield。1982 年,时任加州理工学院生物物理学教授的 Hopfield 提出了一种新的神经网络,可以解决一大类模式识别问题,并给出一类组合优化问题的近似解。这种神经网络模型后来被称为 Hopfield 网络。1984 年,Hopfield 使用模拟集成电路实现了他的模型。霍老还培养了一批冉冉升起的新星,其中包括现为重要生物重镇索尔克研究所计算神经生物学实验室主任的特里·塞诺夫斯基(Terry Sejnowski)。霍后来调到普林斯顿担任分子生物学教授,现已退休。Hopfield 模型的引入启发了神经网络领域。

联结主义运动的成果之一是著名的名为 PDP(llel 和分布式处理)的选集。这本书的出版在认知科学和计算机科学领域刮起了一阵风,成为了后起之秀的神经网络新秀的圣经。1980 年代的“神经网络”就像 1990 年代的互联网,后来的 Web2.0,再到现在的“大数据”。每个人都想靠近。一些理论家也是不可避免的。发明了RSA算法的R(Rivest)也将几个学生的复杂性带到了神经网络学习问题上。一时间,红旗没有落下,彩旗飘扬。非常热闹。1993年,IEEE开始出版Journal of Neural Networks,为该领域的高质量文章提供了发表渠道。美国国防部、海军和能源部也增加了资助。神经网络突然变得明确了。

图片[1]-图灵测试开启了人工智能领域两条路线的斗争领域的大牛-老王博客

联结主义运动也培养了一批新人,并使加州大学的认知科学系成为同类中最好的。Rumelhart 后来转到斯坦福大学,一年前他不幸死于与他抗争多年的神经退行性疾病。Jordan 是他的学生,Andrew Ng 是 Jordan 的学生。虽然 Rumelhart 已经去世,但香火依然存在。他的另一个学生 Robert Glushko 后来离开了这个行业,追随硅谷互联网的早期英雄 Tanenbaum,创立了一家 XML 公司,该公司后来被出售给 Commerce One 以获取利润。Glushko 捐款创建了 Rumelhart 奖以奖励神经网络研究人员,Hinton 成为第一个获奖者。麦克莱兰首先调到卡内基梅隆大学担任计算机和心理学教授,

Hinton 随后移居卡内基梅隆大学,最终在加拿大多伦多大学计算机科学系任教。Hinton 现在是神经网络方面的佼佼者。他还有一段鲜为人知的革命家族史:他是布尔的曾曾孙(是的,“布尔代数”的布尔),他的曾祖母艾伦是布尔的女儿。中国革命的参与者,美国死忠左派威廉和琼·辛顿也是艾伦的孙子,所以辛顿是辛顿的堂兄,韩早是辛顿的姑姑。布尔的小女儿埃塞尔·莉莲·伏尼契,艾伦的妹妹,是传遍苏联和中国的小说《牛虻》的作者。《牛虻》西不亮,东亮。在苏联和中国,它是几代人的革命性和爱情励志畅销书。晚年在纽约陷入困境的伏尼契,能够以周恩来特批的苏联和中国出人意料的版税结束自己的生命。这个家族把中国、苏联、革命、逻辑、神经网络连接起来,拿走了所有“吃什么补”的派和“随便你”的派。

语言学家和公共知识分子史蒂夫·平克对联结主义不屑一顾。Rumelhart 和 McClelland 合作编写了 PDP 圣经中的一章,其中神经网络可以学习动词的过去式。平克认为,一般过去时(直接加ed,如started)可以通过简单的计算得到;不规则的(不加ed,如come)存在于大脑的特定区域。引用神经心理学证据表明,处理规则和不规则操作是在大脑的不同部位完成的,平克还认为,神经网络的行为类似于一种脑损伤失语症患者的行为。其实这个观察并不深刻,其余的都是罗森布拉特三十年前的戏。符号系统可能更适合处理规则,而神经网络可能更适合不规则的情况,这是大多数人能想到的。对神经网络学派的批评也是如此:我们可以定义一个可以用符号系统或神经网络实现的规则。哪一个使用起来更快。

关于符号处理和神经网络的方法论辩论有时更加夸张。伟大的乔姆斯基不会赞同人工智能领域的最新发展。机器翻译在历史上一直是人工智能的试金石之一,就像 1996 年之前的计算机下国际象棋一样。机器翻译的早期实践源于乔姆斯基的理论,但最近的突破是基于统计方法。乔姆斯基认为,统计方法并不“优雅”,而是模仿而不是理解。会骑自行车不算懂,但如果你能说三道四为什么自行车不摔倒,那就算是懂了。在为统计方法辩护时神经网络 参数初始化,谷歌的研发总监彼得诺维格说:“ 简单的模型(如乔姆斯基的理论,以及后来的各种改进版本)无法解决复杂的问题,人工智能的进一步发展必须两件事。腿走路。Norvig 是加州大学伯克利分校的计算机科学教授,在加入 Google 之前,对这两所学校都很了解,在学术界和工业界都备受推崇,他的《人工智能》是最受欢迎的教科书。他的观点似乎被更多人接受。在学术界和工业界都备受推崇,他的《人工智能》是最受欢迎的教科书。他的观点似乎被更多人接受。在学术界和工业界都备受推崇,他的《人工智能》是最受欢迎的教科书。他的观点似乎被更多人接受。

1980 年代神经网络的辉煌被互联网所掩盖。但近年来,正是互联网给了神经网络更大的机会。近年来计算机科学界最火的词是“深度学习”。神经网络由多层神经元组成。层数越多,越深。所谓深度学习,就是利用多层神经元组成的神经网络来实现机器学习的功能。Hinton 是“深度学习”的鼻祖,这是一篇 2006 年开辟新领域的文章。最先进的深度神经网络的最后两层的每个节点可能对应于某些概念。这是神经网络的一大进步,似乎为“吃什么补什么”找到了科学依据神经网络 参数初始化,用“象征主义”调和矛盾。符号派是否会购买它是另一回事。深度学习的实测结果非常好。Hinton 最早用于图像识别,后来微软利用深度学习开发了实用的语音识别和同声翻译系统。

60 多岁的 Hinton 不甘寂寞,和他的两个学生一起开了一家专注于深度学习的公司。公司成立不久,谷歌和微软就有了收购这家公司的想法。后来百度也加入了竞标,最终落到了谷歌手上。谷歌在 2013 年初斥资数千万美元收购了这家只有三名员工的公司。的公司。为了把 Hinton 放在名册上,谷歌真的没有错过这笔钱。

2012 年,斯坦福大学人工智能实验室主任吴恩达与谷歌合作建立了当时最大的神经网络,这是谷歌神秘 X 实验室的一个项目。曾经风靡网络的谷歌猫脸识别,就是使用了这个参数高达17亿的神经网络。后来,Ng 自己在斯坦福建立了一个更大的神经网络,参数高达 112 亿。人脑有一百万万亿个神经连接。在计算能力方面,如果这个人工神经网络能够贴近大脑,那么每个人工神经元必须能够实现10000个大脑神经元的功能。这个神经网络使用了大量的图形处理芯片,GPU。GPU 是模拟神经网络的完美硬件,因为每个 GPU 芯片都有大量的小内核。这自然类似于神经网络的大规模并行性。硬件的进步使以前不可能的事情成为可能。

斯坦福大学人工智能实验室的创始人、达特茅斯会议的主要组织者约翰麦卡锡创造了“人工智能”一词,并将明斯基带到了当时他正在任教的麻省理工学院。. 说他是人工智能之父是真的,约翰大叔是个铁杆象征主义者。但人工智能实验室现任主任是神经网络大师吴恩达。这种变化可能是“吃什么补什么”的风向标。斯坦福大学这个神经网络的目标是模拟人脑。这让我们想起了罗森布拉特,这不正是他的梦想吗?

这篇文章的写作是受到我的老朋友洪涛的鼓励,在此感谢他。每次和他聊天,我都受益匪浅。

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论