
距离 2021 年只有 3 天了。
回首过去的一年,科技圈里还有哪些大新闻还烙印在你的脑海里?
扎克伯格宣布Facebook将更名为Meta,全面进入“元界”;微软推出混合现实会议平台Mesh;NVIDIA全能阿凡达平台的三个虚拟人物同时出现……
过去,当马斯克说要在人脑中植入芯片时,你一定以为他疯了。
但 5 月,当 Neuralink 让一只植入芯片的猴子用他的大脑打乒乓球时,全世界都惊呆了。
此外,DeepMind今年开源了AlphaFold2,能够预测98.5%的蛋白质结构,让学术界再次沸腾。
不仅如此,研究人员还将其制成数据集并免费提供。
2020年1750亿参数的GPT-3发布后,NLP大模型不断刷新记录。
微软与英伟达联合发布5300亿参数的“威震天”,致远1.75万亿参数的“启蒙2.0”,阿里巴巴达摩院发布创纪录的10万亿参数多模态大模型“M6” , 只需 1% 的能耗即可达到与 GPT-3 相同的规模……
还有IBM首个2nm工艺,人形机器人Ameca苏醒……
2021年,不乏重磅消息,人工智能仍能突破重围,进入主流视野。
展望2022年,科技领域的主要趋势是什么?
今天,达摩院连续第四年发布了2022年十大科技趋势。
达摩院通过“量变发散”和“质变收敛”,分析了近三年770万篇公开论文和8.5万件专利。科学家们,提出了 2022 年可能成为现实的十大技术趋势。
AI仍然是最突出的主角,但基本范式正在发生变化;芯片技术将发生变化;下一代互联网即将到来……
人工智能新范式
科学研究就是探索星海中的未知。其中,实验科学和理论科学是数百年来科学界的两大基本范式。
人工智能正在催生新的研究范式。
以蛋白质为例,通过研究它们的 3D 结构,生物学家不仅可以更快地开发出各种疾病的药物,甚至可以解开生命的奥秘。而“蛋白质折叠问题”在过去的 50 年里一直是生物学的一大挑战。
1969 年,Cyrus Levinthal 指出,通过蛮力计算枚举一个典型蛋白质的所有可能构型所需的时间比已知宇宙的年龄还要长:一个典型的蛋白质可能有 10 到 300 个折叠形式。
然而随着人工智能的发展,2021年7月,DeepMind首先在Nature上开源了利用AI预测蛋白质结构的AlphaFold 2,随后共发布了来自人类和其他20种生物的35万条蛋白质结构预测。结果。
训练有素的深度神经网络可以根据蛋白质的基因序列预测蛋白质的特性。主要判断是基于氨基酸对之间的距离和连接这些氨基酸的化学键之间的角度。利用已知信息,可以推断出蛋白质折叠后的角度和距离信息,进而推断出整个蛋白质的结构。
2021 年 12 月,DeepMind 首次利用人工智能帮助数学家提出两个全新的数学猜想,并登上 Nature 杂志封面。
作者猜测低维拓扑中存在未知的非线性关系,生成大量数据并用神经网络拟合近似函数,发现其中三个在拟合过程中起到了重要作用。无论如何,通过拟合实验,产生新的数据,得到新的观测模型,数学家终于用智慧猜出了一个不等式结构,并进一步给出了严格的证明。
可见,机器学习可以处理多维度、多模态的海量数据,解决复杂场景下的科学问题,将科学探索引领到过去无法企及的新领域。
而人工智能也将成为继计算机之后科学家们新的生产工具:
1. 带来效率的显着提升。人工智能将伴随科学研究的全过程,从假设、实验到概括,让科学家们不需要在过去十年内产生科学成果,而是可以在一生中产生科学成果并保持高产;
2.让科学不再依赖少数几个天才,人工智能可以对科学研究产生猜想,让科学家对有意义和有价值的部分进行实验和证明,让更多的人参与到科学研究中来。
阿里达摩院预测,未来三年,人工智能技术将广泛应用于应用科学,并开始成为一些基础科学的研究工具。
大模型连滚都不行
AI能够取得这些成绩的背后,离不开模型的支持。
随着规模的不断扩大,预训练模型在文本、图像处理、视频、语音等多个AI领域实现了突破,逐渐成为人工智能的基础模型。
2018年,谷歌提出了3亿参数的BERT模型,大规模的预训练模型逐渐进入人们的视野,成为人工智能领域的焦点。
2019 年 2 月,OpenAI 推出了 15 亿参数的 GPT-2,可以生成连贯的文本段落,用于初步阅读理解、机器翻译等。
随后,英伟达推出了 83 亿参数的 Megatron-LM,谷歌推出了 110 亿参数的 T5,微软推出了 170 亿参数的 Turing-NLG。
2020年6月,大模型来到了分水岭。凭借 1750 亿参数的 GPT-3,OpenAI 直接将参数规模刷到了 1000 亿级别,接近人类神经元数量。写诗、聊天、生成代码等等。
沉寂了一段时间后,微软和英伟达联手在 2021 年 10 月发布了 5300 亿参数的威震天-图灵自然语言生成模型(MT-NLG),同时获得了“最大”和“最大”两个称号。最强”的单一Transformer语言模型行业。
除了千亿规模的密集单一模型,还有万亿规模的稀疏混合模型。
2021 年 1 月,谷歌推出了具有 1.6 万亿参数的 Switch Transformer。12月,这一纪录被达摩院M6模型的10万亿参数打破。大模型的参数直接提升了一个数量级,而达摩院只用了512块GPU进行训练。
但是随着模型规模的增大,训练变得越来越耗费资源,而参数数量的增加带来的性能提升与消耗的提升是不成比例的。
大型模型确实带来了惊人的性能,但一些研究已经开始质疑“模型的参数越多,性能越好”是否总是正确的。
例如,谷歌的研究人员开发了一个参数远少于 GPT-3 的模型,即微调语言网络 (FLAN),而这个 1370 亿参数的模型在许多困难的基准测试中表现良好。远远超过 GPT-3。
阿里达摩院认为,大模型的参数规模化发展将进入冷静期,大模型与关联小模型的协同将是未来的发展方向。
其中,大模型沉淀的知识和认知推理能力输出到小模型,小模型在大模型的基础上叠加垂直场景的感知、认知、决策和执行能力,然后再喂给小模型。将执行和学习的结果返回到大模型。让大模型的知识和能力不断进化,形成一套有机循环的智能系统。参与者越多,模型发展得越快。
而这样一个全新的智能系统将带来三个优势:
1. 让小模型更容易获得通用知识和能力,小模型聚焦特定场景进行终极优化,提升性能和效率;
2. 解决了以往大模型数据集过于单一的问题,小模型在真实场景中恢复的增量数据让大模型有了再进化的元素;
3.整个社会不需要重复训练类似的大模型,模型可以共享,最大限度地提高算力和能源的效率。
对此,南京大学计算机科学与技术系主任、人工智能学院院长周志华也提出了自己的看法:
大模型将在未来的一些主要任务中发挥作用,而在其他一些场景中,小模型可能会通过类似于集成学习的方法来使用,特别是通过少量训练来“重用”和整合现有的小模型。达到良好的性能。
阿里巴巴达摩院预测,未来三年,个别领域将开展基于大规模预训练模型的协同进化智能系统试点探索。
未来5年,协同进化的智能系统将成为系统标准,让全社会都能轻松获取智能系统的能力并为之贡献力量,向通用人工智能迈进一步。
XR,下一代互联网
未知未来的虚拟世界是否是《黑客帝国》模拟中所描绘的,如《黑客帝国》中所描绘的那样。
越来越近从零开始学模拟电子技术下载,我们如何才能进入这个虚拟世界,是最重要的一步。
这里不得不提一下,一号选手身上的那副眼镜,或许就是通往新世界的大门。
未来,眼镜有望成为新的人机交互界面,推动形成不同于平面互联网的XR(未来虚拟现实)互联网。
XR互联网将改变用户感知和获取信息的方式。最大的特点是从二维平面到立体三维的沉浸式体验。信息将以自然的方式获取,用户所见即所得。
阿里达摩院预计在未来三年内生产出新一代XR眼镜,融合AR和VR技术,成为下一代互联网的关键入口。
据报道,苹果有望在明年推出首款 AR/MR 头戴设备,该头戴设备将配备 3D 传感器,可实现全手眼追踪。
事实上,眼镜只是构成XR互联网所需的四大要素之一。
完整的XR互联网包括:硬件(如XR眼镜等)、内容(如娱乐、购物、社交等)、人工智能(如空间感知、数字孪生)、基础设施(如5G) 、云计算等)。
四大要素中,硬件和内容将率先发展。硬件是获取数据和与用户交互的基础,也是互联网平台的载体。
XR眼镜将成为XR互联网的第一个入口。同时,云网协同将改变眼镜的外形,使其更小、更轻、响应更灵敏。
内容从娱乐、社交、办公场景开始,逐渐发展到购物、教育、医疗等对远程交互有一定需求的场景。
比如微软的混合现实会议平台Mesh,人们可以以虚拟头像的形式见面互动,还可以共享Office文件。
XR 互联网改变了人们与技术互动的方式:
· 模拟现实世界的时空,解决现实世界中远距离移动的问题,如远程教育、远程医疗、远程办公等,克服地理空间的限制。
创造现实世界中不存在的时空,解决现实世界中不完美的问题,如游戏、社交等,让用户重新建立自我认知,以接近于现实的方式进行互动现实世界。
XR互联网也将重塑现有的产业格局,催生从组件、设备、操作系统到应用等一系列新的产业生态系统。
2022 年,人工智能还有什么值得关注的?
除了AI for Science、大小模型协同进化、XR互联网,阿里巴巴达摩院还预测了2022年的其他七大技术趋势。
硅光子芯片
目前,硅基半导体已经推进到5nm和3nm从零开始学模拟电子技术下载,IBM今年也宣布在2nm“PPT工艺”上取得突破。
电子芯片的发展正在接近摩尔定律的极限,集成技术的进步趋于饱和。
光子芯片使用光子而不是电子进行信息传输,可以携带更多的信息,传输更远的距离。
光电集成是未来芯片的发展趋势。硅光子与硅电子芯片优势互补,发挥两者优势,推动计算能力不断提升。
未来三年,硅光子芯片将支持大型数据中心的高速信息传输;未来五到十年,基于硅光子芯片的光计算将逐步取代电子芯片的部分计算场景。
柔性传感机器人
在特斯拉 AI Day 上,马斯克宣布将于明年推出 Tesla Bot;波士顿动力的机器人阿特拉斯上演了一场惊艳的跑酷;而英国Engineered Arts研发的人形机器人Ameca,更是让人胆战心惊。
近年来,柔性机器人将柔性电子、力感知与控制、人工智能技术相结合,获得力感知、视觉、声音等感知能力。
预计未来五年,兼具柔性和类人感知的机器人将逐步取代传统工业机器人,成为生产线上的主要设备,并在服务机器人领域开始大规模应用。
还有以下五种技术趋势,分别是:
绿能AI:人工智能助力大规模绿色能源消纳,实现多能互补电力系统
高精度医疗导航:人工智能与精准医疗深度融合,助力提高诊疗精准度和效率
全球隐私计算:打破数据保护与流通困境,隐私计算从小数据走向大数据
星地计算:星地一体化通信与计算,推动天地海全面数字化
云网端融合:云网端融合形成新的计算体系,催生云上新物种
在过去的一年里,我们看到人工智能以全新的方式渗透到我们的生活中,这些进步为未来带来了许多可能性。
2022年对于人工智能来说注定是激动人心的一年。
未来充满希望。
点击达摩院2022年十大技术趋势,获取《达摩院2022年十大技术趋势》全文
请登录后发表评论
注册
社交帐号登录