星云Clustar创始人:研发隐私计算的加速引擎(组图)

早在进入隐私计算领域之前,香港科技大学副教授、智能网络与系统实验室主任陈凯就一直在研究高性能计算能力、网络和数据中心,并拥有成为该领域的知名专家。事实上,在人工智能和大数据时代,更高性能算力的不断突破至关重要。

正如 GPU 是人工智能发展的核心工具一样,高性能计算能力也是隐私计算能否从量变到质变的关键。陈凯教授认为,没有英伟达等公司对GPU的执着承诺,人工智能深度学习的发展不会这么快;并且计算能力的性能不会提高,私有计算将难以处理更多的大规模数据和规模发展。的。

2018年对于陈凯教授及其团队来说,无疑是一个非常关键的时间节点——星云星团诞生的契机。由于陈凯教授在数据中心网络和机器学习系统方面的杰出成就,很多投资者开始根据团队的研究成果向他提出创业。陈凯教授本人也是“产学研”相结合的实践者。在创立Clustar之前,他在数据中心网络领域的研究成果曾与华为、腾讯、微软等公司合作。

“创立 Nebula Clustar 不仅是因为我觉得它有更大的自由度,让每个人都可以用最大的热情去做自己想做的研究。也是考虑到高性能网络领域的研究可以真正转化为生产力,具有更大的现实意义。回想这段经历,陈凯教授总结道。

作为星云云的创始人,陈凯教授对星云云的期望是成为以算力为核心的隐私计算技术提供商,研发隐私计算加速引擎,推动隐私计算产业的快速扩张和规模化。

陈凯教授介绍,无论是多方安全计算、联邦学习、同态加密还是秘密共享等隐私计算技术秘密级计算机口令长度应不少,所搭建的隐私计算平台对于计算能力,即计算和网络通信的重要性都越来越高。 ,在实际生产应用中。更高的需求。新的一年,星云星云将在底层算力性能研发的基础上,与隐私计算、云计算等行业的领先企业合作,共同赋能行业。

在陈凯教授的带领下,他的团队在2021年取得了诸多成绩。在场景落地方面,与某国有银行达成合作,完成了全国首个大型国有银行隐私计算场景应用;作为粤港澳大湾区科技创新企业的代表,与南京就隐私计算和数据交易平台项目达成合作;依托算力解决方案,将联邦数据网络的算力提升50-70倍,实现业界最大的联邦学习应用场景。

此外,他先后加入了FATE技术指导委员会(TSC董事会单位)、全球最大的联邦学习开源社区、大数据技术标准推进委员会(CCSA TC601)和深圳市软件行业协会;作为IEEE联邦学习标准工作组秘书)第一个长期深度参与的联邦学习国际标准正式发布;成为北京金融科技产业联盟成员;隐私计算联盟的成员。

算力智库注意到,截至目前,星云集群的专利申请量已达151件,作为一家独立的科技公司,已成为隐私计算技术(incopat data)专利申请量排名前2的公司。

新的一年,Cluster 将继续为隐私计算行业带来哪些新的突破?让我们听听陈凯教授怎么说。

以高性能算力推动隐私计算产业发展

算力智库:

你在香港科技大学智能网络与系统实验室做研究和教育,你是星云集群的创始人。您如何处理学校和企业之间的不同角色?为什么当时关注私有计算?

陈凯:

香港科技大学的研究内容和星云Clustar的业务发展都是围绕高性能网络、数据中心、云计算后台系统等展开的,主要研究算力加速等问题。

广义的计算能力不仅包括单点计算,还包括集群计算,这需要高性能的网络在计算节点之间高效传输数据。在大数据和人工智能时代,单点算力一定无法处理海量数据,尤其是隐私计算。

在创立星云云之前,我与华为、腾讯、微软等公司合作,在网络和算力加速领域实现了一些科研成果。我们深知私有计算对算力性能的高需求,同时也有不少投资机构根据研究成果找我们创业。

近十年来,我论文的研究方向也围绕高性能网络和数据中心展开。近年来,我对隐私计算的算力性能做了很多研究,我一直认为最好把研究内容转化为生产力。重大的现实意义。

算力智库:

“星云星团”这个名字意味着什么发展愿景?在隐私计算领域的定位是什么?

陈凯:

“星团”实际上是星团的合成,意为“星团”。它代表了我的研究方向:数据中心集群计算和高性能网络。通过高性能的网络和计算能力,将更多的计算机连接到集群中,以支持大数据的运行。

同时,我们也委托我们通过高性能网络技术将单点计算发展为集群计算,让星云Clustar能够负责包括隐私计算、人工智能、大数据在内的集群计算能力,探索通过更高性能的计算能力未知。探索星海的视野。

“星云集群”的定位是做一家提升隐私算力的公司秘密级计算机口令长度应不少,以高性能算力推动隐私计算产业的发展。目前的产品已经包括隐私计算的软件计算平台、软硬件一体机、算力加速卡等。

算力智库:

目前,业内很多厂商都倾向于提供软件平台解决方案。为什么 Cluster 选择算力作为公司未来的战略?

陈凯:

目前,隐私计算公司有不同的优先级。当未来行业发展更加成熟时,会和现在的人工智能发展一样,各个公司的业务发展会更加清晰,更加差异化。

有的公司在做上层应用,有的在做底层的基础设施平台,而星云Clustar定位在底层计算能力技术的创新和研发。和人工智能一样,没有英伟达,深度学习不会发展那么快,算力性能也不会提升,私有计算几乎不可能处理更多的大规模数据。

当数据元素真正成为生产力时,对更高计算能力的需求将变得更加明显。目前,客户已将效率和性能参数作为隐私计算应用的重要参考项目之一。星云聚星以“算力+”的技术布局和战略理念,致力于构建隐私计算应用规模化落地的算力“基础设施”,高效赋能数据的有序共享和综合应用,实现数据的有序共享和综合应用。真正实现隐私计算在金融、医疗、政务等领域的大规模应用。

算力智库:

从你的介绍中,我觉得星云现在做的更像是在规划未来?

陈凯:

我们实验室的研究比较先进,但是星云星在做的不是很遥远的未来,而是即将到来的未来。

算力智库:

Cluster在通信网络中的优势是什么?

陈凯:

从我个人的角度来看,我研究通信网络领域已经很多年了。从大学、博士开始,我就在这个领域学习和探索了十多年。到香港。目前,科大实验室也在做高性能数据中心和网络通信的研究,包括大量的网络协议、底层架构、路由负载均衡、拥塞控制等。

在隐私计算领域,尤其是秘密共享领域,对网络性能的要求特别高。这是我研究领域中一个非常好的应用场景。在人工智能领域,谷歌深度学习计算平台TensorFlow应用了我们实验室2017年开源的高性能网络通信解决方案,即TensorFlow over GDR(GPU-Direct-RDMA),是一种高性能分布式架构。

在隐私计算领域,我们加强了分布式隐私计算系统的通信效率,这也是使用人工智能的集群计算的网络通信。计算性能的提升还是非常显着的。

算力智库:

图片[1]-星云Clustar创始人:研发隐私计算的加速引擎(组图)-老王博客

Nebula Clustar 打造的高性能算力性价比如何?

陈凯:

比如人工智能的深度学习也可以使用CPU(中央处理器)进行,但是效率很低,可能需要几个月的时间才能推进;但是如果使用NVIDIA GPU(图形处理单元)会很快,即使GPU很贵,但是人工智能需要使用GPU,否则就会失去竞争力。

隐私计算也是如此。一方面需要高性能的算力,隐私计算本身通过消耗大量算力获得更高效的隐私保护;另一方面,我们也在尽可能地降低高性能算力的成本。. 此外,在高性能计算能力下,功耗和节能也得到了优化。

比如我们的软硬件隐私计算一体机,数据用户开箱即用,大大降低了企业应用联邦学习的门槛;数据提供商插卡后即可使用,无需另外购买设备。在原有的集群上,插入 Nebulas 隐私计算加速卡,即可搭建联邦数据中心。

算力智库:

如果需求方发现原隐私计算基础设施的算力性能不能满足要求,星云Clustar的产品是否可以直接建立在原隐私计算基础设施之上?或者你需要建立一个新的基础设施?

陈凯:

无需重建。我们可以根据其现有设施对其进行评估,然后提供基于FPGA(Field Programmable Gate Array)的计算能力加速卡,这是一种即插即用的产品,可以插入客户的原机使用。

此外,我们还与一些领先的云厂商合作,探索云上的高性能算力加速解决方案,以帮助客户更好更快地提升计算性能,优化业务能效。

算力智库:

2022年,星云星将如何在技术创新和深度场景落地上走得更远?

陈凯:

我一直强调,星云是一家低级算力公司,我们将始终坚持以算力为核心打造底层技术业务。目标是成为隐私计算的加速引擎,推动隐私计算产业的快速扩张和规模化。

从2022年发展战略的总结来看,也是“一纵一横”。

从纵向来看,在生态上,我们将继续加强高性能算力技术的布局;在应用场景上,我们将通过算力基础设施搭建平台,服务各行各业。同时,深入产业生态,推动技术、应用等行业标准建设,利用合作伙伴服务场景,实现行业深度赋能。

从横向来看,我们将更加注重生态共建,与市场领先的云计算公司、隐私计算公司开展深度合作。通过云计算和解决方案的整合,高性能的计算能力可以更好地服务于行业,让隐私计算更快地变得生产力。

算力智库:

Nebulas Clustar 是否也为其他隐私计算公司提供高性能计算服务?

陈凯:

我们一直在朝着这个方向进行研究和开发。Nebulas Clustar 的高性能算力不仅可以应用于场景需求侧,还可以赋能整个隐私计算行业,比如研究如何提高多方安全计算的算力加速、联邦学习、等隐私计算领域逐渐贯穿场景后,对算力的需求也会出现,我们的业务也会更加开放。

刚才提到,FPGA算力加速卡可以非常方便的与业内企业合作,通过与云端的结合,还可以实现高性能算力的无缝接入。

2022年会更“热闹”

算力智库:

Clustar成立于2018年,是最早的隐私计算厂商之一。在过去的 4 年里,您感受到隐私计算行业的哪些趋势或变化?

陈凯:

这个行业在 4 年内从无到有发展起来。2018年,中国的声音不大。2019年,一些业内人士开始关注隐私计算。2020年,隐私计算相关标准开始建立。2021年隐私计算行业真正发展,2022年更“热闹”。

从客户需求来看,也分为两个阶段。以2021年《中华人民共和国数据安全法》和《个人信息保护法》的颁布为界,隐私计算的需求逐渐从小众需求中走红。一是在金融、医疗、政务等领域,加之各地建立大数据交易所,隐私计算技术开始发挥普遍作用。

算力智库:

我们看到过一个星云与互联网银行合作的案例。使用算力服务作为银行隐私计算平台,算力提升50-70倍,性能-算力-成本比提升7倍。“算力+隐私计算平台”的结合会成为未来应用的常态吗?

陈凯:

无论是多方安全计算、联邦学习、同态加密还是秘密共享等隐私计算技术,所搭建的隐私计算平台在实际生产应用中对算力的要求都会越来越高,比如基于秘密的隐私计算共享解决方案实际上需要大量的分布式通信网络来保护隐私。基于同态加密的隐私计算平台实际上运行速度很慢,对计算性能要求很高。

对于一种名为 Pallier 的同态加密算法,我们分析了十几种影响计算效率的密码计算算法,同时将算子的公共部分抽象为一些核心的公共算子引擎,如模乘法、模幂运算和然后动态组合用于 FPGA 加速。与传统的 CPU 方案相比,实验结果发现单点计算能力提升了 50 到 70 倍。我们正在继续提高这种效率。

算力智库:

今天,您认为隐私计算的大规模应用还面临哪些挑战?

陈凯:

从星云的角度来看,在真正具有生产力和大规模私有计算的过程中,对计算能力的需求将会增加。计算性能能否跟上是挑战之一。

算力智库:

AI智能计算中心现在已经成为各地流行的基础设施。您对国内AI智能计算中心的建设有什么建议?

陈凯:

智能计算中心的一项重要任务是处理海量数据,强调传统计算能力,同时尽快加入隐私计算技术,支持国家对数据要素的发展需求。

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论