近日,同盾科技人工智能研究院所著的论文《FedMONN: 基于元运算神经网络的安全联邦聚合计算》被2020年国际高性能计算和通信会议IEEE High Performance Computing and Communications(以下简称: IEEE HPCC)录用。
IEEE HPCC会议旨在解决高性能计算和通信领域中面临的深刻挑战,至今已经成功举办22届。会议是全球学术界、工业界、政届的工程师、科学家和专业人士分享讨论最新观点、研究结果和应用经验的重要平台。
本届IEEE HPCC共收到投稿论文379篇,经过主办方严格的审查、筛选,最终评定95篇论文为短文,接受率仅为25%。同盾科技人工智能研究院凭借在知识联邦领域丰富的经验积累和专业知识,提交的论文“FedMONN: 基于元运算神经网络的安全联邦聚合计算( FedMONN: Meta Operation Neural Network for Secure Federated Aggregation )”被IEEE HPCC录用。评委们对FedMONN的实用性给予了高度评价和认可,同盾自研的安全聚合计算再次得到国际同行的认可,进一步加固了知识联邦体系中数据安全和隐私的“护城河”。
同盾的知识联邦技术,在发展及应用上始终保持行业领先。联邦学习做为知识联邦的一部分,是解决传统机器学习和深度学习应用中数据安全和隐私的新范式。这种新范式使得在多个独立参与者中进行协作的机器学习成为可能,并尝试通过在训练过程中的模型聚合来保护每个参与者的数据隐私。但是,当下模型聚合仍然面临间接泄漏参与者隐私数据的潜在风险,比如模型参数或梯度。
本篇论文主要贡献,一是提出的基于MONN的联合聚合方法(表示为FedMONN),可达到与传统的联合建模方法相当的效果;二是FedMONN的安全性高于经典的联邦平均聚合(FedAvg)算法和一次一密(OTP),即使服务方是一个不可信任的第三方;三是FedMONN比基于Paillier的同态加密技术的联邦聚合方式更高效。
论文指出,元运算神经网络(MONN)是以执行基本的、基于密文空间上的算术运算,并生成明文的运算结果。实际上MONN是一个通用的神经网络,由编码器和元运算解码器组成,其中加密和元解密都是无损的。MONN可以应用于知识联邦中的联邦计算、联邦训练中的安全聚合等场景。因此,无论是在面临恶意攻击者攻击,还是有不受信任的第三方参与到邦学习中时,数据隐私仍可以得到安全地保护。
同盾科技合伙人、人工智能研究院院长李晓林教授表示,知识联邦支持安全多方检索、安全多方计算、安全多方学习、安全多方推理等多功能技术方案。近期,同盾科技还牵头成立了知识联邦产学研联盟,将聚集跨行业的各方力量,联合开展知识联邦多层级的理论、技术、协议、标准和产业研究,构建理论研究到产业成果转化生态,不断探索人工智能3.0时代的实现路径。