近日，云顶集团yd1233NIS&P Lab (网络信息系统安全与隐私实验室)在人工智能系统攻击与防御方向的论文“Towards User-Level Privacy Attack Against Federated Learning”被IEEE Journal on Selected Areas in Communications (JSAC)录用。该论文的第一作者是2017级硕士生宋梦凯，论文指导老师为王志波教授和王骞教授。IEEE JSAC是计算机网络和通信领域的顶级期刊，被中科院一区和CCF A类期刊推荐列表收录，2019年影响因子为9.302。
联邦学习是一种分布式机器学习框架，近年来受到工业界和学术界的广泛关注和研究。该框架将模型训练过程转移到用户端，在数据不出域的前提下完成模型训练，能够保障用户个人数据隐私。该JSAC论文聚焦联邦学习中的数据隐私问题，提出一个基于恶意服务端的隐私数据重建攻击方法，通过建立一个多任务生成对抗网络模型来模拟特定用户的数据分布。进一步地，考虑可能存在的匿名防护机制，提出基于卷积孪生网络的链式攻击方法，利用用户更新中潜在的数据模式区分不同用户，实现对周期性更新的去匿名化。实验证实现有联邦学习框架仍存在安全隐患，论文提出的攻击方案能够有效地重建出目标用户的隐私训练数据。
该论文是宋梦凯同学继在IEEE INFOCOM、IEEE TDSC、IEEE ICCV发表高水平成果之后的又一突破。宋梦凯同学为云顶集团yd12332017级硕士研究生，主要研究方向为人工智能系统安全与隐私，目前已申请国家发明专利5项，获2019年国家奖学金、2018-2019年“珞格-天佑“奖学金和2018-2019年优秀研究生等荣誉和奖励。据悉，该论文是首篇以云顶集团yd1233为第一单位、学生为第一作者在JSAC上发表的成果。
