报告一

报告题目：A Road Towards an Interaction between Cyber Security and AIGC

报告人：刘杨 新加坡南洋理工大学 讲席教授

报告时间：2024 年 10 月13 日（周日） 08:45-10:15

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：AIGC and cyber security entails the systematic integration of security testing throughout all phases of the software development process. The objective is to automate the security expertise of human professionals by employing tools, thereby enabling early identification and resolution of security concerns during the early phase of the development life cycle. However, its effectiveness greatly relies on the capabilities of intelligent tools to simulate or potentially replace security experts. With the emergence of LLM, a new means to accomplish this objective is now available. In this presentation, I will discuss recent endeavors in utilizing LLM within the realm of application security, to cover the complete life cycle of the vulnerability analysis: vulnerability detection, diagnosis, POC generation and repair.

On the other hand, LLM's security is equally important to make sure the successful deployment of the AI applications. In this direction, we will demonstrate the latest research works regarding the attack surface of LLM, blackbox/whitebox attack generation for prompt injection, attack for multi-modality models, backdoor attack, and possible defense mechanism.

Finally, we are looking at the integration of the two aspects to develop an AI-enabled platform for application security analysis.

报告人简介：刘杨，现任新加坡南洋理工大学计算机与数据科学学院讲席教授、NTU网络安全研究中心主任、新加坡网络安全研究办公室主任、新加坡大学领袖论坛讲席教授。他专攻软件工程、网络空间安全、人工智能前沿研究领域，其研究成果填补了软件分析中理论和实际应用之间的空白，研发了多款高效的软件质量和安全检测平台并成功商业化。到目前为止，他已经在顶级会议和顶级期刊上发表了800篇+论文，谷歌学术引用达26k+，并在顶级软件工程会议上获27项最佳论文奖以及最具影响力软件奖。他还获得多项著名奖项，包括MSRA fellowship、TRF Fellowship、南洋助理教授、Tan Chin Tuan Fellowship、Nanyang Research Award 2019、ACM杰出演讲人、新加坡杰青和NTU创新者（创业）奖。

报告二

报告题目：Insights and Challenges for Securing Microcontroller Systems

报告人：赵子铭 美国东北大学 副教授

报告时间：2024 年 10 月13 日（周日） 10:15-10:45

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告人简介：赵子铭、现任美国东北大学库里计算机科学学院副教授，网域安全与取证实验室（CactiLab）主任，研究方向为系统与软件安全、网络与互联网安全、以人为中心的安全。他的研究得到了美国国家科学基金会（NSF）、美国国防部、美国空军科学研究办公室和美国国家网络安全学术优秀中心的支持。他是NSF CAREER奖和NSF CRII奖的获得者。他的研究成果发表在IEEE S&P、USENIX Security、ACM CCS、NDSS、ACM MobiSys、ACM/IEEE DAC、IEEE RTAS、ACM TISSEC/TOPS、IEEE TDSC、IEEE TIFS等期刊和会议上。他在ACM SACMAT 2024获得了时间考验论文奖。此外，他还在多个顶级会议上获得了最佳/杰出论文奖，包括USENIX Security 2019、ACM AsiaCCS 2022、ACM CODASPY 2014和ITU Kaleidoscope 2016。他分别于2006年和2009年在北京邮电大学获学士和硕士学位，2014年在美国亚利桑那州立大学获计算机科学博士学位。

报告三

报告题目：Split Learning for 6G Edge Intelligence

报告人：陈先浩 香港大学 助理教授

报告时间：2024 年 10 月13 日（周日） 10:45-11:15

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：The next-generation mobile network aims to natively support distributed intelligence, such as federated learning, across massive wireless edge devices. Unfortunately, in the era of large models, the deployment of federated learning faces significant obstacles due to the limited resources on edge devices. In this talk, I will briefly introduce split learning (SL) and elucidate how it overcomes resource limitations via device-server co-training, thereby transforming next-generation edge AI. Then, I will present our recent work on adaptive split federated learning (AdaptSFL) in resource-constrained edge networks. Specifically, our work first provides a unified convergence analysis of split federated learning (SFL) to quantify the impact of model splitting and client-side model aggregation on the learning performance. Then, we develop the AdaptSFL framework to adaptively control model splitting and client-side model aggregation to accelerate SFL convergence. Simulation results demonstrate the effectiveness of our approach in accelerating SFL under network resource constraints. Finally, I will conclude the talk by discussing open problems in SL, such as security and privacy issues.

报告人简介：陈先浩、现任香港大学电气与电子工程系助理教授、无线信息与智能实验室（WILL）主任，研究方向为无线网络、边缘计算、分布式学习、网络安全。他2022年于佛罗里达大学获电气与计算机工程博士学位，2017年于西南交通大学获得工学学士学位。他曾获佛罗里达大学2022年ECE Graduate Excellence Award for Research、ICCC最佳论文奖等荣誉。他受邀担任2024年中国国际通信会议ICCC特邀报告嘉宾、担任ACM Computing Surveys编辑、多个国际通信旗舰会议TPC成员、安全专刊客座编辑：Security and Privacy in Emerging Edge AI Systems and Applications。

报告四

报告题目：细粒度网络流量分析

报告人：冯业博 新加坡南洋理工大学 博士后研究员

报告时间：2024 年 10 月13 日（周日） 11:15-11:45

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：网络流量分析是一种通过监控和解析网络数据流（通常是加密的）来检测、诊断和理解网络活动及行为的方法。随着网络结构、互联网应用和用户构成的日益复杂，传统的网络流量分析已难以满足精确网络事件监控、有效攻击防御和细致用户行为推测等需求。在本次讲座中，我将通过多个项目展示如何从不同层面细化网络流量分析的颗粒度，包括识别更细化的应用层用户行为、生成可解释的威胁分析结果、以及增强对网络环境的感知能力等。

报告人简介：冯业博，现任新加坡南洋理工大学博士后研究员，研究方向包括网络安全、网络流量分析、区块链安全和入侵检测等。他于2023年获得俄勒冈大学（UO）计算机科学博士学位，曾荣获2022年优秀自费留学生奖学金、2019年IEEE CNS最佳论文奖、UO Gurdeep Pall研究生奖学金和Ripple研究奖学金等多项荣誉。他不仅担任IEEE TDSC、IEEE TIFS、ACM TKDD、IEEE JSAC和IEEE COMST等十余个国际顶尖期刊的审稿人，还担任Sensors的客座编辑。此外，他还是SDM、CIKM等国际会议的程序委员会成员，并在USENIX OSDI和USENIX ATC担任代码评估委员。

报告五

报告题目：算力集中如何影响共识竞争

报告人：徐家画 英国伦敦大学学院 副教授

报告时间：2024 年 10 月13 日（周日） 14:15-14:45

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：比特币网络中的分叉源于区块链工作量证明共识协议中的自然竞争，但分叉可能导致资源浪费以及网络不安全。因此，分叉应当出现，但数量应有限。本文提出了一个基本模型，用于估算独立异质矿工网络中自然分叉率，该模型是竞争者数量、算力分布以及点对点基础设施上的区块传播时间的函数。我们提供了分析公式和数值结果，以校准和解释区块链系统中的经验分叉率。尽管模型基于一些相对简化的假设，例如矿池内部传播延迟为零，但其预测的分叉率与实际观测到的孤块率较为吻合。该模型形式化地描述了区块传播延迟和总算力对分叉率的正向影响，并提出算力集中度增加会降低分叉发生的可能性。我们的工作为未来分布式网络共识动态的研究提供了坚实的数学基础。

报告人简介: 现任英国伦敦大学学院金融计算副教授，研究领域为区块链技术和数字金融与安全。她担任计算机学院新兴数字科技研究生专业的带头人，同时也是分布式账本科技基金会的学术带头人。她在多所国际知名大学教授金融科技相关课程，其中包括伦敦商学院、苏黎世大学、拉美货币研究中心，其金融科技跨学科领域的研究成果发表在国际计算机安全顶会及商科顶刊。她在中国复旦大学取得本科学位，在德国曼海姆大学获得硕士学位，在瑞士圣加仑大学取得博士学位，并于任教前在瑞士联邦理工大学任博士后研究员。

报告六

报告题目：去中心化金融安全

报告人：吴聪 香港大学 博士后研究员

报告时间：2024 年 10 月13 日（周日） 14:45-15:15

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：Web3与去中心化金融的技术变革，已悄然从根本上重塑数字金融的基础结构，为全球经济带来了去信任化的创新，同时也预示着更多新的机遇与安全挑战，尤其是在反欺诈、反洗钱、链上钓鱼活动检测、价格操纵检测等方面。去中心化金融系统的开放性与监管缺失使得这些威胁问题愈加复杂严峻，严重影响了链上加密资产的安全与稳定。本报告将分享吴聪博士在去中心化金融领域的最新研究进展与解决方案，剖析中心化金融安全态势，着重介绍两个重要研究案例：链上欺诈代币分析与检测、链上钓鱼风险分析与检测，并探讨Web3安全与去中心化金融安全未来发展方向。

报告人简介:吴聪，现任香港大学博士后研究员，研究方向为分布式智能系统安全，具体包括分布式学习安全与隐私、区块链安全、系统安全、大模型安全。加入香港大学之前，他曾是新加坡南洋理工大学网络空间安全实验室博士后研究员，他2022年于云顶集团yd1233获博士学位，2017年于西安电子科技大学获学士学位。其代表研究成果发表在国际顶级会议期刊，包括CCS、USENIX Security、ASE、TIFS、TDSC、JSAC、TMC等。他曾获香港大学研究委员会博后奖学金、2023年中国网络空间安全大会优秀论文奖、国家教育部第二届网络空间安全产学协同育人优秀案例评选一等奖等荣誉。他受邀担任IJCS、SPY副主编、ISSCC-IWCMC 2025会议主席、多个国内外顶级会议期刊审稿人及程序委员会成员、包括CCS、USENIX Security、NDSS、WWW、MM、TIFS、TDSC、TKDE、TOSEM、Proceedings of the IEEE、JSAC、TOPS等、多个安全专刊首席客座编辑：Advances in Security for Emerging Intelligent System；Security and Privacy in Emerging Edge AI Systems and Applications

报告七

报告题目： 可信和高效的联邦学习技术研究

报告人： 韦康 香港理工大学 博士后研究员

报告时间：2024 年 10 月13 日（周日） 15:15-15:45

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：联邦学习通过用户本地模型训练与服务器模型聚合的迭代方式实现学习过程，可一定程度上保障用户隐私，已逐步成为数据价值挖掘的重要手段。然而，由于联邦学习需要用户端模型多次传输，其存在训练效率低和隐私泄露等问题。因此，设计可信和高效的联邦学习架构具有重大的研究价值。本报告将介绍机器学习优化器与差分隐私保护联邦学习的研究工作。首先，本报告将介绍一种改进的差分隐私保护联邦学习算法，即DP-FedSAM，其利用锐度感知最小化优化器增强本地训练过程中参数的抗随机噪声和泛化能力，以减轻差分隐私对联邦学习训练的负面影响。然后，本报告提出ADAM优化器与联邦学习结合的算法，即A2OCS，可以降低本地用户训练过程中梯度估计的噪声方差并加速联邦学习的收敛速率，从而在保证隐私性前提下进一步提升模型可用性。最后，本报告与听众探讨差分隐私保护联邦学习未来的若干研究方向。

报告人简介: 现任香港理工大学博士后研究员，他于2010年8月至2014年6月获得西安电子科技大学学士学位，于2017年9月至2023年1月硕博连读获得南京理工大学博士学位。曾于2021年6月至2021年12月参加腾讯犀牛鸟科研精英人才培养计划任研究员。主要研究方向包括分布式机器学习、隐私计算、存储编码、纠错码与信息论。已发表多篇顶级的期刊和会议论文，包括ICML, CVPR, IEEE JSAC, IEEE TIFS等，研究成果获得IEEE信号处理学会2022最佳论文奖、Wiley中国开放科学2022年度作者，2023年中国电子学会网络空间安全大会优秀学术论文和2021年美国国立卫生研究院Idash隐私计算大赛第一名等奖项。

报告八

报告题目：神经代码模型安全

报告人：孙伟松 新加坡南洋理工大学 博士后研究员

报告时间：2024 年 10 月13 日（周日） 15:45-16:15

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：随着深度学习技术在自然语言处理等领域取得巨大成功，软件工程研究者也将其引入到程序语言处理中，尤其是代码智能任务求解。利用大规模开源代码数据集训练的神经网络模型在各种代码智能任务（例如漏洞检测、代码生成、代码摘要等）上展现出令人印象深刻且极具前景的效果。我们将使用代码数据集训练的神经网络模型统称为神经代码模型。然而，由于神经网络的脆弱性和不可解释性，与自然语言处理模型与图像处理模型一样，神经代码模型安全也面临众多挑战，已同时受到软件工程、人工智能、安全领域的关注。该报告将聚焦神经代码模型面临的安全问题，探讨最新研究成果，揭示挑战、趋势与机会。

报告人简介:孙伟松，现新加坡南洋理工大学博士后研究员，于2023年在南京大学获得软件工程博士学位。主要研究方向包括智能软件工程、可信人工智能、以及两个领域的交叉研究（可信智能软件工程）。目前已在软件工程、人工智能以及安全领域的国内外高水平会议和期刊（例如ICSE、FSE、ASE、ISSTA、ACL、TDSC、TSE、TOSEM等）发表论文30余篇。曾担任国际人工智能可靠性和安全性研讨会（2024 International Workshop on AI Reliability and Security）的联合主席，多个国内外会议或期刊审稿人（例如ICSE 2025、ICLR 2025、NeurIPS 2024、ISSRE 2024、ACL 2024、TSE、TOSEM、软件学报等）。受邀担任多个客座编辑专刊：Security and Privacy in Emerging Edge AI Systems and Applications; Large Language Models for Software Engineering and Software Applications的。

报告九

报告题目：智能软件系统的公平性测试与提升

报告人：陈震鹏 新加坡南洋理工大学 博士后研究员、英国伦敦大学学院荣誉研究员

报告时间：2024 年 10 月13 日（周日） 16:15-16:45

报告地点：国家网络安全人才与创新基地网安学院新珈楼B101

报告简介：公平性已成为智能软件系统的一项重要需求，受到政策制定者、学术界和工业界的广泛关注。现有智能软件系统常常无法为不同用户群体提供公平的高质量服务，并在决策过程中表现出对特定群体的不公。这种不公平可能对受保护群体产生负面影响，导致不道德、不可接受的后果，甚至可能引发法律和经济风险。本报告将介绍陈震鹏博士在智能软件系统公平性测试与提升方面的研究进展。

报告人简介: 陈震鹏，现任新加坡南洋理工大学博士后研究员，英国伦敦大学学院荣誉研究员，于2016年和2021年在北京大学分别获得学士学位和博士学位，主要研究方向为软件工程、人工智能和万维网等。在ICSE、FSE、WWW、TOSEM等CCF-A类会议和期刊发表论文30余篇，曾获WWW最佳论文奖（中国首个）、ACM SIGSOFT杰出论文奖、微软学者、CCF优博、北京市优博等荣誉。研究成果被ACM通讯、New Scientist等媒体广泛报道。受邀担任ICSE、ASE、WWW、KDD等国际会议程序委员会委员和TSE、TOSEM、TMC等国际期刊审稿人，获得ASE 2023、Internetware 2024杰出程序委员会委员及TOSEM、TWEB杰出审稿人等荣誉。

欢迎老师和同学们积极参与学习交流！