Nature子刊:复杂网络系统韧性的深度学习预测方法

Oct 24, 2024

 

近日,清华大学电子系城市科学与计算研究中心在复杂网络系统韧性预测的研究中取得进展,提出了与传统理论分析截然不同的数据驱动研究范式,通过直接建模复杂网络的动态观测数据,学习提取系统韧性的有效表征,可在不掌握动力学方程的情况下实现对系统韧性的准确预测。该成果不仅为复杂系统研究提供了一种新的视角,更为真实世界复杂网络与系统(如电力系统、通信网络、城市系统、生态系统等)的实际应用提供了重要的技术方法。

复杂网络的韧性是指系统在经历内部故障或外部扰动时维持系统正常功能的能力,是刻画系统抗干扰能力的一种重要基本属性。韧性强的复杂网络系统应能在一定幅度的任意扰动后始终收敛回可维持正常功能的稳定平衡状态。已有研究表明,系统韧性的丧失通常会产生重大影响。例如,在生态系统中,系统韧性丧失可直接导致大规模的物种灭绝,凸显了系统韧性预测的重要意义。自上世纪中叶开始,复杂网络系统领域的学者长期研究系统的韧性问题,近年来,领域内涌现出众多基于平均场理论、谱理论的韧性分析方法,对于推动学科发展具有重要影响力。然而,这些理论分析方法依赖于对系统动力学方程的精确掌握及系统节点连接无倾向性的假设,在面对动力学方程难以准确测量及拓扑结构复杂多样的真实世界网络系统时,理论分析框架的可用性、准确性受到严峻挑战。

图1. 理论分析方法在系统节点存在倾向性连接时难以保证准确预测. 对于具有同配或异配连接的网络,该方法在互利共生动力学(左列)、基因调控动力学(中列)和神经元动力学(右列)中的韧性预测结果与网络实际韧性情况不一致.

 

电子系城市科学与计算研究中心创新性地提出了数据驱动的复杂系统韧性预测方法。该方法提出了复杂系统动力学的深度学习基础模型,以系统邻接矩阵形式的拓扑结构和初始若干步节点状态演化轨迹作为输入,使用Transformer编码器从观测到的节点演化轨迹中捕捉节点状态的相关性,挖掘复杂网络系统隐含的动力学机制,进而使用图神经网络模型建模复杂网络系统的拓扑结构,递归聚合各节点的邻接信息,生成节点级表征;进一步地,各节点表征通过注意力池化操作整合为系统表征,从而预测该系统的韧性。

图2. 基于深度学习的数据驱动复杂网络系统韧性推断方法ResInf.

 

研究团队分别在具有互利共生动力学、基因调控动力学、神经元动力学的复杂网络上开展韧性预测实验。结果表明,所提出方法在上述复杂网络的韧性预测任务中表现出色,显著优于理论分析方法和其他基线方法。值得强调的是,该方法首次在动力学方程未知、理论分析方法不适用的真实生态系统的韧性预测任务中取得了优异性能,这一突破展示了所提出方法的范式创新和重大应用价值。研究团队进一步发现,通过在覆盖多种韧性丧失模式的合成系统数据上预训练模型,可有效迁移到动力学方程未知的真实复杂系统,取得与在真实数据上训练相当的预测性能。这进一步证明了即使在缺乏精确动力学方程描述的系统中,数据驱动的深度学习模型仍然可以准确建模系统演变的动态规律,实现系统韧性的端到端预测,显著降低了对真实数据采集和标注的依赖,极大拓展了应用场景。此外,所提出方法在面对与训练集不同的网络拓扑结构和系统动力学机制的测试数据时,表现出良好的泛化能力;在面对数据中的观测噪声时,该方法仍能保持稳健的预测性能。

图3. 合成复杂网络系统上的韧性推断性能. (a) 互利共生系统. (b) 基因调控系统. (c) 神经元系统.

图4. 真实微生物系统的韧性推断性能. (a) 韧性/非韧性微生物系统物种相对丰度随时间变化样例. (b) 直接在真实微生物系统数据训练的各模型的韧性推断性能. (c) 在合成系统数据训练的各模型的韧性推断性能.

 

相关成果以“复杂网络系统韧性的深度学习预测方法”(“Deep Learning Resilience Inference for Complex Networked Systems”)为题在《自然·通讯》(Nature Communications)上发表。该成果展现了数据驱动的深度学习方法在复杂网络与系统研究方向中的潜力,为以人工智能方法创新该方向的研究提供了一个极具前景的途径,助力提升真实世界复杂网络系统的韧性和应急响应能力。

清华大学电子系城市科学与计算研究中心博士生刘畅、助理教授徐丰力为论文共同第一作者,共同作者包括清华大学北京信息科学与技术国家研究中心助理研究员高宸、清华大学电子系教授王昭诚、清华大学电子系教授李勇和美国伦斯勒理工学院教授高建喜。该研究成果得到了国家重点研发计划(2022ZD0116402),国家自然科学基金(23IAA02114, U22B2057),清华大学-丰田研究中心等项目支持。