网络科学中的可解释性与因果
两种“解释”
讨论网络模型的可解释性时，要区分两个问题：
- 模型解释：模型为什么做出这个预测？例如 GNN 的预测依赖于哪些节点、边和特征。
- 机制解释：生物系统为什么表现出这个现象？例如哪些分子相互作用导致了疾病表型。
前者是后者的必要条件而非充分条件：即使准确找出了模型依赖的子图，那也只是模型学到的统计规律，可能来自数据偏倚而不是生物机制。
事后解释与内在可解释
- 事后解释方法：基于梯度的显著性图和类激活映射（DeepFRI 用它定位功能残基）；GNNExplainer（Ying 等，2019）为每个预测寻找一个对预测影响最大的紧凑子图和特征子集；注意力权重（GAT）也常被当作解释，但注意力大小与因果重要性并不等价。
- 内在可解释的模型：模型结构本身对应科学概念，例如网络邻近度、扩散得分、元路径计数（Hetionet，见异质网络、知识图谱与图机器学习）、稀疏线性模型。Rudin（2019）主张，在高风险决策中应优先使用内在可解释的模型，而不是先训练黑箱再去解释它。
事后解释的局限：不同解释方法对同一预测常给出不同的重要子图；解释结果对随机种子和输入扰动敏感；解释的“合理性”往往由研究者根据已有知识判断，容易产生确认偏差。报告解释结果时，应检验其稳定性（多次训练、多种方法），并用独立证据（文献、实验）而不是“看起来合理”来评价。
网络中的因果问题
本站各专题中出现的网络，大多数边表示的是统计依赖而不是因果作用：
| 网络 | 边的含义 | 能否直接回答“干预 会怎样” |
|---|---|---|
| 功能连接（相关） | 两个信号的同步变化 | 不能，共同输入、间接通路都会产生相关 |
| 偏相关网络、高斯图模型 | 给定其他变量后的条件依赖 | 不能，无向且对未测混杂敏感（见横断面统计依赖与因果作用） |
| 共表达网络 | 表达量协同变化 | 不能（见网络推断问题） |
| 物理相互作用网络（PPI） | 两分子可以结合 | 只说明可能性，不说明在某细胞状态下是否发生、方向如何 |
| 调控网络（有扰动数据支持） | 转录因子对靶基因的调控 | 部分可以，取决于扰动实验的覆盖 |
从观测数据推断因果网络需要额外假设：有向无环图（DAG）框架下的因果发现算法要求因果充分性（无未测混杂）和忠实性；格兰杰因果只表示时间上的可预测性；有效连接模型（如动态因果模型）需要预设候选结构。最直接的证据来自干预：基因敲除或 CRISPR 扰动（结合单细胞测序的大规模扰动筛选）、药物处理、脑刺激。
网络结构指标同样需要谨慎地解读为因果：中心性高的节点不一定是干预的最佳靶点——枢纽可能只是因为被研究得多（研究偏倚），或者只是许多通路的“下游汇合点”。网络可控性与稳定性提供了从动力学模型出发讨论“干预哪里”的框架，但它的结论依赖于动力学模型和网络结构的正确性。
因果表示学习：Schölkopf 等（2021）讨论了把因果推断与表示学习结合的方向——从高维观测中学习具有因果意义的变量，使模型在分布变化和干预下仍然有效。对生物医学网络而言，这意味着把扰动数据、时间信息和先验网络结合起来，而不是只在观测关联上训练预测模型。这一方向仍处于早期。
从预测到机制的证据链：一项可信的网络预测研究通常包括（1）网络或模型预测候选靶点、药物或基因；（2）与度基线、随机基线和已有方法比较；（3）在独立数据集（另一队列、另一数据库版本、时间上更晚的记录）中验证；（4）关键预测用干预实验（敲除、药物处理）检验。Stokes 等（2020）的抗生素发现和 Gysi 等（2021）的 COVID-19 药物重定位研究（见药物重定位：从网络预测到外部验证）都包含了实验验证环节。