可解释性 AI在药物研发中不是为了“看起来透明”，而是为了帮助化学家判断：模型为什么推荐这个分子？它是否学到了错误偏差？这个解释能否转化成可合成、可验证的 SAR 假设？
常见解释方式
- 原子/子结构归因：标出哪些原子或片段推动预测。
- 相似案例：展示训练集中最相近的已知分子和实验结果。
- 注意力/交互图：在 DTI、Transformer 模型中显示模型关注区域。
- 反事实解释：回答“改哪个基团会让预测变好/变坏”。
如何防止伪解释
- 解释要和已知 SAR、结构相互作用、突变/取代实验交叉验证。
- 注意力权重不一定等于因果贡献，不能直接写成机制证据。
- 解释应能指导下一轮设计，而不是只提供漂亮图片。
关键要点
- 解释的价值在纠错、沟通和生成可验证 SAR；
- 热图和注意力不是天然机制证据；
- 好的解释应能转化为下一轮实验设计。
延伸资源
- 配套：073《SAR》、141《MolTrans》、169《Benchmark 陷阱》。