Wenzhe Sheng Wenzhe Sheng blue-sky lab notebook

Blog Entry / 公众号母稿

从反演问题到生成模型:为什么我开始重新理解“先验”

这类详情页的重点不是炫技,而是让长文、公式、补充材料和公众号同步状态都能安静地放在同一个页面里。

Featured Observation

从反演问题到生成模型:为什么我开始重新理解“先验”

我一开始把“先验”理解成一种外加约束:数据不够时,给模型加一点额外偏好。但最近读 FWI 和生成模型相关论文时,我越来越觉得这个说法太粗糙。

更准确的问题也许不是“要不要加先验”,而是:当观测数据不足以唯一决定答案时,我们希望模型借用哪一种结构性知识?

Motivation

在反演问题里,我们常常只有间接观测。速度模型、地下结构、边界条件和噪声都会影响最终结果。单纯优化数据 misfit 很容易得到看似合理但物理上不稳定的解。

minm L(d, F(m)) + λ R(m)

这个表达式看起来简单,但真正困难的是右边的 R(m):它到底是在惩罚什么?是在鼓励光滑、边缘、稀疏,还是某种从数据集中学来的地质结构?

A Small Mathematical View

如果把生成模型看成一个结构分布的近似,那么先验就不再只是正则项,而是一个“可采样的知识空间”。这会改变我们看待实验失败的方式:失败不一定来自优化器,也可能来自训练分布与反演目标之间的错位。

Revision note v0.3 版本准备补一张示意图:把 classical regularization、learned prior 和 diffusion prior 放在同一张坐标轴上比较。

Experiment Note

最近一次二维速度模型实验里,我发现 score prior 接入后结果并不稳定。复盘后更像是尺度问题:训练样本的速度范围、归一化方式和反演数据的物理尺度没有对齐。

Wechat Version

公众号版本可以删去部分公式,把主线改成三个问题:为什么反演会不适定?先验到底在提供什么?生成模型为什么可能成为新的先验表达方式?