Jacobian Matrix
Jacobian Matrix考虑$f(x)=x^2$，求导得$\frac{df}{dx}=2x$ 当进入多元函数(Multi-Variable Functions)，比如$f(x_1, x_2)=x_1^2+3x_1 x_2 +x_2^2$，则：$$\frac{\partial f}{\partial x_1} = 2x_1 + 3x_2 \quad \frac{\partial f}{\partial x_2} = 3x_1 + 2x_2$$当我们不仅有一个包含多个变量的函数，而且有多个函数，且均为多元函数：$$\mathbf{f}(\mathbf{x}) = \begin{pmatrix} f_1(x_1, x_2) \ f_2(x_1, x_2) \end{pmatrix} = \begin{pmatrix} x_1^2 + x_2 \ x_1 + x_2^2 \end{pmatrix}$$上式代表二维输入空间到二维输出空间的映射 现在我们定义雅可比矩阵(Jacobian Matrix)：$$J_f...
FB-PINN论文阅读02-基本原理
Note在FB-PINN中，问题域$\Omega \subset \mathbb{R}^d$被细分为$n$个重叠的子域$\Omega_i \subset \Omega$，子域的细分可以为任意类型，规则或不规则，且可以有任何重叠宽度（但子域之前有重叠是必须的）。简单起见，我们展示一种规则细分（超矩形划分）： 我们有近似解：$$\hat{u}(x;\theta) = \mathcal{C}\left[ \overline{NN}(x;\theta) \right]$$这里$x \in \Omega \subset \mathbb{R}^d$，物理坐标；$\overline{NN}(x;\theta)$是把所有子域网络加一起的函数；$\mathcal{C}$是约束算子，用于硬边界 其中：$$\overline{NN}(x;\theta) = \sum_{i}^{n} w_i(x) \cdot \text{unnorm} \circ NN_i \circ...
FB-PINN论文阅读01-归一化与硬约束
Note对于PINN，通常损失有基本的两项构成，物理损失和边界损失： $$\mathcal{L}(\theta) = \mathcal{L}_p(\theta) + \mathcal{L}_b(\theta),$$ 二者有以下形式： $$\mathcal{L}p(\theta) = \frac{1}{N_p} \sum{i}^{N_p} | \mathcal{D}[NN(x_i; \theta); \lambda] - f(x_i) |^2,$$ $$\mathcal{L}b(\theta) = \sum{k} \frac{1}{N_{bk}} \sum_{j}^{N_{bk}} | \mathcal{B}k[NN(x{kj}; \theta)] - g_k(x_{kj}) |^2,$$ 上面这种称为软约束，在实际训练中二者通常有冲突，并且调整二者的权重系数也是个繁琐的工作。对此，可以将边界条件直接融入近似解，作为其中必然满足的一部分，如对于波动方程： $$\left[ \nabla^2 - \frac{1}{c^2}...
Dual-Balancing PINN论文阅读（下）
DB-PINN 现在我们看到上图中红色框内部分，结合了难度系数后，GW-PINN过渡到了DB-PINN，融合了跨平衡(inter-balancing)和内平衡(intra-balancing)。 类似GW-PINN中method 1用max和mean，以DB-PINN中的DB_PINN_mean为例，首先等价做GW-PINN，对每个条件项$i \in { \text{bc}, \text{ic}, \text{d} }$计算比值：$$\frac{S_r}{S_i} = \frac{\max |\nabla L_r|}{\operatorname{mean} |\lambda_i \nabla L_i|}$$然后求和$\sum \frac{S_r}{S_i}=G$，得到总尺度，命名为 hat_all 。 1hat_all = maxr/meanb + maxr/meani + maxr/meand 直觉：如果条件项整体比 PDE 残差“弱”很多，hat_all...
