让我们先考虑关于$\alpha$来最大化$p(\textbf{t}|\alpha,\beta)$。首先定义特征方程：

$$(\beta\Phi^T\Phi)u_i = \lambda_iu_i \tag{3.87}$$

根据式（3.81）得到$A$的特征值$\alpha + \lambda_i$。现在考虑式（3.86）中涉及$\ln \vert A \vert$的项关于$\alpha$的导数。得到：

$\frac{d}{d\alpha}\ln\vert A \vert = \frac{d}{d\alpha}\ln\prod\limits_i(\lambda_i + \alpha) = \frac{d}{d\alpha}\sum\limits_i\ln(\lambda_i + \alpha) = \sum\limits_i\frac{1}{\lambda_i + \alpha} \tag{3.88}$

因此式（3.86）关于$\alpha$的驻点满足

$$0 = \frac{M}{2\alpha} - \frac{1}{2}m_N^Tm_N - \frac{1}{2}\sum\limits_i\frac{1}{\lambda_i + \alpha} \tag{3.89}$$

乘以$2\alpha$，整理，可得

$$\alpha m_N^Tm_N = M - \alpha\sum\limits_i\frac{1}{\lambda_i+\alpha} = \gamma \tag{3.90}$$

由于关于$i$的求和项有$M$个，因此$\gamma$可以写成：

$$\gamma = \sum\limits_i\frac{\lambda_i}{\alpha + \lambda_i} \tag{3.91}$$

稍后讨论$\gamma$的解释。根据方程（3.90），得到使得边缘似然函数最大化的$\alpha$满足：

$$\alpha = \frac{\gamma}{m_N^Tm_N} \tag{3.92}$$

注意，这是$alpha$的一个隐式解，不仅仅因为$\gamma$与$\alpha$相关，还因为后验分布众数$m_N$本身也与$\alpha$的选择有关。因此我们使用迭代的方法求解。首先我们选择一个$\alpha$的初始值，再把这个初始值代入式（3.53）求得$m_N$，利用式（3.91）计算得到$\gamma$，然后这些值再被代入式（3.92）来重新估计$\alpha$的值。 不断执行这个过程直至收敛。注意，由于矩阵$\Phi^T\Phi$是固定的，因此我们只需要在最开始的时候计算一次特征值，然后接下来只需乘以$beta$就可以得到$\lambda_i$的值。

需要强调的是，$\alpha$的值是完全通过训练集的数据来确定的。最大似然方法不同，模型的最优的复杂度不需要独立的数据集。

类似地，我们可以关于$\beta$最大化对数边缘似然函数（3.86）。为了达到这个目的，我们注意到由式（3.87）定义的特征值$\lambda_i$正比于$\beta$，即$d\lambda_i/d\beta = \lambda_i/\beta$，得到：

$$\frac{d}{d\beta}\ln\vert A\vert = \frac{d}{d\beta}\sum\limits_i\ln(\lambda_i + \alpha) = \frac{1}{\beta}\sum\limits_i\frac{\lambda_i}{\lambda_i+\alpha} = \frac{\gamma}{\beta} \tag{3.93}$$

因此，边缘似然的驻点满足：

$$0 = \frac{N}{2\beta}-\frac{1}{2}\sum\limits_{n=1}^N\{t_n - m_N^T\phi(x_n)\}^2 - \frac{\gamma}{2\beta} \tag{3.94}$$

整理可得：

$$\frac{1}{\beta} = \frac{1}{N - \gamma}\sum\limits_{n=1}^N\{t_n - m_N^T\phi(x_n)\}^2 \tag{3.95}$$

与之前一样，这是$\beta$的一个隐式解，可以通过迭代的方法解出。首先选择$\beta$的一个初始值，然后使用这个初始值计算$m_N, \gamma$，然后使用式（3.95）重新估计$\beta$的值，重复直到收敛。如果$\alpha, \beta$的值都是由数据确定的，那么他们的值可以在每次更新$\gamma$之后一起重新估计。