正如我们看到的,不管是高斯分布还是离散的输入,后验类概率密度都是由一般的线性模型和logistic sigmoid函数(个类别)或softmax(个类别)激活函数给出。这些都可以看成,当类条件密度是指数族分布的成员时得到结果的特例。

使用式(2.194)定义的指数族成员,得到分布的形式为

现在,我们把注意力集中在这样的分布上,然后使用式(2.236)引入一个缩放参数,那么我们就可以得到形式为

注意,我们已经允许各个类别有自己的参数向量,但是我们假设这些类别共享一个同样的伸缩参数

对于二分类问题,我们把这个类条件密度表达式代入式(4.58),得到类的后验概率同样由形式为

的线性函数上的logistic sigmoid给出。

同样的,对于个类别问题,我们把类条件密度代入式(4.63)得到

这也是的线性函数。

results matching ""

    No results matching ""