最大熵模型原理小结

编程之家收集整理的这篇文章主要介绍了最大熵模型原理小结编程之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。

搜索热词

   最大熵模型(maximum entropy model, MaxEnt)也是很典型的分类算法了,它和逻辑回归类似,都是属于对数线性分类模型。在损失函数优化的过程中,使用了和支持向量机类似的凸优化技术。而对熵的使用,让我们想起了决策树算法中的ID3和C4.5算法。理解了最大熵模型,对逻辑回归,支持向量机以及决策树算法都会加深理解。本文就对最大熵模型的原理做一个小结。

1.  熵和条件熵的回顾

  在决策树算法原理(上)一文中,我们已经讲到了熵和条件熵的概念,这里我们对它们做一个简单的回顾。

  熵度量了事物的不确定性,越不确定的事物,它的熵就越大。具体的,随机变量X的熵的表达式如下:$$H(X) = -\sum\limits_{i=1}^{n}p_i logp_i$$

  其中n代表X的n种不同的离散取值。而$p_i$代表了X取值为i的概率,log为以2或者e为底的对数。

  熟悉了一个变量X的熵,很容易推广到多个个变量的联合熵,这里给出两个变量X和Y的联合熵表达式:

$$H(X,Y) = -\sum\limits_{x_i \in X}\sum\limits_{y_i \in Y}p(x_i,y_i)logp(x_i,y_i)$$

  有了联合熵,又可以得到条件熵的表达式H(Y|X),条件熵类似于条件概率,它度量了我们的Y在知道X以后剩下的不确定性。表达式如下:

$$H(Y|X) = -\sum\limits_{x_i \in X}\sum\limits_{y_i \in Y}p(x_i,y_i)logp(y_i|x_i) = \sum\limits_{j=1}^{n}p(x_j)H(Y|x_j) $$

  用下面这个图很容易明白他们的关系。左边的椭圆代表H(X),右边的椭圆代表H(Y),中间重合的部分就是我们的互信息或者信息增益I(X,Y),左边的椭圆去掉重合部分就是H(X|Y),右边的椭圆去掉重合部分就是H(Y|X)。两个椭圆的并就是H(X,Y)。

2.  最大熵模型的定义

  最大熵模型假设分类模型是一个条件概率分布$P(Y|X)$,X为特征,Y为输出

  给定一个训练集${(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),... ,(x^{(m)},y^{(m)})}$,其中x为n维特征向量,y为类别输出。我们的目标就是用最大熵模型选择一个最好的分类类型。

  在给定训练集的情况下,我们可以得到总体联合分布$P(X,Y)$的经验分布$\overline{P}(X,Y)$,和边缘分布$P(X)$的经验分布$\overline{P}(X)$。$\overline{P}(X,Y)$即为训练集中X,Y同时出现的次数除以样本总数m,$\overline{P}(X)$即为训练集中X出现的次数除以样本总数m。

  用特征函数$f(x,y)$描述输入x和输出y之间的关系。定义为:

$$f(x,y)=\left\{\begin{matrix}

1 & x和y满足某个关系\\
0 & 否则
\end{matrix}\right.$$ 

  可以认为只要出现在训练集中出现的$(x^{(i)},y^{(i)})$,其$f(x^{(i)},y^{(i)}) = 1$. 同一个训练样本可以有多个约束特征函数

  特征函数$f(x,y)$关于经验分布$\overline{P}(X,Y)$的期望值,用$E_{\overline{P}}(f)$表示为:$$E_{\overline{P}}(f) = \sum\limits_{x,y}\overline{P}(x,y)f(x,y)$$   

  特征函数$f(x,y)$关于条件分布$P(Y|X)$和经验分布$\overline{P}(X)$的期望值,用$E_{P}(f)$表示为:

$$E_{P}(f) = \sum\limits_{x,y}\overline{P}(x)P(y|x)f(x,y)$$

  如果模型可以从训练集中学习,我们就可以假设这两个期望相等。即:

$$E_{\overline{P}}(f) = E_{P}(f)$$ 

  上式就是最大熵模型学习的约束条件,假如我们有M个特征函数$f_i(x,y) (i=1,2...,M)$就有M个约束条件。可以理解为我们如果训练集里有m个样本,就有和这m个样本对应的M个约束条件。

  这样我们就得到了最大熵模型的定义如下:

  假设满足所有约束条件的模型集合为:

$$E_{\overline{P}}(f_i) = E_{P}(f_i) (i=1,2,...M)$$ 

  定义在条件概率分布$P(Y|X)$上的条件熵为:

$$H(P) = -\sum\limits_{x,y}\overline{P}(x)P(y|x)logP(y|x)$$

  我们的目标是得到使$H(P)$最大的时候对应的$P(y|x)$,这里可以对$H(P)$加了个负号求极小值,这样做的目的是为了使$-H(P)$为凸函数,方便使用凸优化的方法来求极值。 

3.  最大熵模型损失函数的优化

  在上一节我们已经得到了最大熵模型的函数$H(P)$。它的损失函数$-H(P)$定义为:

$$ \underbrace{ min }_{P} -H(P) = \sum\limits_{x,y}\overline{P}(x)P(y|x)logP(y|x)$$

  约束条件为:

$$E_{\overline{P}}(f_i) - E_{P}(f_i) = 0 (i=1,...M) $$

$$\sum\limits_yP(y|x) = 1 $$

  由于它是一个凸函数,同时对应的约束条件为仿射函数,根据凸优化理论,这个优化问题可以用拉格朗日函数将其转化为无约束优化函数,此时损失函数对应的拉格朗日函数$L(P,w)$定义为:  

$$L(P,w) \equiv -H(P) + w_0(1 - \sum\limits_yP(y|x)) + \sum\limits_{i=1}^{M}w_i(E_{\overline{P}}(f_i) - E_{P}(f_i))$$ 

  其中$w_i(i=1,...m)$为拉格朗日乘子。如果大家也学习过支持向量机,就会发现这里用到的凸优化理论是一样的,接着用到了拉格朗日对偶也一样。、

  我们的拉格朗日函数,即为凸优化的原始问题:$\underbrace{ min }_{P} \underbrace{ max }_{w}L(P,w)$

  其对应的拉格朗日对偶问题为:$\underbrace{ max}_{w} \underbrace{ min }_{P}L(P,w)$

  由于原始问题满足凸优化理论中的KKT条件,因此原始问题的解和对偶问题的解是一致的。这样我们的损失函数的优化变成了拉格朗日对偶问题的优化。

  求解对偶问题的第一步就是求$\underbrace{ min }_{P}L(P,w)$,这可以通过求导得到。这样得到的$\underbrace{ min }_{P}L(P,w)$是关于w的函数。记为:

$$\psi(w) = \underbrace{ min }_{P}L(P,w) = L(P_w,w)$$

  $\psi(w)$即为对偶函数,将其解记为:

$$P_w = arg \underbrace{ min }_{P}L(P,w) = P_w(y|x)$$

  具体的是求$L(P,w)$关于$P(y|x)$的偏导数:

$$\frac{\partial L(P,w)}{\partial P(y|x)} = \sum\limits_{x,y}\overline{P}(x)(logP(y|x) +1) -  \sum\limits_yw_0 - \sum\limits_{x,y}(\overline{P}(x)\sum\limits_{i=1}^{M}w_if_i(x,y))$$ 

$$ = \sum\limits_{x,y}\overline{P}(x)(logP(y|x) +1- w_0 -\sum\limits_{i=1}^{M}w_if_i(x,y))$$

  令偏导数为0,可以解出$P(y|x)$关于$w$的表达式如下:

$$P(y|x) = exp(\sum\limits_{i=1}^{M}w_if_i(x,y) +w_0 -1) = \frac{exp(\sum\limits_{i=1}^{M}w_if_i(x,y))}{exp(1-w_0)}$$    

  由于$\sum\limits_yP(y|x) = 1 $,可以得到$P_w(y|x)$的表达式如下:

$$P_w(y|x) = \frac{1}{Z_w(x)}exp(\sum\limits_{i=1}^{M}w_if_i(x,y))$$ 

  其中,$Z_w(x)$为规范化因子,定义为:

$$Z_w(x) = \sum\limits_yexp(\sum\limits_{i=1}^{M}w_if_i(x,y))$$ 

  这样我们就得出了$P(y|x)$和$w$的关系,从而可以把对偶函数$\psi(w)$里面的所有的$P(y|x)$替换成用$w$表示,这样对偶函数$\psi(w)$就是全部用$w$表示了。接着我们对$\psi(w)$求极大化,就可以得到极大化时对应的w向量的取值,带入$P(y|x)$和$w$的关系式, 从而也可以得到$P(y|x)$的最终结果。

  对$\psi(w)$求极大化,由于它是连续可导的,所以优化方法有很多种,比如梯度下降法,牛顿法,拟牛顿法都可以。对于最大熵模型还有一种专用的优化方法,叫做改进的迭代尺度法(improved iterative scaling,IIS)。

  IIS也是启发式方法,它假设当前的参数向量是$w$,我们希望找到一个新的参数向量$w+\delta$,使得对偶函数$\psi(w)$增大。如果能找到这样的方法,就可以重复使用这种方法,直到找到对偶函数的最大值。

  IIS使用的方法是找到$\psi(w + \delta) - \psi(w)$的一个下界$B(w|\delta)$,通过对$B(w|\delta)$极小化来得到对应的$\delta$的值,进而来迭代求解$w$。对于$B(w|\delta)$,它的极小化是通过对$\delta$求偏导数而得到的。

  由于IIS一般只用于最大熵模型,适用范围不广泛,这里就不详述算法过程了,感兴趣的朋友可以直接参考IIS的论文The improved iterative scaling algorithm: A gentle introduction

4.  最大熵模型小结

  最大熵模型在分类方法里算是比较优的模型,但是由于它的约束函数的数目一般来说会随着样本量的增大而增大,导致样本量很大的时候,对偶函数优化求解的迭代过程非常慢,scikit-learn甚至都没有最大熵模型对应的类库。但是理解它仍然很有意义,尤其是它和很多分类方法都有千丝万缕的联系。 

  惯例,我们总结下最大熵模型作为分类方法的优缺点:

  最大熵模型的优点有:

  a) 最大熵统计模型获得的是所有满足约束条件的模型中信息熵极大的模型,作为经典的分类模型时准确率较高。

  b) 可以灵活地设置约束条件,通过约束条件的多少可以调节模型对未知数据的适应度和对已知数据的拟合程度

  最大熵模型的缺点有:

  a) 由于约束函数数量和样本数目有关系,导致迭代过程计算量巨大,实际应用比较难。

 

本文转载自:https://www.cnblogs.com/pinard/p/6093948.html

 

总结

以上是编程之家为你收集整理的最大熵模型原理小结全部内容,希望文章能够帮你解决最大熵模型原理小结所遇到的程序开发问题。

如果觉得编程之家网站内容还不错,欢迎将编程之家网站推荐给程序员好友。

本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您喜欢寻找一群志同道合、互帮互助的学习伙伴,可以点击下方链接加入:
编程之家官方1群:1065694478(已满)
编程之家官方2群:163560250(已满)
编程之家官方3群:312128206(已满)
编程之家官方4群:230427597

相关文章

猜你在找的NLP相关文章

HMM模型将标注看作马尔可夫链,一阶马尔可夫链式针对相邻标注的关系进行建模,其中每个标记对应一个概率函数。HMM是一种生成模型,定义了联合概率分布,其中x和y分别表示观察序列和相对应的标注序列的随机变
一、GRU算法 GRU(Gate Recurrent Unit,循环门单元)是循环神经网络(Recurrent Neural Network, RNN)的一种。和LSTM(Long-Short Ter
本文简单整理了以下内容: (一)马尔可夫随机场(Markov random field,无向图模型)简单回顾 (二)条件随机场(Conditional random field,CRF) 这篇写的非常
什么是注意力(Attention)? 注意力机制可看作模糊记忆的一种形式。记忆由模型的隐藏状态组成,模型选择从记忆中检索内容。深入了解注意力之前,先简要回顾Seq2Seq模型。传统的机器翻译主要基于S
BERT 模型是 Google 在 2018 年提出的一种 NLP 模型,成为最近几年 NLP 领域最具有突破性的一项技术。在 11 个 NLP 领域的任务上都刷新了以往的记录,例如GLUE,SquA
一、前言 文本分类(Text Classification或Text Categorization,TC),或者称为自动文本分类(Automatic Text Categorization),是指计算
TextRank 算法是一种用于文本的基于图的排序算法,其基本思想来源于谷歌的 PageRank算法,通过把文本分割成若干组成单元(句子),构建节点连接图,用句子之间的相似度作为边的权重,通过循环迭代
目录 Transformer 1. 前言 2. Transformer详解3. 总结 2.1 Transformer整体结构 2.2 输入编码 2.3 Self-Attention 2.4 Multi