平码五不中公式规律
  • / 16
  • 下载费用:30 金币  

一种基于高斯混合模型和变分贝叶斯的粒子滤波方法.pdf

关 键 ?#21097;?/dt>
一种 基于 混合 模型 分贝 粒子 滤波 方法
  专利查询网所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
摘要
申请专利号:

CN201611165889.4

申请日:

2016.12.16

公开号:

CN106683122A

公开日:

2017.05.17

当前法律状态:

实审

?#34892;?#24615;:

审中

法?#19978;?#24773;: 实质审查的生效IPC(主分类):G06T 7/277申请日:20161216|||公开
IPC分类号: G06T7/277(2017.01)I 主分类号: G06T7/277
申请人: 华南理工大学
发明人: 陆湛; 赵智; 余卫宇
地址: 511458 广东省广州市南沙区环市大道?#19979;?5号华工大广州产?#24615;?/td>
优先权:
专利代理机构: 广州市华学知识产权代理有限公司 44245 代理人: 李斌
PDF完整版下载: PDF下载
法律状态
申请(专利)号:

CN201611165889.4

授权公告号:

|||

法律状态公告日:

2017.06.09|||2017.05.17

法律状态类型:

实质审查的生效|||公开

摘要

本发明公开了一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,包括以下步骤:1)对观测噪声使用高斯混合模型进行建模,初始化初始状态;2)基于初始状态的概率密度函数随机产生N个初始粒子;3)初始化观测噪声的高斯混合模型未知参数的超参数;4)从选用的重要性参考函数中生成采样粒子;5)量测更新,根据最新的观测值和粒子权值迭代公式计算粒子权值;6)使用变分贝叶斯方法通过循环迭代的方法求出高斯混合模型中未知参数的分布;7)对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样。通过上述方式,本发明?#34892;?#22320;提高了滤波精度以及对目标状态的估计性能。

权利要求书

1.一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特征在于:所述方法包括
以下步骤:
1)、对观测噪声使用高斯混合模型进行建模,初始化初始状态的概率密度函数p(x0),高
斯混合模型公式为:

其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的权重系数,
表示均值为μk,j,协方差为的高斯分布;
2)、基于初始状态的概率密度函数p(x0),随机产生N个初始粒子,N作为计算量和估计精
度之间的权衡;
3)、初始化观测噪声的高斯混合模型中的未知参数Ψk的超参数λ0,β0,m0,Σ0以及v0,下
标0表示初始化值;
4)、对T个时刻进行步骤5)至步骤8)的迭代操作;
5)、从重要性参考函数生成N个采样粒子选用
是先验概率密度函数,从粒子滤波的状态转移方程xk=f(xk-1)+uk中得到;
6)、量测更新,根据最新观测值和权值公式计算每个粒子
的权值
7)、使用变分贝叶斯学习方法通过循环迭代的方法求出高斯混合模型中未知参数的分
布,包括以下步骤:
变分贝叶斯期望步骤:隐变量β,m,Σ以及v分布的参数Nk,j、Sk,j参照下式进行更
新:
<mrow> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <munderover> <mi>&Sigma;</mi> <mrow> <mi>s</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>S</mi> </munderover> <msub> <mi>&gamma;</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow>
<mrow> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mfrac> <munderover> <mi>&Sigma;</mi> <mrow> <mi>s</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>S</mi> </munderover> <msub> <mi>&gamma;</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mrow> <mo>(</mo> <msubsup> <mi>y</mi> <mi>k</mi> <mi>s</mi> </msubsup> <mo>-</mo> <mi>h</mi> <mo>(</mo> <msubsup> <mi>x</mi> <mi>k</mi> <mi>i</mi> </msubsup> <mo>)</mo> <mo>)</mo> </mrow> </mrow>
<mrow> <msub> <mi>S</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mfrac> <munderover> <mi>&Sigma;</mi> <mrow> <mi>s</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>S</mi> </munderover> <msub> <mi>&gamma;</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mrow> <mo>(</mo> <msubsup> <mi>y</mi> <mi>k</mi> <mi>s</mi> </msubsup> <mo>-</mo> <mi>h</mi> <mo>(</mo> <msubsup> <mi>x</mi> <mi>k</mi> <mi>i</mi> </msubsup> <mo>)</mo> <mo>-</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> <msup> <mrow> <mo>(</mo> <msubsup> <mi>y</mi> <mi>k</mi> <mi>s</mi> </msubsup> <mo>-</mo> <mi>h</mi> <mo>(</mo> <msubsup> <mi>x</mi> <mi>k</mi> <mi>i</mi> </msubsup> <mo>)</mo> <mo>-</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> <mi>T</mi> </msup> </mrow>
变分贝叶斯最大化步骤:隐变量β,m,Σ以及v按照下式进行更新:
<mrow> <msub> <mi>&beta;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow>
<mrow> <msub> <mi>m</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <msub> <mi>&beta;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mfrac> <mrow> <mo>(</mo> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <msubsup> <mi>m</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> </mrow>
<mrow> <msub> <mi>&nu;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <msubsup> <mi>&nu;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow>
<mrow> <msubsup> <mi>&Sigma;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msubsup> <mo>=</mo> <msup> <mrow> <mo>(</mo> <msubsup> <mi>&Sigma;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>)</mo> </mrow> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <msub> <mi>S</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>+</mo> <mfrac> <mrow> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow> <mrow> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow> </mfrac> <mrow> <mo>(</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>-</mo> <msubsup> <mi>m</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>)</mo> </mrow> <mo>&times;</mo> <msup> <mrow> <mo>(</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>-</mo> <msubsup> <mi>m</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>)</mo> </mrow> <mi>T</mi> </msup> </mrow>
变分贝叶斯期望步骤和变分贝叶斯最大化步骤交替进行,随着迭代的不断重复,变分
下限L(q)逐渐增大,直到|L(t+1)(q)-L(t)(q)|<ε,迭代终止,ε是设置的误差限;
8)、对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样:重采样
对低权重粒子进行剔除,同时保留高权重粒子。
2.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特
征在于:所述步骤1)具体包括以下步骤:
1.1)、预先设定观测噪声的动态空间模型为:
xk=f(xk-1)+uk
yk=h(xk)+vk
其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk为过
程噪声,过程噪声uk被假设为零均值、协方差为Qk的高斯白噪声信号,vk为观测噪声,uk和vk
是相互独立?#27169;?#22312;处理目标跟踪问题时,假设目标的状态转移过程服从一阶马尔可夫模型,
即当前时刻的状态xk只与上一时刻的状态xk-1有关,另外假设观测值相互独立,即观测值yk
只与k时刻的状态xk有关;
1.2)、假设已知k-1时刻的概率密度函数为p(xk-1|Yk-1),其中p(·)指状态的概率密度
函数,p(·|·)是指状态的后验概率密度函数,贝叶斯滤波的具体过程如下:
一、预测过程,由p(xk-1|Yk-1)得到p(xk|Yk-1):
p(xk,xk-1|Yk-1)=p(xk|xk-1,Yk-1)p(xk-1|Yk-1)
?#22791;?#23450;xk-1时,状态xk与Yk-1相互独立,因此:
p(xk,xk-1|Yk-1)=p(xk|xk-1)p(xk-1|Yk-1)
上式两端对xk-1积分,可得:
p(xk|Yk-1)=∫p(xk|xk-1)p(xk-1|Yk-1)dxk-1
二、更新过程,由p(xk|Yk-1)得到p(xk|Yk):获取k时刻的测量yk后,利用贝叶斯公式对先
验概率密度进行更新,得到后验概率密度函数:
<mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>Y</mi> <mi>k</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>y</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>x</mi> <mi>k</mi> </msub> <mo>,</mo> <msub> <mi>Y</mi> <mrow> <mi>k</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>)</mo> </mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>Y</mi> <mrow> <mi>k</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>)</mo> </mrow> </mrow> <mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>y</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>Y</mi> <mrow> <mi>k</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>)</mo> </mrow> </mrow> </mfrac> </mrow>
假设yk只由xk决定,即:
p(yk|xk,Yk-1)=p(yk|xk)
因此:
<mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>Y</mi> <mi>k</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>y</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>x</mi> <mi>k</mi> </msub> <mo>)</mo> </mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>Y</mi> <mrow> <mi>k</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>)</mo> </mrow> </mrow> <mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>y</mi> <mi>k</mi> </msub> <mo>|</mo> <msub> <mi>Y</mi> <mrow> <mi>k</mi> <mo>-</mo> <mn>1</mn> </mrow> </msub> <mo>)</mo> </mrow> </mrow> </mfrac> </mrow>
其中,p(yk|Yk-1)为归一化常数:
p(yk|Yk-1)=∫p(yk|xk)p(xk|Yk-1)dxk
1.3)、根据极大后验准则或最小均方误差准则,将具有极大后验概率密度的状态或条
件均值作为系统状态的估计值。
3.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特
征在于:所述步骤3)具体包括以下步骤:
3.1)、根据观测噪声的高斯混合模型,对于每一个观测值引入一个隐变量Z,定义Z=
{z1,z2,…,zS},zs为S维变量,满足zs∈{0,1}而且即隐变量zs中有且仅有一位为1,
其他位置都为0,如果zs,j=1,表?#38236;趕个观测噪声是由第j个高斯混合模型产生?#27169;?br />
3.2)、由隐变量Z的条件概率密度函数p(zs|αk)以及带有隐变量且每个观测样本独立同
分布的混合高斯模型概率密度函数p(vk|zs,μk,Λk)表示为:
<mrow> <mi>p</mi> <mrow> <mo>(</mo> <msub> <mi>z</mi> <mi>s</mi> </msub> <mo>|</mo> <msub> <mi>&alpha;</mi> <mi>k</mi> </msub> <mo>)</mo> </mrow> <mo>=</mo> <munderover> <mi>&Pi;</mi> <mrow> <mi>j</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>J</mi> </munderover> <msubsup> <mi>&alpha;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> <msub> <mi>z</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </msubsup> </mrow>

其中,αk=[αk,1,αk,2,…,αk,J],μk=[μk,1,μk,2,…,μk,J],Λk=[Λk,1,Λk,2,…,Λk,J],Ψk
=[αk,μk,Λk,Z]。
4.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特
征在于:所述步骤6)具体包括以下步骤:
6.1)、对粒子重采样后,有k-1时刻第i个粒子的权重并且由于
权值更新公式简化成
6.2)、表示在状态x出现的条件下,测量y出现的概率;?#19978;低?#29366;态方可知,测
量值就是在真实值附近添加观测噪声,观测噪声的分布通过变分贝叶斯学习得到。
5.根据权利要求1所述的一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,其特
征在于:所述步骤7)具体包括以下步骤:
7.1、根据平均场理论高斯混合模型参数的联合概率密度函数q(Ψk)通过参数和潜在变
量的划分因式分解,如?#28388;?#31034;:

上式中所有的未知的模型参数被假设为独立?#27169;?#23558;每一个隐变量划分看成是一个单
体,其他划分对其的影响看作是其自身的作用,采用迭代的方法,当变分自由能取得最大值
的时候,Ψi与它的互斥集Ψ-i具有如下关系:

每个因子q(Ψi)取决于剩余因子q(Ψj),i≠j,因子初始化,每个因子迭代更新循环增
加边缘似然函数的下界直到收敛;
7.2、由于?#26597;?#25351;数模型的性?#21097;?#26435;重参数α以及均值μ和方差Λ的后验概率密度分布被
定义为:
<mrow> <mi>q</mi> <mrow> <mo>(</mo> <msub> <mi>&alpha;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> <mo>=</mo> <mi>D</mi> <mi>i</mi> <mi>r</mi> <mrow> <mo>(</mo> <msub> <mi>&alpha;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>,</mo> <msubsup> <mi>&lambda;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> <mo>*</mo> </msubsup> <mo>)</mo> </mrow> </mrow>

其中λk,j,βk,j,mk,j,Σk,j,νk,j是高斯混合模型的后验概率密度分布的超参数;Dir(·)
表?#38236;?#37324;克利分布,表示高斯分布,表示威?#31243;?#20998;布;
7.3、根据固定分布的参数βk,j,mk,j,Σk,j,νk,j,计算得到隐变量的分布参数γs,j;最新
得到的γs,j保持不变,根据下面的参数更新公式更新参数Nk,j,Sk,j:其中表示k时刻第
s个样本的观测值,表示k时刻第s个样本的真实值;
<mrow> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <munderover> <mi>&Sigma;</mi> <mrow> <mi>s</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>S</mi> </munderover> <msub> <mi>&gamma;</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow>
<mrow> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mfrac> <munderover> <mi>&Sigma;</mi> <mrow> <mi>s</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>S</mi> </munderover> <msub> <mi>&gamma;</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mrow> <mo>(</mo> <msubsup> <mi>y</mi> <mi>k</mi> <mi>s</mi> </msubsup> <mo>-</mo> <mi>h</mi> <mo>(</mo> <msubsup> <mi>x</mi> <mi>k</mi> <mi>i</mi> </msubsup> <mo>)</mo> <mo>)</mo> </mrow> </mrow>
<mrow> <msub> <mi>S</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mfrac> <munderover> <mi>&Sigma;</mi> <mrow> <mi>s</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>S</mi> </munderover> <msub> <mi>&gamma;</mi> <mrow> <mi>s</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mrow> <mo>(</mo> <msubsup> <mi>y</mi> <mi>k</mi> <mi>s</mi> </msubsup> <mo>-</mo> <mi>h</mi> <mo>(</mo> <msubsup> <mi>x</mi> <mi>k</mi> <mi>i</mi> </msubsup> <mo>)</mo> <mo>-</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> <msup> <mrow> <mo>(</mo> <msubsup> <mi>y</mi> <mi>k</mi> <mi>s</mi> </msubsup> <mo>-</mo> <mi>h</mi> <mo>(</mo> <msubsup> <mi>x</mi> <mi>k</mi> <mi>i</mi> </msubsup> <mo>)</mo> <mo>-</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> <mi>T</mi> </msup> </mrow>
根据参数Nk,j,Sk,j按照下面的公式更新参数βk,j,mk,j,Σk,j,νk,j:
<mrow> <msub> <mi>&beta;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow>
<mrow> <msub> <mi>m</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <msub> <mi>&beta;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mfrac> <mrow> <mo>(</mo> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <msubsup> <mi>m</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>)</mo> </mrow> </mrow>
<mrow> <msub> <mi>&nu;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>=</mo> <msubsup> <mi>&nu;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow>
<mrow> <msubsup> <mi>&Sigma;</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msubsup> <mo>=</mo> <msup> <mrow> <mo>(</mo> <msubsup> <mi>&Sigma;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>)</mo> </mrow> <mrow> <mo>-</mo> <mn>1</mn> </mrow> </msup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <msub> <mi>S</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>+</mo> <mfrac> <mrow> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow> <mrow> <msubsup> <mi>&beta;</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>+</mo> <msub> <mi>N</mi> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> </mrow> </mfrac> <mrow> <mo>(</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>-</mo> <msubsup> <mi>m</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>)</mo> </mrow> <mo>&times;</mo> <msup> <mrow> <mo>(</mo> <msub> <mover> <mi>v</mi> <mo>&OverBar;</mo> </mover> <mrow> <mi>k</mi> <mo>,</mo> <mi>j</mi> </mrow> </msub> <mo>-</mo> <msubsup> <mi>m</mi> <mi>k</mi> <mn>0</mn> </msubsup> <mo>)</mo> </mrow> <mi>T</mi> </msup> </mrow>
如此迭代计算,至变分自由能量F(Ψk)最大,即对数边缘似然函数的下界最大,得到混
合高斯模型的变分贝叶斯学习参数估计?#22909;看?#36845;代之后计算下界的变化值,记作ΔF,?#22791;?br />值低于预先设定的近似小量时,认定该算法已经趋于收敛,得到足够逼近原分布的近似分
布。

说明书

一种基于高斯混合模型和变分贝叶斯的粒子滤波方法

技术领域

本发明涉及信号处理领域,具体涉及一种基于高斯混合模型和变分贝叶斯的粒子
滤波方法。

背景技术

粒子滤波通过非参数化的蒙特卡洛模拟方法?#35789;迪值?#25512;贝叶斯滤波,适用于任何
能用状态空间模型描述的非线性系统,精度可以逼近最优估计。粒子滤波器具有简单、易于
实?#20540;?#29305;点,它为分析非线性动态系?#31243;?#20379;了一种?#34892;?#30340;解决方法,从而引起目标跟踪、信
号处理以及自动控制等领域的广泛关注。粒子滤波的状态空间模型可描述为:

xk=f(xk-1)+uk

yk=h(xk)+vk

其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk
为过程噪声,vk为观测噪声。观测噪声vk通常被假设为零均值高斯白噪声信号,但是实际上
vk是非高斯特征?#27169;?#22312;通信、导航、声呐、?#29366;?#21450;生物医学等领域中?#21363;?#22312;着典型的非高斯
噪声环?#24120;?#22914;低频大气噪声、水声信号、生物医学中的心电信号。基于高斯噪声模型的信号
处理方法在非高斯环境下工作性能会遭受很大损失,甚至无法工作。如果能够辩识非高斯
噪声的统计特性并加以利用,则能大幅提高信号处理性能,基于以上缺点,本方法提出一种
高斯混合模型(Gaussian Mixture Models,GMM)和变分贝叶斯(Variational Bayesian,
VB)的改进的粒子滤波方法,使用多个高斯分布的加权和来逼近真实的观测噪声,从而提高
粒子滤波的精度和性能,高斯混合模型可描述为


其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的系数,
表示均值为μk,j,协方差为的高斯分布。由于多个高斯分布带来多个参数导
致模型复杂且难以求解,本方法利用变分贝叶斯学习方法对含有隐变量的混合高斯模型进
行参数估计。变分贝叶斯是在平均场假设下,对每一个参数分布q,
用带超参数的先验分布改写参数分布p(x,z),得到相同形式的
后验分布,迭代循环求解,变分贝叶斯学习在较好估计精度的前提下有更快的估计速度,更
适合于有实时性要求的工程应用领域。

发明内容

本发明的目的是针对上述现有技术的不足,提供了一种基于高斯混合模型和变分
贝叶斯的粒子滤波方法。

本发明的目的可以通过如下技术方案实现:

一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,所述方法包括以下步骤:

1、对观测噪声使用高斯混合模型进行建模,初始化初始状态的概率密度函数p
(x0),高斯混合模型公式为:


其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的权重系数,
表示均值为μk,j,协方差为的高斯分布;

2、基于初始状态的概率密度函数p(x0),随机产生N个初始粒子,N作为计算量和估
计精度之间的权衡;

3、初始化观测噪声的高斯混合模型中的未知参数Ψk的超参数λ0,β0,m0,Σ0以及
v0,下标0表示初始化值;

4、对T个时刻进行步骤5)至步骤8)的迭代操作;

5、从重要性参考函数生成N个采样粒子选用
是先验概率密度函数,从粒子滤波的状态转移方程xk=f(xk-1)+uk中得到;

6、量测更新,根据最新观测值和权值公式计算每个
粒子的权值

7、使用变分贝叶斯学习方法通过循环迭代的方法求出高斯混合模型中未知参数
的分布,包括以下步骤:

变分贝叶斯期望步骤:隐变量β,m,Σ以及v分布的参数Nk,j、Sk,j参照下式进行
更新:




变分贝叶斯最大化步骤:隐变量β,m,Σ以及v按照下式进行更新:





变分贝叶斯期望步骤和变分贝叶斯最大化步骤交替进行,随着迭代的不断重复,
变分下限L(q)逐渐增大,直到|L(t+1)(q)-L(t)(q)|<ε,迭代终止,ε是设置的误差限;

8、对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样:重采
样对低权重粒子进行剔除,同时保留高权重粒子。

优选?#27169;?#25152;述步骤1具体包括以下步骤:

1.1、预先设定观测噪声的动态空间模型为:

xk=f(xk-1)+uk

yk=h(xk)+vk

其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk
为过程噪声,过程噪声uk被假设为零均值、协方差为Qk的高斯白噪声信号,vk为观测噪声,uk
和vk是相互独立?#27169;?#22312;处理目标跟踪问题时,假设目标的状态转移过程服从一阶马尔可夫
模型,即当前时刻的状态xk只与上一时刻的状态xk-1有关,另外假设观测值相互独立,即观
测值yk只与k时刻的状态xk有关;

1.2、假设已知k-1时刻的概率密度函数为p(xk-1|Yk-1),其中p(.)指状态的概率密
度函数,p(·|·)是指状态的后验概率密度函数,贝叶斯滤波的具体过程如下:

一、预测过程,由p(xk-1|Yk-1)得到p(xk|Yk-1):

p(xk,xk-1|Yk-1)=p(xk|xk-1,Yk-1)p(xk-1|Yk-1)

?#22791;?#23450;xk-1时,状态xk与Yk-1相互独立,因此:

p(xk,xk-1|Yk-1)=p(xk|xk-1)p(xk-1|Yk-1)

上式两端对xk-1积分,可得:

p(xk|Yk-1)=∫p(xk|xk-1)p(xk-1|Yk-1)dxk-1

二、更新过程,由p(xk|Yk-1)得到p(xk|Yk):获取k时刻的测量yk后,利用贝叶斯公式
对先验概率密度进行更新,得到后验概率密度函数:


假设yk只由xk决定,即:

p(yk|xk,Yk-1)=p(yk|xk)

因此:


其中,p(yk|Yk-1)为归一化常数:

p(yk|Yk-1)=∫p(yk|xk)p(xk|Yk-1)dxk

1.3、根据极大后验准则或最小均方误差准则,将具有极大后验概率密度的状态或
条件均值作为系统状态的估计值。

优选?#27169;?#25152;述步骤3具体包括以下步骤:

3.1、根据观测噪声的高斯混合模型,对于每一个观测值引入一个隐变量Z,定义Z
={z1,z2,…,zS},zs为S维变量,满足zs∈{0,1}而且即隐变量zs中有且仅有一位为
1,其他位置都为0,如果zs,j=1,表?#38236;趕个观测噪声是由第j个高斯混合模型产生?#27169;?br />

3.2、由隐变量Z的条件概率密度函数p(zs|αk)以及带有隐变量且每个观测样本独
立同分布的混合高斯模型概率密度函数p(vk|zs,μk,Λk)表示为:



其中,αk=[αk,1,αk,2,…,αk,J],μk=[μk,1,μk,2,…,μk,J],Λk=[Λk,1,Λk,2,…,
Λk,J],Ψk=[αk,μk,Λk,Z]。

优选?#27169;?#25152;述步骤6具体包括以下步骤:

6.1、对粒子重采样后,有k-1时刻第i个粒子的权重并且由于
权值更新公式简化成

6.2、表示在状态x出现的条件下,测量y出现的概率;?#19978;低?#29366;态方可知,
测量值就是在真实值附近添加观测噪声,观测噪声的分布通过变分贝叶斯学习得到。

优选?#27169;?#25152;述步骤7具体包括以下步骤:

7.1、根据平均场理论高斯混合模型参数的联合概率密度函数q(Ψk)通过参数和
潜在变量的划分因式分解,如?#28388;?#31034;:


上式中所有的未知的模型参数被假设为独立?#27169;?#23558;每一个隐变量划分看成是一个
单体,其他划分对其的影响看作是其自身的作用,采用迭代的方法,当变分自由能取得最大
值的时候,Ψi与它的互斥集Ψ-i具有如下关系:


每个因子q(Ψi)取决于剩余因子q(Ψj),i≠j,因子初始化,每个因子迭代更新循
环增加边缘似然函数的下界直到收敛;

7.2、由于?#26597;?#25351;数模型的性?#21097;?#26435;重参数α以及均值μ和方差Λ的后验概率密度分
布被定义为:



其中λk,j,βk,j,mk,j,Σk,j,νk,j是高斯混合模型的后验概率密度分布的超参数;Dir
(·)表?#38236;?#37324;克利分布,表示高斯分布,表示威?#31243;?#20998;布;

7.3、根据固定分布的参数βk,j,mk,j,Σk,j,νk,j,计算得到隐变量的分布参数γs,j;
最新得到的γs,j保持不变,根据下面的参数更新公式更新参数Nk,j,Sk,j:其中表示k时
刻第s个样本的观测值,表示k时刻第s个样本的真实值;




根据参数Nk,j,Sk,j按照下面的公式更新参数βk,j,mk,j,Σk,j,νk,j:





如此迭代计算,至变分自由能量F(Ψk)最大,即对数边缘似然函数的下界最大,得
到混合高斯模型的变分贝叶斯学习参数估计?#22909;看?#36845;代之后计算下界的变化值,记作ΔF,
?#22791;?#20540;低于预先设定的近似小量时,认定该算法已经趋于收敛,得到足够逼近原分布的近
似分布。

本发明与现有技术相比,具有如下优点和有益效果:

1、本发明使用高斯混合模型来对观测噪声进行建模,使用多个高斯分布的加权和
来逼近真实的观测噪声,提高了粒子滤波的精度和性能。

2、本发明使用了变分贝叶斯方法来估计未知的噪声参数,用带超参数的先验分布
改写概率密度函数p(x),得到相同形式的后验分布,迭代循环求解,变分贝叶斯方法提供了
一种局部最优,但具有确定解的近似后验方法。

3、本发明的改进粒子滤波方法,能够增强粒子权值的准确性以及粒子的多样性,
?#34892;?#25552;高了目标状态的估计性能,解决了非线性非高斯情况下目标状态的滤波问题。

附图说明

图1为本发明基于高斯混合模型和变分贝叶斯的粒子滤波方法的流程图。

图2为本发明高斯混合模型的变分贝叶斯学习算法流程图。

具体实施方式

下面结合实施例及附图对本发明作进一步详细的描述,但本发明的实施方式不限
于此。

实施例:

本实施例提供了一种基于高斯混合模型和变分贝叶斯的粒子滤波方法,如图1的
流程图所示,所述方法包括以下步骤:

1、对观测噪声使用高斯混合模型进行建模,初始化初始状态的概率密度函数p
(x0),高斯混合模型公式为:


其中J表示高斯混合模型的高斯项数,αk,j表示在时刻k高斯项j的权重系数,
表示均值为μk,j,协方差为的高斯分布;

2、基于初始状态的概率密度函数p(x0),随机产生N个初始粒子,N作为计算量和估
计精度之间的权衡;

3、初始化观测噪声的高斯混合模型中的未知参数Ψk的超参数λ0,β0,m0,Σ0以及
v0,下标0表示初始化值;

4、对T个时刻进行步骤5)至步骤8)的迭代操作;

5、从重要性参考函数生成N个采样粒子选用
是先验概率,从粒子滤波的状态转移方程xk=f(xk-1)+uk中得到;

6、量测更新,根据最新观测值和权值公式计算每个粒
子的权值

7、使用变分贝叶斯学习方法通过循环迭代的方法求出高斯混合模型中未知参数
的分布,如图2所示,为本发明高斯混合模型的变分贝叶斯学习算法流程图,包括以下步骤:

变分贝叶斯期望步骤:隐变量β,m,Σ以及v分布的参数Nk,j、Sk,j参照下式进行
更新:




变分贝叶斯最大化步骤:隐变量β,m,Σ以及v按照下式进行更新:





变分贝叶斯期望步骤和变分贝叶斯最大化步骤交替进行,随着迭代的不断重复,
变分下限L(q)逐渐增大,直到|L(t+1)(q)-L(t)(q)|<ε,迭代终止,ε是设置的误差限;

8、对粒子权值进行归一化,并针对粒子退化的问题,对粒子集进行重采样:重采
样对低权重粒子进行剔除,同时保留高权重粒子。

其中,所述步骤1具体包括以下步骤:

1.1、预先设定观测噪声的动态空间模型为:

xk=f(xk-1)+uk

yk=h(xk)+vk

其中f(·),h(·)分别为状态转移方程与观测方程,xk为系统状态,yk为观测值,uk
为过程噪声,过程噪声uk被假设为零均值、协方差为Qk的高斯白噪声信号,vk为观测噪声,uk
和vk是相互独立?#27169;?#22312;处理目标跟踪问题时,假设目标的状态转移过程服从一阶马尔可夫
模型,即当前时刻的状态xk只与上一时刻的状态xk-1有关,另外假设观测值相互独立,即观
测值yk只与k时刻的状态xk有关;

1.2、假设已知k-1时刻的概率密度函数为p(xk-1|Yk-1),其中p(.)指状态的概率密
度函数,贝叶斯滤波的具体过程如下:

一、预测过程,由p(xk-1|Yk-1)得到p(xk|Yk-1):

p(xk,xk-1|Yk-1)=p(xk|xk-1,Yk-1)p(xk-1|Yk-1)

?#22791;?#23450;xk-1时,状态xk与Yk-1相互独立,因此:

p(xk,xk-1|Yk-1)=p(xk|xk-1)p(xk-1|Yk-1)

上式两端对xk-1积分,可得:

p(xk|Yk-1)=∫p(xk|xk-1)p(xk-1|Yk-1)dxk-1

二、更新过程,由p(xk|Yk-1)得到p(xk|Yk):获取k时刻的测量yk后,利用贝叶斯公式
对先验概率密度进行更新,得到后验概率密度函数:


假设yk只由xk决定,即:

p(yk|xk,Yk-1)=p(yk|xk)

因此:


其中,p(yk|Yk-1)为归一化常数:

p(yk|Yk-1)=∫p(yk|xk)p(xk|Yk-1)dxk

1.3、根据极大后验准则或最小均方误差准则,将具有极大后验概率密度的状态或
条件均值作为系统状态的估计值。

其中,所述步骤3具体包括以下步骤:

3.1、根据观测噪声的高斯混合模型,对于每一个观测值引入一个隐变量Z,定义Z
={z1,z2,…,zS},zs为S维变量,满足zs∈{0,1}而且即隐变量zs中有且仅有一位为
1,其他位置都为0,如果zs,j=1,表?#38236;趕个观测噪声是由第j个高斯混合模型产生?#27169;?br />

3.2、由隐变量Z的条件概率密度函数p(zs|αk)以及带有隐变量且每个观测样本独
立同分布的混合高斯模型概率密度函数p(vk|zs,μk,Λk)表示为:



其中,αk=[αk,1,αk,2,…,αk,J],μk=[μk,1,μk,2,…,μk,J],Λk=[Λk,1,Λk,2,…,
Λk,J],Ψk=[αk,μk,Λk,Z]。

其中,所述步骤6具体包括以下步骤:

6.1、对粒子重采样后,有k-1时刻第i个粒子的权重并且由于
权值更新公式简化成

6.2、表示在状态x出现的条件下,测量y出现的概率;?#19978;低?#29366;态方可知,
测量值就是在真实值附近添加观测噪声,观测噪声的分布通过变分贝叶斯学习得到。

其中,所述步骤7具体包括以下步骤:

7.1、根据平均场理论高斯混合模型参数的联合概率密度函数q(Ψk)通过参数和
潜在变量的划分因式分解,如?#28388;?#31034;:


上式中所有的未知的模型参数被假设为独立?#27169;?#23558;每一个隐变量划分看成是一个
单体,其他划分对其的影响看作是其自身的作用,采用迭代的方法,当变分自由能取得最大
值的时候,Ψi与它的互斥集Ψ-i具有如下关系:


每个因子q(Ψi)取决于剩余因子q(Ψj),i≠j,因子初始化,每个因子迭代更新循
环增加边缘似然函数的下界直到收敛;

7.2、由于?#26597;?#25351;数模型的性?#21097;?#26435;重参数α以及均值μ和方差Λ的后验概率密度分
布被定义为:



其中λk,j,βk,j,mk,j,Σk,j,νk,j是高斯混合模型的后验概率密度分布的超参数;Dir
(·)表?#38236;?#37324;克利分布,表示高斯分布,表示威?#31243;?#20998;布;

7.3、根据固定分布的参数βk,j,mk,j,Σk,j,νk,j,计算得到隐变量的分布参数γs,j;
最新得到的γs,j保持不变,根据下面的参数更新公式更新参数Nk,j,Sk,j:其中表示k时
刻第s个样本的观测值,表示k时刻第s个样本的真实值;




根据参数Nk,j,Sk,j按照下面的公式更新参数βk,j,mk,j,Σk,j,νk,j:





如此迭代计算,至变分自由能量F(Ψk)最大,即对数边缘似然函数的下界最大,得
到混合高斯模型的变分贝叶斯学习参数估计?#22909;看?#36845;代之后计算下界的变化值,记作ΔF,
?#22791;?#20540;低于预先设定的近似小量时,认定该算法已经趋于收敛,得到足够逼近原分布的近
似分布。

以上所述,仅为本发明专利较佳的实施例,但本发明专利的保护范围并不局限于
此,任?#38382;?#24713;本技术领域的技术人员在本发明专利所公开的范围内,根据本发明专利的技
术方案及其发明专利构思加以等同替换或改变,都属于本发明专利的保护范围。

关于本文
本文标题:一种基于高斯混合模型和变分贝叶斯的粒子滤波方法.pdf
链接地址:http://www.pqiex.tw/p-6079575.html
关于我们 - 网站声明 - 网?#38236;?#22270; - 资源地图 - 友情链接 - 网站客服 - 联系我们

[email protected] 2017-2018 zhuanlichaxun.net网站版权所有
经营许可证编号:粤ICP备17046363号-1 
 


收起
展开
平码五不中公式规律 湖南幸运赛车最低奖金 山西11选5走势图乐彩网 股票涨跌幅计算器 河北十一选五开奖助手 澳洲幸运5开奖最快 广西十一选五玩则 pk10牛牛怎么稳赢 体彩老11选5开奖结果走势图 2017年双色球加规则 合买彩票赚钱