改进蚁群优化算法的最大似然DOA估计方法

焦亚萌，李文萍，武岳，崔琳

西安工程大学电子信息学院，陕西西安710600

波达方向（direction of arrival，DOA）是阵列信号处理的一个重要分支，被广泛用于通信和声呐等领域[1].1988年，ZISKIND L与MAX M首次提出最大似然（maximum likelihood，ML）参数估计方法并将其用于DOA 估计中.ML估计方法简单且估计性能良好，尤其是在渐进估计中[2].这种方法不仅在高信噪比下性能逼近克拉美罗界（CRAMÉR-RAO bound，CRB），在低信噪比下也具有较好估计性能.但由于ML 估计方法在计算过程采用多维非线性求解方式，导致运算量极大，不利于工程应用.

近年来，针对最大似然波达方向（maximum likelihood direction of arrival，ML-DOA）估计过程中的多维非线性搜索问题，学者们提出大量解决办法，其中将DOA 估计与智能优化算法结合，既保证估计性能又降低了计算复杂度.随着智能优化算法的发展，越来越多的算法被提出并应用于DOA估计优化问题中，如遗传算法[3]（genetic algorithm，GA）、粒子群优化（particle swarm optimization，PSO）算法[4-5]、人工蜂群（artificial bee colony，ABC）算法[6]、差分进化（differential evolution，DE）算法[7]及蚁群优化（ant colony optimization，ACO）算法[8]等.这些优化算法在解决计算量大等问题时有一定的效果，但仍存在收敛效率低和易陷入局部极值等问题.针对这些问题，学者们不断提出新的改进方法并应用于ML 估计方法中.王鹏等[9]提出将改进人工鱼群算法用于ML 估计中，并对人工鱼群的视野和步长进行动态调整，相比基于GA、PSO 以及DE算法的ML 估计方法，该算法在收敛效果和估计精度方面更具有优势.FAN等[10]提出一种改进的蜜蜂进化遗传算法，用来优化ML 估计的似然函数，通过改进种群初始化方法和交叉算子两方面，在不牺牲估计精度的情况下显著降低了ML 估计方法的计算复杂度.王辉辉等[11]基于ACO 算法提出一种基于连续域蚁群算法的快速ML 估计方法，通过改变状态空间初始化方法并增加局部搜索，提升了算法的收敛速度.WANG 等[12]结合入侵杂草优化算法（invasive weed optimization，IWO）启发的空间变异、扩散思想与松鼠搜索算法，提出基于改进松鼠搜索算法的ML 估计方法，并与GA、PSO、DE 和IWO算法进行对比，证明该方法在不同信号源数、信噪比和种群规模下，迭代次数更少，均方根误差更低.

本研究通过改进ACO 算法种群初始化方法和寻优方式，提出一种改进蚁群优化（modified ACO algorithm，MACO）算法的ML 估计方法.先利用精英反向学习策略获得较优初始解群体，再通过跨邻域搜索机制对初始解群体采用全局跨邻域搜索的方式，对指导解采用高斯核函数进行小范围搜索.实验结果验证了算法在ML 估计方法中的可行性与优越性.

1.1 阵列信号模型

假设存在一个阵元数为M、间距为d的等距均匀线阵，有P个窄带远场信号源以平面波入射，波长为λ，入射角为θi(i=1，2，…，P).设t时刻的背景噪声N(t)为高斯白噪声，且N(t)=[n1(t)，n2(t)，…，nM(t)]T，传感器阵列在t时刻接收的矢量数据为

其中，函数E为求数学期望；
X(t)为传感器阵列在t时刻接收到的矢量数据；
上标H 表示求解矩阵的厄米特共轭；
RS为信号协方差矩阵；
RN为噪声协方差矩阵.

1.2 ML估计

阵列接收数据的K次观测样本集合{X1，X2，…，XK}的联合条件概率密度函数为

其中，σ2为噪声方差；
I为归一化下噪声的相关矩阵；
θ为目标入射角矢量；
S为目标信源复振矢量；
de（t·）为矩阵的行列式.

对式（3）两边同时取负对数，可得对数似然函数为

由式（4）可见，f是一个关于未知参数θ、σ2和S的函数.σ2和S的最大似然估计分别为

将式（5）代入式（4）并进行化简，可得θ的最大似然估计（忽略常数项）为

由于求解式（7）需要用多维非线性搜索实现，为克服求解过程中计算量过大且不易找到全局最优解的问题，本研究采用MACO 算法对ML 估计方法进行优化和求解.

2.1 基于连续空间的蚁群算法

对于连续域的蚁群算法来说，转移函数的选择会影响整个蚁群的行进策略.本研究用具有高斯核的概率密度函数作为转移函数

其中，x为整个搜索空间；
j为搜索空间的维度；
L为抽样个数；
ωi为状态空间中状态i对应的权值向量；
为1 维高斯函数；
为高斯函数的均值；
标准差为

其中，蚁群信息素的挥发系数ξ是一个调节参数，其值越小，收敛速度越快.

其中，q越小最，优解被选为指导解的概率越大.解档案中每个解xi被选做指导解的概率为

2.2 精英反向学习策略初始化种群

初始化种群多样性[13]对算法的收敛速度和精度有较大影响.在标准ACO 算法中，种群初始化采用随机生成的方式，虽然这种方法简单且易于实现，但随机生成的点具有一定的盲目性，使得有的较好的点不能被覆盖，降低算法的求解性能.为改善此问题，本研究采用精英反向学习策略[14]进行种群初始化，在解空间内实行并行搜索，扩大种群的多样性，提升算法的搜索效率，有效去除了盲目性.

假设P维搜索空间中的一个初始解1，2，…，n；
j=1，2，…，P)作为精英个体，则其反向解为

其中，k为[0，1]内的随机值；
，αj和βj分别为当前搜索空间的上界和下界.动态边界解决了固定边界难以保存搜索经验的问题，有利于减少算法的寻优时间.若超出边界，则采用随机生成的方式进行越界处理，即

采用精英反向学习策略进行初始化种群的具体步骤为：

1）在搜索空间中生成含L个蚂蚁的初始位置L为种群规模（抽样个数）；

3）将初始种群和反向精英种群进行合并排序，从中筛选L个较优个体组成最终的初始解群体.

2.3 引入跨邻域搜索机制

跨邻域搜索（across neighborhood search，ANS）算法[15]是一种数值优化算法，主要思想是以个体i与当前解档案中最优解ri之间的距离为搜索区域，通过高斯分布影响因子G（0，δ2）调节算法开发和勘探能力之间的合理平衡，使每个个体都能够探索整个解空间.该算法倾向于搜索优解附近的解空间，因此，围绕一个优解找到另一个更好的解的概率更高.第j维搜索空间搜索第i个个体的邻域时的位置更新规则为

其中，posnew为算法产生的新位置；
posi为第j维第i个个体的当前位置；
为第j维第i个个体的最优解.

本研究在算法寻优过程中针对初始解群体引入全局ANS方式，以加快算法收敛速度.但是，仅使用全局跨邻域搜索方式，会不利于提高算法的收敛精度，而高斯核函数具有良好的局部搜索能力，所以针对指导解采用高斯核函数进行局部细致搜索.

2.3.1 全局搜索

若样本分布范围太小，则蚁群算法易只在很小的范围内产生新解，无法检测到准确解.为避免此问题，本研究将全局ANS 机制融入ACO 算法，旨在引导蚂蚁随机选择一个解进行学习.算法探索到的新解为

由式（15）可知，由于探测区间较大，每只蚂蚁都可在较大的范围内选择不同的学习对象，从而保证了蚁群的多样性，并且加快了蚂蚁向全局最优解靠近.

2.3.2 局部搜索

在选择的指导解xi的L个可行解附近依次使用1 维高斯函数取样，由式（9）可得则抽样产生的新解为

其中，R为[0，1]内的随机数，符合期望为0，标准差为1的正态分布.

蚂蚁根据产生的新解不断更新解档案来保存信息素浓度高的解，并淘汰信息素浓度低的解.在更新迭代时，先将m个迭代产生的解与L个解档案中的原始解合并，再计算所有解的目标函数值并进行排序，按解的质量依次存入档案表中.

利用MACO 算法优化ML 估计方法谱峰搜索部分的具体步骤为：

1）初始化参数.设种群规模为L，最大迭代次数为tmax，蚁群维度为P，搜索角度范围等，并令当前迭代次数t=1.

2）初始化种群.采用精英反向学习策略从初始随机解中筛选L个目标函数值较优的个体组成较优初始解群体.

3）更新候选解.利用式（15）对初始解群体进行全局ANS，引导蚂蚁向优解靠近.更新解档案，对所得到的解进行排序，选择最佳解作为指导解，再根据式（16）对指导解周围进行小范围搜索，提高算法的收敛精度.

4）更新解档案.将产生的新解与旧解进行对比，并更新解档案.

5）迭代结束判决.设ε为计算误差，BW/2 为半功率点波束宽度（beam width，BW），当ε＜BW/2时，迭代结束并输出当前解档案中最优解作为最终解；
否则，返回步骤3）一直迭代至最大迭代次数tmax，输出解档案中的最优值为非线性全局最优解.

为验证MACO 算法在ML 估计方法中的可行性和优越性，将基于PSO算法、ACO算法以及MACO算法的ML 估计方法分别进行100 次独立蒙特卡洛实验，以下依次称为ML-PSO算法、ML-ACO算法、ML-MACO 算法.实验假设2 个等强目标方位角分别为-3°和3°，采用12阵元均匀线列阵，间距为半波长，中心频率为3 MHz，采样频率为120 kHz，快拍数为100，噪声为高斯白噪声.

4.1 收敛性能分析

图1 为信噪比（signal to noise ratio，SNR）为10 dB 时，ML-ACO 算法和ML-MACO 算法（信源个数P=2，种群规模L=50，可调参数q=0.1，信息素挥发系数ξ=0.01，当前选中的状态和整个状态空间的平均偏差的修正量δ=0.001，搜索角度区间为[-60°，60°]）对目标1和目标2优化求解时的迭代收敛过程.

图1 SNR=10 dB时，ML-ACO算法与ML-MACO算法对双目标估计的优化迭代结果Fig.1 (Color online)The optimization iteration results of ML-ACO algorithm and ML-MACO algorithm for double objective estimation with SNR=10 dB.

由图1 可见，对于两个目标方位角的估计，ML-ACO 算法与ML-MACO 算法都收敛到了全局最优解，所需迭代次数分别为388和91，表明两种算法在经过多次迭代后都可搜索到符合误差范围的全局最优解，且搜索误差不超过0.05°，但ML-MACO算法所用迭代次数明显少于ML-ACO算法，收敛速度更快.

4.2 分辨概率和估计性能分析

ML-PSO、ML-ACO 以及ML-MACO 算法的最大迭代次数tmax都设为2 000，搜索步长为0.25，种群规模L=50，P=2，其他基本参数设置为：PSO 算法学习因子c1=c2=2，惯性权重因子ω=0.4；
Vmax=5；
Vmin=5；
ACO 算法和MACO 算法均设q=0.1，ξ=0.01，δ=0.001.图2和图3比较了ML、ML-PSO、ML-ACO 以及ML-MACO 算法在不同SNR条件下的分辨概率和估计误差性能.

图2 四种算法在不同信噪比条件下的分辨概率Fig.2 Resolution probability of four algorithms under different SNR conditions.

图3 四种算法在不同信噪比条件下的对（a）目标1和（b）目标2进行估计的均方误差比较Fig.3 MSE comparison of four algorithms for estimation of(a)target 1 and(b)target 2 under different SNR conditions.

分辨力考察的是算法能否成功分辨两个较近信源目标的问题.本研究将算法能够成功分辨的概率称为分辨概率.当每个目标估计值与实际真实值之间差的绝对值小于时，则认为算法可将这两个目标成功分辨.由图2 可见，在相同SNR 条件下，ML-MACO 算法的分辨成功率要高于ML-PSO算法和ML-ACO算法，与ML算法的分辨性能大致上基本相当，说明ML-MACO 算法相对较好地保持了ML算法的分辨性能.

本研究选用均方误差（mean squared error，MSE）作为估计误差，通过计算能够成功分辨的信号源的估计角度与真实角度之间的误差，衡量算法的分辨精度.由图3可知，在对两个信源目标的估计实验中，ML-PSO 算法和ML-ACO 算法的估计精度基本相当，ML-MACO算法的估计误差相对较小，说明本研究对算法的改进是有效的.

4.3 运算量分析

ML算法的计算量为

其中，Δ为ML算法搜索1次的计算量；
P为信源个数；
τ为搜索步长；
θH和θL分别为搜索角度区间的上限和下限.

ML-ACO和ML-MACO算法的计算量为

其中，T为蚂蚁个数；
I为达到估计精度的最小迭代次数.实验条件与4.2 节相同，表1 比较了不同SNR 条件下，ML-ACO 和ML-MACO 算法对应的平均迭代次数.

表1 ML-ACO算法和ML-MACO算法在不同信噪比条件下的平均迭代次数Table 1 Average number of iterations of ML-ACO algorithm and ML-MACO algorithm under different SNR conditions

当SNR=5 dB 时，ML、ML-ACO 以 及MLMACO 算法对应的平均计算量为JML=57 600Δ、JML-ACO≈1 209Δ和JML-MACO≈415Δ.可见，MLMACO 算法的计算量相比ML 算法大幅减少，是ML-ACO 算法计算量的1/3，有效减少了算法的计算量.

实验依托于20×8×7 m3的大型消声水池，收发阵列间隔为14.75 cm，产生30 kHz 的单频矩形脉冲信号，脉冲宽度为10 ms，重复周期为50 ms.信号由发射换能器发射，再经过功率放大器进行放大，为显示信号来向的不确定性，随机抽取两个双目标回波信号.

由于水池实验无法得到声源位置的准确值，本研究使用单波束扫描检测信号方位.表2为声源定标实验检测结果，其中几何解算是由基阵与目标的几何位置关系得到的信号位置.由表2可知，波束扫描与几何解算检测结果相近，二者具有一致性.

表2 声源定标实验结果Table 2 Experimental results of sound source calibration（°）

实验采用6元均匀线列阵接收信号，设置阵元间距为2.5 cm，系统采样频率为122.880 kHz，快拍数为4×103，波束宽度为16.9°.利用已知的单源数据，根据SNR=15 dB 的信噪比合成夹角为不同波束宽度的双源信号，并从合成的双源信号数据中选取3组数据用于比较ML-MACO算法和ML算法的估计性能，统计次数为10次，实验结果如表3.

表3 不同归一化夹角情况下采用ML-ACO算法和ML-MACO算法对双目标方位的估计结果Table 3 Estimation results of ML-ACO algorithm and ML-MACO algorithm for bearings of two targets under different normalized included angles.

由表3 可见，ML-MACO 算法目标估计的平均值与ML 算法相近，而均方根误差（root mean square error，RMSE）比ML算法略有增加，这是在由于实验工程验证过程中存在水温变化和设备测量误差等因素的影响.但ML-MACO 算法仍能正确估计出夹角为1/5BW 的两目标，说明该算法保持了ML算法的估计性能.

基于跨邻域搜索的思想，提出一种改进蚁群优化算法的最大似然DOA 估计方法ML-MACO 算法，采用精英反向学习策略获得较优初始解群体，通过结合全局跨邻域搜索和高斯核函数局部搜索对蚁群的寻优方式进行优化，扩大了算法的搜索空间并加快了收敛速度.仿真实验表明，与ML-PSO 算法和ML-ACO 算法相比，ML-MACO 算法能够在较好保持ML 算法估计精度的情况下，计算量仅为MLACO 算法的1/3，但收敛速度提高4 倍.通过分析水池实验的数据得，ML-MACO 算法能够正确估计出夹角为BW/5 的双目标，从而验证了本研究所提方法的正确性和有效性.