基于深度学习的制造工艺过程自动生成方法研究

徐文文 王裴岩 张桂平 蔡东风

(沈阳航空航天大学人机智能研究中心 辽宁 沈阳 100136)

工艺过程是指在生产过程中改变生产对象的形状、尺寸、相对位置和物理、力学性能等，使其成为成品或半成品的过程[1]。工艺过程自动生成是指利用现有的经验知识，通过人工智能的方法实现工艺过程高效的自动编写[2]。工艺过程的自动生成对减少工艺过程过于依赖经验知识、提高生产效率具有重要意义，同时对工业制造领域的发展具有推动作用。

工艺过程生成是CAPP(Computer Aided Process Planning)系统的研究重点。工艺过程生成方法主要分为派生式和生成式两大类[3]。派生式通过检索及重用相似零件的工艺，实现工艺过程的生成，如文献[4]利用多个核函数学习工艺相似性实现工艺过程重用，文献[5]通过工艺参数相似性匹配的方法实现工艺过程生成。派生式方法的问题是，对于找不到相似零件的设计任务，无法生成其工艺过程。生成式直接分析零件加工特征，采用产生式规则、本体、人工神经网络等方法推理生成工艺过程。文献[6]首先对零件的加工特征进行详细设计，然后通过规则约束进行工艺过程生成，该方法虽然对特殊零件的识别能力有所提高，但仍需要人工设计特征和规则耗时费力。文献[7]引入本体概念赋予生成过程语义信息，通过图搜索和规则推理进行工艺过程生成，该方法对于生成序列的合理性有一定的改善，但是需要大量人力构建本体的结构特征和本体对应的工艺方法属性。为降低规则或本体等工艺生成知识获取的难度，人工神经网络(Artifi-cial Neural Network，ANN)[8-11]被应用于工艺过程生成，用来提取工艺特征和对工艺样本的分类，然后再利用分类结果检索工艺知识库生成工艺过程。但现有研究仅应用了前馈神经网络，对于工序间的序列关系，工艺特征的自动提取与多种特征的提取融合等方面未被考虑。

近年来，深度学习方法在内容生成方面得到了广泛的研究与应用，如机器翻译[12-16]、古诗词生成[17-20]、文本摘要生成[21-22]和图片标题生成[23-24]等。上述问题皆是基于分析输入特征的序列生成任务。机器翻译[12]通过分析源语言，生成目标语言词序列。图片标题生成[23]在提取图片关键信息后，生成图片内容的词序列。工艺过程生成与上述任务具有同质性，以材料、零件结构、工艺技术要求等作为输入，提取制造特征后，生成工序序列。区别于上述任务，工艺过程生成需要分析材料、零件结构、工艺技术要求等多方面输入信息，而机器翻译等任务输入相对单一。另外，工序间除序列关系外，相对于机器翻译等任务，工序的生成对输入信息的依赖更强，如“涂漆”“热处理”等工序更依赖于工艺技术要求，而不仅是前序序列信息。因此，在工艺生成领域，基于深度学习的方法尚研究不足。

面向上述问题，本文提出一种CNN-LSTM网络的工艺过程生成方法。该方法通过CNN和LSTM两种编码器分别对工艺属性和前序工序序列编码，生成特征向量，将特征向量组合后作为解码器的输入，生成后续工序。该方法利用多路CNN能够解决多方面输入信息特征分析的问题，同时结合LSTM网络解决在工序序列生成中前序工序序列信息与输入信息同时作用的问题。CNN-LSTM网络在某型飞机机身钣金零件制造大纲文件数据上进行了验证，生成工艺过程与参考工艺过程的相似性达到0.451 5，Blue- 4达到0.237 6，好于对比方法。

对于有工艺属性P描述的工艺设计任务，生成其工序序列(s1,s2,…,sn)。本文提出的CNN-LSTM网络依据工艺属性P及前序工序序列(si-5,si-4,si-3,si-2,si-1)生成后续工序si。该过程为递归生成过程(如图1所示)，把生成过程分为n个时刻，在每时刻ti生成一个工序。在时刻t1生成第一个工序s1，时刻t2依据P及工序s1生成工序s2，时刻t3依据P及(s1,s2)生成s3，以此递推直到时刻tn生成sn。CNN-LSTM网络采用CNN提取工艺属性P的特征，采用LSTM提取前序工序序列(si-5,si-4,si-3,si-2,si-1)的特征，并再次采用LSTM网络结合Softmax函数生成后续工序。

图1 多个时刻的CNN-LSTM网络

单时刻CNN-LSTM网络结构如图2所示，由输入层、编码层、解码层组成。输入层用于对工艺属性和工序序列的输入；
编码层用于对工艺属性和工序序列的特征提取，其中使用LSTM对工序序列进行特征提取，使用CNN对工艺属性进行特征提取，并将两者融合形成编码向量；
解码层利用LSTM最后一层隐状态作为解码向量，将解码向量通过分类器Softmax函数预测出下一步工序，最后根据这种网络结构递归生成工艺过程。

图2 单时刻的CNN-LSTM网络

1.1 输入层

工艺属性可以包括零件类型、材料名称、材料规格、材料牌号、材料状态、技术要求和零件图等方面信息。本文将所有工艺属性采用字符One-hot向量表示。以技术要求为例，如“按11010- 000铬酸阳极化”，每个字符用603维的One-hot向量表示，形成15(技术要求的字符数)×603维的矩阵。为了使得CNN网络输入的维度一致，采用了实验数据中技术要求最多字符数208，CNN技术要求属性输入矩阵为208×603。综合零件类型与材料等其他工艺属性，形成了多路工艺属性输入。

1.2 编码层

1.2.1多路CNN的工艺属性特征编码

本文利用不同参数设置的CNN分别提取零件类型与材料等四种工艺属性的字符级特征信息。将每种工艺属性按字切分后，转换成对应的One-hot向量分别通过卷积层、池化层提取局部特征，然后利用全连接层将其局部特征映射为全局特征，最后将每种工艺属性对应的全局特征串联拼接，得到包含每种工艺属性信息的编码向量。多路CNN对工艺属性特征编码过程如图3所示。

图3 工艺属性特征编码

1.2.2基于LSTM的工序序列特征编码

本文采用LSTM网络将前序工序序列信息融入模型中，对后续工序与前序工序序列的关系建模。将前序工序序列对应的向量矩阵输入到LSTM网络中进行编码，并取每个时间步输出的隐向量作为编码向量。LSTM单元结构如图4所示。

图4 LSTM单元结构

LSTM单元包含输入门i、遗忘门f和输出门o。其中“门”结构赋予了LSTM单元删除或添加信息到细胞状态的能力，对历史信息进行选择性的保留。门的定义单元更新和输出如下:

it=σ(Wi[ht-1,xt]+bi)

(1)

ft=σ(Wf[ht-1,xt]+bf)

(2)

ot=σ(Wo[ht-1,xt]+bo)

(3)

(4)

(5)

ht=ot⊙tanh(ct)

(6)

式中：⊙表示带有门值的乘积；
W矩阵为训练权重参数；
b表示偏置量；
σ和h分别表示神经元中Sigmoid和tanh激活函数；
c表示每个记忆单元的状态；
ht表示t时刻LSTM输出的隐层向量。

1.2.3特征融合

发烧是人体的自我保护机制之一，是人体在调动免疫系统对抗疾病的过程中表现出来的一种症状，因此发烧不完全是坏事儿。很多种疾病都可能引起发烧，体温的高低与疾病的严重程度也不一定成正比。个人的体质不同，体温调节的敏感度也会不同，有的人轻微感冒就能烧很高，有的人即使严重感染了也不见得有很高的体温。这里说的“感染”可能是病毒感染，也可能是细菌等其他病原体感染。

本文将工艺属性信息融入到每个工序信息上，利用工艺属性信息以更好地指导下一步工序的生成，使生成的工序更加符合工艺属性信息描述下的工艺过程中的工序。目前两种经典的特征融合方法，第一种方法是直接将不同的特征向量进行串联拼接；
第二种方法是将不同的特征向量叠加成复向量。本文采取第二种特征融合方法，将前序工序序列经过LSTM层编码后，取每个时间步的工序特征与当前输入的工艺属性特征进行向量叠加，使融合后的复向量包含更加丰富的信息。

1.3 解码层

本文利用LSTM保持工艺属性下工序间的序列关系，将工艺属性与工序序列融合得到的向量通过解码输出生成后续工序。该过程首先将工艺属性和工序序列融合后的向量通过LSTM层，然后取LSTM最后一层隐状态输出的向量作为解码生成的向量，最后将解码生成的向量通过全连接层的Softmax函数对其归一化得到当前生成工序的概率分布，采用贪心搜索算法选择当前生成工序的概率分布上概率最大的工序作为生成工序并将其输出。

2.1 实验数据

本文实验数据来自某型飞机钣金零件制造大纲文件，共2 360份。每份文件包括四种工艺属性和该零件的工艺过程，平均每条工艺过程约有27.13步工序。数据集按照8 ∶1 ∶1的比例进行划分，即训练集1 888份，验证集236份，测试集236份，并采用了十折交叉验证，取十次结果的平均值作为对算法精度的估计，以保证实验结果的可靠性。

2.2 评价方法

本文采用了基于编辑距离的相似性评价整体的一致性，采用了BLEU评价生成的单步工序和局部工序序列的正确性。另外，通过实例分析了能够学习出特征与工艺方法的关联、工艺方法间的序列关系。宏观角度上，通过编辑距离(Levenshtein Distance)计算定义的序列相似度，计算生成工序过程与参考工序的整体相似性，评价生成序列的整体质量。编辑距离越小，两序列相似性越大。微观角度上，通过BLEU(Bilingual Evaluation Understudy)计算生成序列和参考序列之间相同n元工序组的占比，评价生成的局部工序序列的正确性。BLEU值越大，局部工序序列的正确性越高。

编辑距离用来计算将生成工艺过程改成参考工艺过程所需要删除、修改与增加工序的最小数量。编辑距离计算公式如下，可通过动态规划算法求出：

(7)

(8)

2.2.2BLEU

(9)

(10)

(11)

2.3 实验参数设置

本文面向实验数据中的零件类型、材料名称、工艺编码和技术要求四种工艺属性，利用四路CNN分别对其进行特征提取。参数设置如下：每路CNN的卷积步长均设置为1，卷积核高度均设置为2，宽度默认为向量维度(即每种工艺属性对应的字典大小)，池化层均采用平均池化，根据不同工艺属性的信息复杂程度，每种工艺属性卷积核个数分别设置为100、200、200、300，激活函数为Sigmoid，损失函数采用交叉熵，优化算法为Adam。详细参数设置如表1所示。

表1 神经网络中超参数设置

2.4 结果分析

表值结果对比

表3 BLEU值结果对比

由表3可知，CNN-LSTM相较于上述三个对比模型中的BLEU值均有提升，说明本文模型生成的工序序列中具有更多的正确n元工序组。BLEU- 1值较于NIC、MRNN、BiLSTM三个对比模型分别提升约0.19、0.04、0.15，BLEU- 2值较于上述三个对比模型分别提升约0.16、0.04、0.06，BLEU- 3值较于上述三个对比模型分别提升约0.15、0.06、0.10，BLEU- 4值较于上述三个对比模型分别提升约0.13、0.05、0.09。表4与表5展示了MRNN与CNN-LSTM生成工艺过程的一个示例。

表4 四种工艺属性

通过对该示例分析可以看出：CNN-LSTM与MRNN皆学习出了工序间的序列关系，每个操作类工序后皆有检验类工序，并且准备工序“供料 检验”及收尾工序“总检 保护 核实印章并入库”皆生成正确；
CNN-LSTM正确地生成出了“铬酸阳极化”与“涂底漆”工序，这两种工序在技术要求中明确要求。再者，CNN-LSTM生成了“去毛刺 锐边倒圆”工序，虽然与参考工序“去毛刺并锐边倒圆”有差别，但操作的过程是一致的，能够学习出“垫片”类零件与修整类工序的关系。因此，CNN-LSTM能够更好地利用工艺属性指导工艺过程生成。CNN-LSTM缺失了“铣切外形”工序，是由于本文数据输入工艺属性缺少零件结构特征造成的。CNN-LSTM的多路CNN网络便于扩展更多的工艺属性，如何加入三维零件模型或是二维图纸数据，可在未来工作中予以研究。

表5 四种工艺属性对应工艺过程

本文提出基于CNN-LSTM网络的工艺过程生成方法，通过四路CNN对零件类型、材料、工艺编码、技术要求四种工艺属性特征指导工艺过程的生成，利用LSTM对工序间的序列关系进行建模，通过编辑距离的工序序列相似性及BLEU-4分别达到0.451 5及0.237 6，好于对比方法，证明了利用深度学习模型指导工艺过程自动生成方法的有效性，为工艺过程自动生成提供了新的研究思路。在未来的工作中，可以融合更多种工艺属性特征，提高生成质量。另一方面，本文模型是利用特征提取的方法来提取工艺属性和工序特征，今后的工作中可以在预训练部分做进一步的尝试，利用预训练模型提取语义层面的信息，以更好地指导工艺过程生成。