基于改进方法的接地网不开挖腐蚀速率预测模型(4)

本文提出了基于改进CL-ML模型的接地网不开挖腐蚀预测方法，把已经采样的珍贵样本作为锚点，预测新数据的腐蚀速率与现有样本腐蚀速率的关系，显著减小了拟合函数的压力与复杂性，并充分挖掘了稀有样本的内在相关性。通过进一步应用测量的样本模型对本文模型进行测试，证明其误差远小于采用传统的BP神经网络和广义回归神经网络的方法。

1 相关理论

1.1 对比学习

在对比学习（CL）中，数据本身将为学习算法提供监督[10]。对于任何数据点x，对比方法的目的是学习编码器f：文中列项说明格式如下：

（1）

式中：x+是与x相似或相等的数据点，称为正样本；x–是与x不同的数据点，称为负样本。score函数用来度量两个特征之间相似性，其表达式为：

上述的score函数其实是N-way softmax分类器常见的交叉熵损失，在对比学习文献中通常称为InfoNCE损失。InfoNCE也与互信息有关系，最小化InfoNCE损失可使f(x)和f(x+)之间互信息的下界最大化。作为样本输入的x也可以被称为锚定点。为了优化这一特性，本文通过构造一个softmax分类器正确地分类正样本对和负样本对。这个分类器鼓励f让正样本对相似，负样本对差异化：

（3）

1.2 度量学习

度量学习是学习一个度量相似度的距离函数。相似的目标距离近，不相似的距离远。度量学习（ML）的基本步骤为[11]：

（1）计算浅入度距离度量。

（2）将每个样本都当作一个锚点。

（3）根据距离挑一部分同类做正样本，一部分其他类做负样本组成子集。

（4）对每个要么是一个大的子集里基本包含整个mini-batch（小批量，N个样本）只是权重不同，要么是N个更小的数据对。

度量学习的一个关键点是损失函数的选择，目前国内外众多文献给出了多种损失函数。本文选取了其中一种常用的损失函数，并将在建模过程中给出详细的说明。

1.3 SE模块

SE模块为包含SE单元的复合结构，其中SE全称为Squeeze-and-Excitation，意思是“压缩与激励”[12]。在Squeeze阶段，输入参数为5个原始数据的归一化数据，经过5个不同的全连接层FC和LReLU函数后变为包含5个元素的向量V1。在Excitation阶段，经过膨胀后向量V1再次转变为5个元素的向量，并经过Sigmoid函数输出，成为衡量V1中每个元素重要性的系数并与V1相乘。具体结构示意图如图1所示。

图1 SE模块示意图Fig. 1 Schematic diagram of the SE block

其中，FC是全连接层。而LReLU是激活函数，其表达式为：

（4）

式中：ci是（1,+￥）区间内的固定参数。

与此同时，Sigmoid函数作为另一个激活函数，将变量映射到（0,1）之间。其表达式为：

（5）

2 建模方法

2.1 基于改进的CL-ML模型

传统的CL-ML方法主要是学习一个虚拟度量指标α，其正比于腐蚀速率但非腐蚀速率本身，这是显著降低直接拟合压力的重要措施，神经网络结构如图2所示。

图2 传统的CL-ML模型图Fig. 2 Traditional CL-ML model diagram

为了更精确地预测，利用紧邻的两个或更多锚点，使用第二个神经网络，输出结果是参与拟合锚点的腐蚀速率系数，即：

式中：Y是组合输出结果；a1、a2等是需要拟合的系数；fushi1、fushi2等是原始样品的腐蚀数值。针对腐蚀这一特殊情况，在差异较大的情况下腐蚀速率往往相差更大。非线性程度强的情况导致目标腐蚀速率Y拟合困难，所以拟采用k-临近的方法进行拟合。改进后的神经网络示意图如图3所示。

图3 改进的CL-ML模型图Fig. 3 Improved CL-ML model diagram

相对其他算法，本文提出的算法一个突出特点就是能够充分利用珍贵的采样数据，对新数据具有较强的泛化性，并且网络能够快速收敛。如图4所示，在训练采样组数为5时，算法需要约30 epoch就能使网络收敛到稳定状态。

图4 本文算法的迭代寻优过程Fig. 4 Iterative optimization process of the algorithm used in this research

2.2 训练过程

训练时，从m个训练样本中抽取n个，可形成个训练“样本对”，例如，从60个中排列组合选5个，即可产生C(60, 5)=5 461 512个样本。对应的，网络的损失函数如下：

（7）

式中：I表示训练集。它的K个查询为；其中，ik为第k个查询中一个样本的虚拟度量指标，jk为另一个数据产生的度量指标，而是ik和jk两个点之间的真实腐蚀速率大小比较：小（+1）、大（–1）和相等（0）。是第k次查询的损失值，表示为：

文章来源：《腐蚀科学与防护技术》 网址: http://www.fskxyfhjszz.cn/qikandaodu/2021/0617/822.html