北航蔡国飙教授团队：真空羽流智能化计算 | 航空学报

航空学报亮点文章

蔡国飙, 张百一, 贺碧蛟, 翁惠焱, 刘立辉. 真空羽流智能化计算[J]. 航空学报, 2022, 43(10): 527352

论文下载：

真空羽流智能化计算.pdf

1

 研究背景

真空环境中，火箭发动机喷流向外部环境自由膨胀形成羽毛状流场，称为真空羽流。真空羽流会对航天器产气动力、气动热、污染、电磁干扰和视场干扰等效应，统称为羽流效应。羽流效应会干扰航天器正常工作状态，甚至影响航天器寿命和任务成败。因此，真空羽流及其效应评估和防护是航天领域的重要科学和工程问题。真空羽流包括连续介质流、过渡区域流和自由分子流等全流域状态，流动机理极其复杂。常用的真空羽流及其效应研究方法包括理论研究、在轨试验、地面试验和数值模拟等。真空羽流控制方程为Boltzmann方程，理论研究非常困难；在轨试验风险大，且费效比巨大；地面试验常受限于真空舱尺寸和动态真空度无法进行全尺寸发动机羽流及其效应研究。因此，数值模拟是当前航天领域应用最广泛的研究方法。直接模拟蒙特卡洛（DSMC）方法是稀薄流领域中较为成熟且精度最高的数值模拟方法，但DSMC方法本质上是基于第一性原理的粒子模拟，需要同时跟踪大量模拟粒子的运动，非常耗时。如月球探测器着陆月面过程中，数值模拟全尺度（～30 m）发动机羽流及其与月壤作用过程，DSMC计算的时间可达数天甚至几周，严重影响工程设计部分的迭代设计进度。由此可见，大幅提高真空羽流数值模拟效率十分必要。

本文提出了一种基于卷积神经网络的直接模拟蒙特卡洛方法（Convolutional Neural Networks-based Direct Simulation Monte Carlo Method, CNN-DSMC），并以月面探测器月面着陆过程为例，实现了火箭发动机真空羽流的快速计算。该方法使用卷积神经网络从DSMC数值模拟结果中提取特征，以此训练真空羽流智能计算模型，然后基于DSMC数值模拟中不同的几何拓扑和边界条件输入计算模型完成真空羽流场智能化求解。结果表明，和传统的DSMC方法相比，CNN-DSMC方法可以在保持较高计算精度的同时显著降低计算时间，大幅提高真空羽流评估效率。

2

 理论方法

下面分别对CNN-DSMC方法、使用的真空羽流数值模拟模型、使用的卷积神经网络和数据预处理方式进行介绍。

• 基于卷积神经网络的直接模拟蒙特卡洛（CNN-DSMC）方法

图 1为CNN-DSMC方法求解流程示意图。在CNN-DSMC方法中，计算分为数据预处理和模型训练两个过程。在数据预处理中，真空羽流仿真模型中的几何拓扑信息被抽象为符号距离函数（Signed Distance Function, SDF），边界条件信息被抽象为标识符矩阵（Identifier Matrix, IM）；SDF和IM共同作为训练集的输入；由DSMC数值模拟得到的真空羽流速度场（三个）和密度场作为训练集的输出；测试集为未参与训练的DSMC数值模拟算例，用于验证CNN-DSMC方法的准确性。在完成训练之后，就得到了真空羽流智能计算模型

式中， V   和 ρ  分别为真空羽流速度矢量和密度； D  和 M  分别代表符号距离函数和标识符矩阵。

图1 CNN-DSMC方法计算流程

• 真空羽流数值模拟模型

本文研究的月面着陆过程羽流仿真所采用的计算域如图 2(a)所示。除了月面，计算域的其余五个边界均设置为开放边界。月面和月球探测器表面设置为固体边界，热适应系数设置为1.0。所有边界的温度设置为300 K，粒子与边界相互作用模型使用Maxwell模型。DSMC数值模拟的时间步长设置为 10^-7s。定义月球探测器足垫到月面的距离为h，且以h = 10 m为界限区分羽流智能计算的近场模型和远场模型。在近场情况下，由于计算域范围较小且流场更为复杂，应用CNN-DSMC方法对全局羽流流场进行训练；在远场情况下，由于流场结构更简单，且计算域范围较大，因此截取月面上方6 m处的流场用于CNN-DSMC训练，如图 2(b)所示。

图2 月球探测器月面着陆过程真空羽流计算设置

• 卷积神经网络

CNN-DSMC方法中使用的整体网络结构如图 3所示。该网络由1个编码器和2个解码器组成，其中每个编码器（解码器）都由7个（反）卷积块组成。每个（反）卷积块的结构组成包括3个（反）卷积层和1个最大（反）池化层，如图 3(b)所示。单个（反）卷积层包括（反）卷积、激活函数和批量正则化三个过程。除了前馈过程，编码器中每个卷积块的输出都会输入解码器中对应位置的反卷积块，这是训练中避免梯度消失和梯度爆炸的关键操作。训练中使用的优化方法为AdamW，使用的损失函数为真空羽流速度场和密度场的均方根误差之和。

图3 用于真空羽流智能化计算的CNN-DSMC网络结构

• 数据预处理

在CNN-DSMC中，真空羽流仿真模型中的几何拓扑信息被抽象为符号距离函数SDF。SDF的物理意义为空间中的某个点到边界的最小距离，其符号由该点是否在边界内决定。SDF可以对几何拓扑信息通过快速行进算法计算得到。如图 4(a)所示，月球探测器内部区域的SDF为负值，月球探测器外部的SDF为正值，且值的大小随着接近月球探测器边界而减小。

在CNN-DSMC中，边界条件信息被抽象为IM，如图 4(b)所示。IM本质上是一个三维的矩阵，其矩阵元素作为区分三维空间不同区域的标识符。在本文中，共选取4种不同的标识符：开放边界、航天器边界、月面边界和真空羽流区域，这4种标识符也与实际DSMC数值模拟中使用的边界条件相对应。在具体设置中，除了月面，最外面的5个边界的标识符均设置为开放边界；航天器表面及内部设置为航天器边界；月面设置为月面边界；真空羽流流场设置为真空羽流区域。

图4 CNN-DSMC中的数据预处理结果

3

 结果与讨论

通过DSMC数值模拟获得落月过程中远场和近场的真空羽流流场数据，将其输入CNN-DSMC网络中进行训练，分别得到的远场和近场计算模型。

• 远场（h > 10 m）结果对比

分别截取了DSMC和CNN-DSMC计算的月球探测器轴线（y = 0, z = 0）上的真空羽流速度和密度数据，如图 5所示。图 5(a)和(b)分别是x方向速度和密度随距离的变化曲线，给出的曲线在x方向的范围为-10 m到-4 m，对应于所截取的月面上方6 m的真空羽流流场；其中，-10 m对应于月面的位置，-4 m对应于截取平面的位置。结果显示，CNN-DSMC计算结果与DSMC数值模拟结果几乎相符，特别是激波附近处的结果也相符。通过统计计算结果，CNN-DSMC计算和DSMC数值模拟得到的速度和密度的平均相对误差分别为4.1%和8.2%。

图5 远场（h = 18 m）时，轴线处的DSMC数值模拟结果和CNN-DSMC预测结果对比

• 近场（h ≤ 10 m）结果对比

图 6(a)和(b)分别近场情况下月球探测器x方向速度和密度的变化曲线，范围为-9 m到-1 m；其中，-9 m对应于月面位置，-1 m对应于月球探测器正下方与足垫同一高度的位置。结果表明，和远场情况类似，CNN-DSMC计算得到的速度和密度与DSMC数值模拟结果基本一致；其平均相对误差分别为6.0%和8.8%。

图6 近场（h = 8.2 m）时，轴线处的DSMC数值模拟结果和CNN-DSMC预测结果对比

• 计算时间对比

表 1是远场和近场情况下的DSMC和CNN-DSMC计算时间对比。DSMC数值模拟的计算总时间取的是训练集算例运行的平均时间，使用的CPU型号为Intel Xeon E5-2670 v3 (2.3 GHz)，使用240核并行计算。CNN-DSMC的计算基于GPU，型号为Nvidia Quadro RTX-A6000。GPU的架构使得CNN-DSMC计算可以同时处理多个算例，表格中分别展示了单个算例和多个算例的计算时间。结果显示，远场情况下，CNN-DSMC相比传统DSMC的加速比从1.62× 10 ⁵ 到4.11×10⁶之间变化；近场情况下，CNN-DSMC相比于DSMC数值模拟的加速比从6.06× 10⁶ 到9.03× 10⁵ 之间变化，都极大地提高了真空羽流的计算效率。

表 1 DSMC和CNN-DSMC计算时间对比

4

 结论

本文提出了一种真空羽流智能化计算的CNN-DSMC方法。该方法可以使用DSMC计算得到的流场数据训练得到真空羽流智能化计算模型，得到的模型可以用于真空羽流的高精度、高效率计算。结果显示，CNN-DSMC方法计算出的真空羽流速度场和密度场无论是在远场情况还是在近场情况下都与传统的DSMC数值模拟结果基本一致。在远场情况下，CNN-DSMC计算的速度和密度与DSMC数值模拟结果的平均相对误差分别为4.1%和8.2%，在近场情况下分别为6.0%和8.8%。在保证较高计算精度的同时，CNN-DSMC方法相比DSMC方法具有显著的加速效果。在远场情况下，加速比范围为1.62×10⁵到4.11×10⁶；在近场情况下，加速比范围为6.06×10⁴到9.03×10⁵。卓越的加速性能和较高的流场计算精度表明，CNN-DSMC是一个非常有应用潜力的真空羽流智能化计算方法。

文章来源：航空学报