一种基于Transformer模型的日冕指数预测方法

YNAO OpenIR > 抚仙湖太阳观测和研究基地

	一种基于Transformer模型的日冕指数预测方法
	邓林华; 沈渤翔; 向南彬; 许婷婷; 毕以
申请（专利权）人	中国科学院云南天文台
专利号	ZL202411059656.0
申请号	CN202411059656.0
	2024-12-10
申请日期	2024-08-02
公开（公告）号	CN119106256A
公开日期	2024-12-10
IPC 分类号	G06F18/20 ; G06F18/15 ; G06F18/213 ; G06F18/21 ; G06N3/0455 ; G06N3/084 ; G06F123/02
授权国家	中国
专利类型	发明
专利状态	公开
学科领域	天文学 ; 太阳与太阳系 ; 计算机科学技术 ; 人工智能
产权排序	1
主权项	1.一种基于Transformer模型的日冕指数预测方法，其特征在于，包括以下步骤：S1、数据准备：获取并准备太阳活动相关的时间序列数据；S2、特征提取：对准备好的时间序列数据进行特征提取；S3、构建Transformer模型：根据预测任务的复杂程度和数据特点，设计并构建Transformer模型；S4、训练模型：使用准备好的数据集对构建的Transformer模型进行训练；S5、模型评估：训练完成后，使用验证集或测试集评估模型的性能。2.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于：所述步骤S1中太阳活动相关的时间序列数据包括太阳日冕指数的历史数据、太阳黑子数和太阳风速，所述数据通过太阳观测站、太阳卫星和天文观测组织采集。3.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于：所述步骤S2中的特征提取包括：时空信息转换：将原始的时空数据转换成适合模型处理的形式；多变量特征提取：太阳活动受多种因素影响，需要提取多变量特征，包括太阳黑子数量、太阳风速和太阳辐射，对于每个变量，提取统计特征、频域特征和时域特征；空间相关特征提取：特征提取包括对空间相关性的建模，使用空间滤波器或者图卷积神经网络来提取太阳表面不同区域之间的关联特征；动态特征建模：太阳活动具有动态变化，提取时间序列的趋势、周期性和季节性特征，利用这些信息建模太阳活动的演化过程；空间-时间特征交互：在神经网络中利用图卷积神经网络或者空间-时间注意力机制来提取空间和时间上的特征交互来捕捉时空关系。4.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于，所述步骤S3中Transformer模型包括编码器和解码器部分，其中编码器用于将输入序列编码成隐藏表示，解码器用于生成预测结果，模型的层数、隐藏单元数和其他超参数需要根据数据进行调整和优化。5.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于：所述步骤S5中的模型评估中，使用均方误差(MSE)、均方根误差(RMSE)或平均绝对误差(MAE)来评估模型的准确性、泛化能力和稳健性；均方误差(Mean Squared Error,MSE)：均方误差是预测值与真实值之间差异的平方的平均值，它衡量了模型预测值与真实值之间的平均偏差，MSE值越小表示模型的拟合效果越好；均方根误差(Root Mean Squared Error,RMSE)：均方根误差是均方误差的平方根，它衡量了模型预测值与真实值之间的平均偏差，并且与原始数据具有相同的量纲，RMSE值越小表示模型的预测效果越好；平均绝对误差(Mean Absolute Error,MAE)：平均绝对误差是预测值与真实值之间差异的绝对值的平均值，MAE衡量了模型预测值与真实值之间的平均偏差程度，与MSE和RMSE不同，它不考虑误差的平方，更能反映出预测值与真实值的实际差距。6.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于：所述步骤S1中包括对获取到的太阳活动相关的时间序列数据进行采集、对采集到的数据进行归一化处理及对处理后的数据进行数据分割，将数据分割为训练集、验证集和测试集。7.根据权利要求6所述的一种基于Transformer模型的日冕指数预测方法，其特征在于：所述步骤S1中的归一化处理方法为：通过[-1,1]的归一化算法，对采集的太阳活动相关的时间序列数据进行处理，具体公式为：其中，Xsca为存放归一化处理后的列表，为均值，Xmax为最大值，为了不损失值负数的信号数据，采用的归一化的范围为[-1,1]。8.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于，所述步骤S4中对构建的Transformer模型进行训练的方式为：通过Adamw优化算法，以及MSELoss，不断更新学习率，保存每10次迭代的模型，并进行测试；具体过程为：①.选取50％的太阳活动相关的时间序列数据的数据集作为训练集，40％的数据作为测试集，并以40000*1的矩阵存储下来，其余的数据作为测试集以同样的形式存储下来；②.将训练集不断地放入模型训练，并设定epoch为100，batch_size为100；③.保存每迭代10个周期的训练模型，以及其的均方误差。9.根据权利要求1所述的一种基于Transformer模型的日冕指数预测方法，其特征在于，所述步骤S4中具体为：a.提取测试集数据，将其分别输入保存好的10个模型中，进行预测测试；b.分别输出其预测波形以及其的均方误差；c.通过比较均方误差以及预测图，找到最好的预测结果，通过图像输出。
语种	中文
专利代理人	孙镜春
代理机构	北京箐昱专利代理事务所（普通合伙）
文献类型	专利
条目标识符	http://ir.ynao.ac.cn/handle/114a53/27845
专题	抚仙湖太阳观测和研究基地
作者单位	中国科学院云南天文台, 650000云南省昆明市官渡区羊方旺396号
第一作者单位	中国科学院云南天文台
推荐引用方式 GB/T 7714	邓林华,沈渤翔,向南彬,等. 一种基于Transformer模型的日冕指数预测方法. ZL202411059656.0[P]. 2024-12-10.

条目包含的文件
文件名称/大小	文献类型	版本类型	开放类型	使用许可
CN119106256A-一种基于Tra（804KB）	专利		开放获取	CC BY-NC-SA	浏览请求全文