金融界2025年3月26日消息,国家知识产权局信息显示,国网湖南省电力有限公司申请一项名为“基于大语言模型权重微调的电力系统时序预测模型训练方法、系统、装置及存储介质”的专利,公开号 CN 119670893 A,申请日期为 2024 年 12 月。
专利摘要显示,本发明公开了一种基于大语言模型权重微调的电力系统时序预测模型训练方法、系统、装置及存储介质,获取不同领域的时间序列数据并进行数据清洗后得到数据集;对大语言模型的前馈神经网络、多头注意力进行权重冻结,并使用所述数据集对大语言模型进行第一阶段训练;重构大语言模型的输入层,使得重构的输入层根据时间序列数据生成对应的自然语言指令;冻结大语言模型的权重参数,并使用电力系统源荷数据对大语言模型进行第二阶段训练,以调整重构的输入层的参数,得到时序预测预训练模型。本发明让大语言模型骨干网络的权重适应时间序列预测的具体任务的同时,能够提高预测效果。
天眼查资料显示,国网湖南省电力有限公司,成立于1992年,位于长沙市,是一家以从事电力、热力生产和供应业为主的企业。企业注册资本3433687.377259万人民币,实缴资本3433687.377259万人民币。通过天眼查大数据分析,国网湖南省电力有限公司共对外投资了62家企业,参与招投标项目3880次,专利信息5000条,此外企业还拥有行政许可244个。
来源:金融界