全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210786546.9 (22)申请日 2022.07.04 (71)申请人 OPPO广东移动通信有限公司 地址 523860 广东省东莞 市长安镇乌沙海 滨路18号 (72)发明人 徐康  (74)专利代理 机构 深圳翼盛智成知识产权事务 所(普通合伙) 44300 专利代理师 蒋尧 (51)Int.Cl. G06F 9/50(2006.01) G06N 3/08(2006.01) H04L 69/04(2022.01) (54)发明名称 模型运行方法、 装置、 存 储介质及电子设备 (57)摘要 一种模型运行方法、 装置、 存储介质及电子 设备, 其中, 获取模型运行过程中产生的中间数 据; 然后对中间数据进行压缩, 得到压缩 数据; 以 及将压缩数据存储至预设存储区域; 响应于在模 型的运行过程中接收到的对中间数据的调用指 令, 从预设存储区域调取压缩数据进行解压缩。 该方法可以大大减少模型运行过程中产生的中 间数据存储和搬运所需消耗的资源, 提升模型的 运行效率。 权利要求书2页 说明书9页 附图2页 CN 115292033 A 2022.11.04 CN 115292033 A 1.一种模型运行 方法, 其特 征在于, 所述方法包括: 获取模型运行 过程中产生的中间数据; 对所述中间数据进行压缩, 得到 压缩数据; 将所述压缩数据存 储至预设存 储区域; 响应于所述模型的运行过程中接收到的对所述中间数据的调用指令, 从所述预设存储 区域调取 所述压缩数据进行解压缩。 2.根据权利要求1所述的方法, 其特征在于, 所述获取模型运行过程中产生的中间数据 之前, 还包括: 在对所述模型进行训练时, 获取 所述模型训练过程中产生的第一训练中间数据; 对所述第一训练中间数据进行压缩, 得到 压缩中间数据; 对所述压缩中间数据进行解压缩, 得到第二训练中间数据; 基于所述第二训练中间数据对所述模型进行模型训练。 3.根据权利要求1或2所述的方法, 其特征在于, 所述获取模型运行过程中产生的中间 数据, 包括: 在模型运行 过程中, 获取产生的特 征图; 确定所述特 征图为中间数据。 4.根据权利要求3所述的方法, 其特征在于, 所述对所述中间数据进行压缩, 得到压缩 数据, 包括: 采用无损压缩算法对所述中间数据进行压缩, 得到 压缩数据。 5.根据权利要求4所述的方法, 其特征在于, 所述采用无损压缩算法对所述中间数据进 行压缩, 得到 压缩数据, 包括: 采用有损压缩算法对所述中间数据进行压缩, 得到第一过渡压缩数据; 采用无损压缩算法对所述第一过渡压缩数据进行压缩, 得到 压缩数据。 6.根据权利要求4所述的方法, 其特征在于, 所述采用无损压缩算法对所述中间数据进 行压缩, 得到 压缩数据, 包括: 对所述中间数据的统计特性进行调节, 得到第二过渡压缩数据; 确定与所述第二过渡压缩数据对应的目标 无损压缩算法; 采用所述目标 无损压缩算法对所述第二过渡压缩数据进行压缩, 得到 压缩数据。 7.根据权利要求2所述的方法, 其特征在于, 所述基于所述第 二训练中间数据对所述模 型进行模型训练, 包括: 获取所述第一训练中间数据的统计特性; 基于所述统计特性更新所述模型的损失函数, 得到目标损失函数; 基于所述第二训练中间数据以及所述目标损失函数对所述模型进行训练。 8.一种模型运行装置, 其特 征在于, 包括: 获取模块, 用于获取模型运行 过程中产生的中间数据; 压缩模块, 用于对所述中间数据进行压缩, 得到 压缩数据; 存储模块, 用于将所述压缩数据存 储至预设存 储区域; 应用模块, 用于响应于所述模型的运行过程中接收到的对所述中间数据的调用指令, 从所述预设存 储区域调取 所述压缩数据进行解压缩。权 利 要 求 书 1/2 页 2 CN 115292033 A 29.一种存储介质, 其上存储有计算机程序, 其特征在于, 当所述计算机程序被电子设备 的处理器加载时执 行如权利要求1 ‑7任一项所述的模型运行 方法中的步骤。 10.一种电子设备, 所述电子设备包括处理器和存储器, 所述存储器储存有计算机程 序, 其特征在于, 所述处理器通过加载所述计算机程序执行如权利要求 1‑7任一项所述的模 型运行方法中的步骤。权 利 要 求 书 2/2 页 3 CN 115292033 A 3

.PDF文档 专利 模型运行方法、装置、存储介质及电子设备

文档预览
中文文档 14 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共14页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 模型运行方法、装置、存储介质及电子设备 第 1 页 专利 模型运行方法、装置、存储介质及电子设备 第 2 页 专利 模型运行方法、装置、存储介质及电子设备 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:33:08上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。