全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210748218.X (22)申请日 2022.06.29 (71)申请人 支付宝 (杭州) 信息技 术有限公司 地址 310000 浙江省杭州市西湖区西溪路 556号8层B段801-1 1 (72)发明人 梅晓峰 张尧 赵军平  (74)专利代理 机构 北京市一法律师事务所 11654 专利代理师 李琳娜 刘荣娟 (51)Int.Cl. G06F 9/50(2006.01) G06T 1/20(2006.01) (54)发明名称 显存分配方法、 系统及非暂时性存 储介质 (57)摘要 本说明书提供的显存分配方法、 系统及非 暂 时性存储介质, 用于对串行的多个子任务进行显 存分配, 通过对串行的每个子任务产生的目标数 据进行标记, 将目标数据分为不会被后续的子任 务使用的第一数据和可以被后续的子任务使用 的第二数据, 并使多个子任务的第一数据共享同 一个目标物理内存地址, 从而节省显存消耗。 权利要求书2页 说明书14页 附图4页 CN 115309539 A 2022.11.08 CN 115309539 A 1.一种显存分配方法, 用于对目标任务运行时所需的显存进行分配, 所述目标任务包 括串行的多个子任务, 所述显存分配方法包括: 响应于所述目标任务运行时的显存分配请求, 对所述多个子任务中的每个子任务运行 时的目标数据进行分类, 所述 目标数据的类型至少包括第一数据, 所述第一数据不会被后 续的子任务使用; 为所述多个子任务分配多个目标显存 池; 以及 基于所述目标数据的类型, 将所述多个目标显存池中的每个目标显存池划分为至少一 个显存块, 所述至少一个显存块至少包括与所述第一数据对应第一显存块, 所述多个子任 务对应的多个第一显存块映射到同一个目标物理内存地址 。 2.如权利要求1所述的显存分配方法, 其中, 还 包括: 在所述每 个子任务 运行时: 基于所述目标 数据的类型将所述目标 数据存入对应的显存块中; 以及 当前子任务运行结束后, 将所述目标物理内存地址对应的显存空间释放给下一个子任 务的所述第一数据。 3.如权利要求1所述的显存分配方法, 其中, 所述对所述多个子任务中的每个子任务运 行时的目标 数据进行分类, 包括: 基于所述目标数据的类型对所述目标数据 添加类型标签, 所述类型标签至少包括与 所 述第一数据对应的第一标签。 4.如权利要求3所述的显存分配方法, 其中, 所述基于所述目标数据的类型, 将所述多 个目标显存 池中的每 个目标显存 池划分为至少一个显存块, 包括: 将所述每个目标显存池的至少部分显存空间划分为所述第 一显存块, 分配给所述第 一 数据; 以及 将所述多个第一显存块映射到所述目标物理内存地址 。 5.如权利要求4所述的显存分配方法, 其中, 所述多个第一显存块为虚拟显存, 所述将 所述多个第一显存块映射到所述目标物理内存地址, 包括: 基于单例模式将所述多个第一显存块映射到多个虚拟显存; 以及 将所述多个虚拟显存映射到所述目标物理内存地址, 并反馈多个虚拟显存指针, 所述 多个虚拟显存指针中的每个虚拟显存指针包括其对应的所述第一显存块的容量以及所述 目标物理内存地址 。 6.如权利要求4所述的显存分配方法, 其中, 所述目标数据的类型还包括第二数据, 所 述第二数据会被后续的子任务使用, 所述类型标签还包括与所述第二数据对应的第二标 签, 所述至少一个显存块还 包括与所述第二数据对应的第二显存块; 以及 所述基于所述目标数据的类型, 将所述多个目标显存池中的每个目标显存池划分为至 少一个显存块, 还 包括: 将所述每个目标显存池的至少部分显存空间划分为所述第 二显存块, 分配给所述第 二 数据。 7.如权利要求6所述的显存分配方法, 其中, 所述第二数据包括输入数据、 输出数据以 及默认数据; 所述第二标签包括:权 利 要 求 书 1/2 页 2 CN 115309539 A 2输入数据标签, 与所述输入数据对应; 输出数据标签, 与所述输出 数据对应; 以及 默认数据标签, 与所述默认数据对应; 所述第二显存块包括: 输入输出显存块, 与所述输入数据以及所述输出 数据对应; 以及 默认显存块, 与所述默认数据对应。 8.如权利要求4所述的显存分配方法, 其中, 所述第 一数据包括激活值数据以及工作空 间数据; 所述第一标签包括: 激活值数据标签, 与所述激活值数据对应; 以及 工作空间数据标签, 与所述工作空间数据对应; 所述第一显存块包括: 激活值显存块, 与所述激活值数据对应; 以及 工作空间显存块, 与所述工作空间数据对应。 9.一种显存分配系统, 包括: 至少一个存储介质, 存储有至少一个指令集, 用于对目标任务运行时所需的显存进行 分配, 所述目标任务包括多个串行的子任务; 以及 至少一个处 理器, 同所述至少一个存 储介质通信连接, 其中, 当所述显存分配系统运行时, 所述至少一个处理器读取所述至少一个指令集, 并 且根据所述至少一个指令集的指示执 行权利要求1 ‑8中任一项所述的显存分配方法。 10.一种非暂时性存储介质, 存储有至少一个指令集用于对目标任务运行时所需的显 存进行分配, 所述 目标任务包括多个串行 的子任务, 当所述至少一个指令集被处理器执行 时, 所述处 理器根据所述至少一个指令集实施权利要求1 ‑8中任一项所述的显存分配方法。权 利 要 求 书 2/2 页 3 CN 115309539 A 3

.PDF文档 专利 显存分配方法、系统及非暂时性存储介质

文档预览
中文文档 21 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共21页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 显存分配方法、系统及非暂时性存储介质 第 1 页 专利 显存分配方法、系统及非暂时性存储介质 第 2 页 专利 显存分配方法、系统及非暂时性存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:32:56上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。