据悉,智元关联公司上海智元新创技术有限公司申请的“模型运行方法及相关设备”专利已经公布。该方法包括确定第一待运行模型对应于同一设备内多个计算单元的资源预占用值,并根据各资源预占用值以及剩余资源值选取可运行该模型的目标计算单元进行运行。这一方法可以提高单设备在模型运行时的算力利用率。
据悉,智元关联公司上海智元新创技术有限公司申请的“模型运行方法及相关设备”专利已经公布。该方法包括确定第一待运行模型对应于同一设备内多个计算单元的资源预占用值,并根据各资源预占用值以及剩余资源值选取可运行该模型的目标计算单元进行运行。这一方法可以提高单设备在模型运行时的算力利用率。
网友评论