推理应用中模型文件的管理方法及装置

专利申请号：CN202010669862.9

公 开 号：CN114090516B

发 明 人：杨志龙 

代 理 人：深圳市深佳知识产权代理事务所(普通合伙)常忠良

代理机构：深圳市深佳知识产权代理事务所(普通合伙)

专利类型：发明专利

申 请 日：20230203

公 开 日：20200713

专利主分类号：G06F16/16

关 键 词：推理 模型文件 管理模块 应用 管理对象 模型管理 目标模型 预设 字段 部署 管理 高可用性 监控目标 统一管理 训练设备 训练应用 复杂度 代理 匹配 申请 

摘      要：为了解决需要在训练设备上额外部署管理模块，在推理设备上额外部署管理模块代理，从而实现模型文件管理，导致管理复杂度较高的问题，本申请提供了一种推理应用中模型文件的管理方法，包括：监控目标模型管理对象的状态，根据推理应用的预设字段确定与目标模型管理对象匹配的目标推理应用，其中，推理应用的预设字段用于标识推理应用中模型文件对应的模型管理对象，然后根据目标模型管理对象的状态对目标推理应用中模型文件进行管理。如此，无需额外部署管理模块或管理模块代理即可实现模型文件的统一管理，而且也不要求训练应用和推理应用采用相同的框架，具有较高可用性。