一种基于硬件的训练模型部署方法及装置

CN115481737BActive Publication Date: 2026-07-17UNIV OF SCI & TECH OF CHINA

Patent Information

Authority / Receiving Office
CN · China
Patent Type
Patents(China)
Current Assignee / Owner
UNIV OF SCI & TECH OF CHINA
Filing Date
2022-09-20
Publication Date
2026-07-17

Smart Images

  • Figure CN115481737B_ABST
    Figure CN115481737B_ABST
Patent Text Reader

Abstract

本申请提供了一种基于硬件的训练模型部署方法。首先,按照目标硬件的内部取整方式对训练模型进行量化感知训练,得到目标模型,使得目标模型的模型参数为整数,其中,训练模型是通过训练样本训练神经网络得到的。然后,将目标模型部署到目标硬件的内部。目标模型是按照目标硬件的内部取整方式对训练模型进行量化感知训练得到的,该方法使得目标模型的取整计算逻辑与目标硬件的内部取整计算逻辑一致,避免目标模型部署至目标硬件的内部产生误差,实现快速适配目标模型和目标硬件,从而降低了模型的实际部署难度,提高了模型的实际部署效果。
Need to check novelty before this filing date? Find Prior Art