WO2025202795 - MODEL QUANTIZATION METHOD, MODEL OPERATION METHOD, DEVICE, MEDIUM, AND PROGRAM PRODUCT

National phase entry is expected:
Publication Number WO/2025/202795
Publication Date 02.10.2025
International Application No. PCT/IB2025/052310
International Filing Date 04.03.2025
Title **
[English] MODEL QUANTIZATION METHOD, MODEL OPERATION METHOD, DEVICE, MEDIUM, AND PROGRAM PRODUCT
[French] PROCÉDÉ DE QUANTIFICATION DE MODÈLE, PROCÉDÉ DE FONCTIONNEMENT DE MODÈLE, DISPOSITIF, SUPPORT ET PRODUIT PROGRAMME
[Chinese] 模型量化方法、模型运行方法、设备、介质及程序产品
Applicants **
CLOUD INTELLIGENCE ASSETS HOLDING (SINGAPORE) PRIVATE LIMITED
Inventors
LI, Chenhaowen
LEI, Fanding
LU, Lu
HE, Ke
Priority Data
202410386607.1   27.03.2024   CN
Application details
Total Number of Claims/PCT *
Number of Independent Claims *
Number of Priorities *
Number of Multi-Dependent Claims *
Number of Drawings *
Pages for Publication *
Number of Pages with Drawings *
Pages of Specification *
*
Number of Office Actions *
*
International Searching Authority
*
Recordal of a Change of the Applicant's Name/Address
*
Type of Assignment
*
Applicant's Legal Status
*
*
*
*
*
*
Entry into National Phase under
*
Patent Delivery
*
译文

* The data is based on automatic recognition. Please verify and amend if necessary.

** IP-Coster compiles data from publicly available sources. If this data includes your personal information, you can contact us to request its removal.

Quotation for National Phase entry

Country StagesTotal
China Filing, Examination, Granting1956
EPO Filing, Examination, Granting11576
Japan Filing, Examination, Granting1723
South Korea Filing, Examination, Granting1206
USA Filing, Examination, Granting4740
MasterCard Visa
Total: 21,201
Contact Us
Abstract[English] Disclosed in the present disclosure are a model quantization method, a model operation method, a device, a medium, and a program product. The model quantization method comprises: grouping model parameters of each network layer in a model to be quantized; determining a quantization parameter group of any group on the basis of a target integer bit number required by a network layer to which the any group belongs, and quantifying the model parameters of the any group on the basis of the quantization parameter group; and replacing the corresponding model parameters in said model with the quantized model parameters of each group to obtain a quantized model. The model parameters are grouped for quantization to reduce the influence of outliers present in the model parameters on quantization errors.[French] La présente divulgation divulgue un procédé de quantification de modèle, un procédé de fonctionnement de modèle, un dispositif, un support et un produit programme. Le procédé de quantification de modèle consiste : à regrouper des paramètres de modèle de chaque couche de réseau dans un modèle à quantifier ; à déterminer un groupe de paramètres de quantification de n'importe quel groupe sur la base d'un nombre de bits entiers cible requis par une couche de réseau à laquelle appartient le groupe quelconque, et à quantifier les paramètres de modèle du groupe quelconque sur la base du groupe de paramètres de quantification ; et à remplacer les paramètres de modèle correspondants dans ledit modèle par les paramètres de modèle quantifiés de chaque groupe pour obtenir un modèle quantifié. Les paramètres de modèle sont regroupés pour une quantification afin de réduire l'influence de valeurs aberrantes présentes dans les paramètres de modèle sur des erreurs de quantification.[Chinese] 本公开公开了一种模型量化方法、模型运行方法、设备、介质及程序产品，量化方法包括：对待量化模型中各个网络层的模型参数进行分组；根据任一分组所属网络层所需的目标整型位数确定任一分组的量化参数组，根据量化参数组对任一分组的模型参数进行量化；利用各个分组的量化后模型参数替换待量化模型中的相应模型参数得到量化后模型。通过对模型参数进行分组来量化，以减小模型参数中存在的离群点对量化误差产生的影响。