WO2025257089 - VERFAHREN ZUM BESTIMMEN EINER MERKMALSWICHTIGKEIT EINES MASCHINENLERNMODELLS
National phase entry is expected:
Publication Number
WO/2025/257089
Publication Date
18.12.2025
International Application No.
PCT/EP2025/065935
International Filing Date
06.06.2025
Title **
[German]
VERFAHREN ZUM BESTIMMEN EINER MERKMALSWICHTIGKEIT EINES MASCHINENLERNMODELLS
[English]
METHOD FOR DETERMINING FEATURE IMPORTANCE OF A MACHINE LEARNING MODEL
[French]
PROCÉDÉ DE DÉTERMINATION DE L'IMPORTANCE DE CARACTÉRISTIQUES D'UN MODÈLE D'APPRENTISSAGE AUTOMATIQUE
Applicants **
ROBERT BOSCH GMBH
Inventors
BERGDOLT, Jonas
Priority Data
102024205508.5
14.06.2024
DE
Application details
| Total Number of Claims/PCT | * |
| Number of Independent Claims | * |
| Number of Priorities | * |
| Number of Multi-Dependent Claims | * |
| Number of Drawings | * |
| Pages for Publication | * |
| Number of Pages with Drawings | * |
| Pages of Specification | * |
| * | |
| Number of Office Actions | * |
| * | |
International Searching Authority |
EPO
* |
| Recordal of a Change of the Applicant's Name/Address |
Change of Applicant's Name and Address
* |
| Type of Assignment |
The Standard Agent's Assignment
* |
| Applicant's Legal Status |
Legal Entity
* |
| * | |
| * | |
| * | |
| * | |
| * | |
| Entry into National Phase under |
Chapter I
* |
| Patent Delivery |
Send the Letters Patent by Courier
* |
| Translation |
|
* The data is based on automatic recognition. Please verify and amend if necessary.
** IP-Coster compiles data from publicly available sources. If this data includes your personal information, you can contact us to request its removal.
Quotation for National Phase entry
| Country | Stages | Total | |
|---|---|---|---|
| China | Filing, Examination, Granting | 1879 | |
| EPO | Filing, Examination, Granting | 8159 | |
| Japan | Filing, Examination, Granting | 1953 | |
| South Korea | Filing, Examination, Granting | 1619 | |
| USA | Filing, Examination, Granting | 5340 |
Total:
18,950
Contact Us
Abstract[German]
Die Erfindung betrifft ein Verfahren (100) zum Bestimmen einer Merkmalswichtigkeit eines Maschinenlernmodells, umfassend die nachfolgenden Schritte: - Bereitstellen (101) von Merkmalsvektoren und Zielwerten, wobei die Merkmalsvektoren eine Eingabe und die Zielwerte eine auf Basis der Merkmalsvektoren generierte Ausgabe des Maschinenlernmodells für ein technisches System (1) darstellen, - Schätzen (102) einer bedingten Verteilung für eine jeweilige Teilmenge der Merkmalsvektoren, - Filtern (103) der geschätzten bedingten Verteilung auf Basis wenigstens einer definierten physikalischen Bedingung, - Bestimmen (104) eines Erwartungswertes für die gefilterte geschätzte bedingte Verteilung, wobei die vorangehenden Schritte für die jeweilige Teilmenge der Merkmalsvektoren durchgeführt werden und das Verfahren ferner die folgenden Schritte umfasst: - Bestimmen (105) von marginalen Beiträgen jedes Merkmalsvektors, wobei ein Unterschied in den bestimmten Erwartungswerten zwischen den Fällen berechnet wird, in denen der Merkmalsvektor Teil der jeweiligen Teilmenge ist gegenüber den Fällen in denen der Merkmalsvektor nicht Teil der jeweiligen Teilmenge ist, - Aggregieren (106) der bestimmten marginalen Beiträge über Permutationen der Merkmalsvektoren, um jeweilige Shapley-Werte für die Merkmalsvektoren zu ermitteln, - Bestimmen (107) der Merkmalswichtigkeit des Maschinenlernmodells auf Basis der ermittelten Shapley-Werte der Merkmalsvektoren. Ferner betrifft die Erfindung ein Computerprogramm, eine Vorrichtung sowie ein Speichermedium zu diesem Zweck.[English]
The invention relates to a method (100) for determining feature importance of a machine learning model, comprising the following steps: - providing (101) feature vectors and target values, the feature vectors representing an input and the target values representing an output, which is generated on the basis of the feature vectors, of the machine learning model for a technical system (1), - estimating (102) a conditional distribution for a respective subset of the feature vectors, - filtering (103) the estimated conditional distribution on the basis of at least one defined physical condition, - determining (104) an expected value for the filtered estimated conditional distribution, with the preceding steps being carried out for the respective subset of the feature vectors, and the method further comprising the following steps: - determining (105) marginal contributions of each feature vector, with a difference being calculated in the determined expected values between the cases in which the feature vector is part of the respective subset compared to the cases in which the feature vector is not part of the respective subset, - aggregating (106) the determined marginal contributions via permutations of the feature vectors in order to identify respective Shapley values for the feature vectors, - determining (107) the feature importance of the machine learning model on the basis of the identified Shapley values of the feature vectors. The invention also relates to a computer program, to a device and to a storage medium for this purpose.[French]
L'invention concerne un procédé (100) pour déterminer l'importance de caractéristiques d'un modèle d'apprentissage automatique, comprenant les étapes suivantes consistant à : - fournir (101) des vecteurs de caractéristiques et de valeurs cibles, les vecteurs de caractéristiques représentant une entrée et les valeurs cibles représentant une sortie, générée à partir des vecteurs de caractéristiques, du modèle d'apprentissage automatique pour un système technique (1), - estimer (102) une distribution conditionnelle pour un sous-ensemble respectif des vecteurs de caractéristiques, - filtrer (103) la distribution conditionnelle estimée à partir d'au moins une condition physique définie, - déterminer (104) une valeur attendue pour la distribution conditionnelle estimée filtrée, les étapes précédentes étant réalisées pour le sous-ensemble respectif des vecteurs de caractéristiques, et le procédé comprenant en outre les étapes suivantes consistant à : - déterminer (105) des contributions marginales de chaque vecteur de caractéristiques, une différence étant calculée dans les valeurs attendues déterminées entre les cas où le vecteur de caractéristiques fait partie du sous-ensemble respectif par rapport aux cas où le vecteur de caractéristiques ne fait pas partie du sous-ensemble respectif, - agréger (106) les contributions marginales déterminées par l'intermédiaire de permutations des vecteurs de caractéristiques afin d'identifier des valeurs de Shapley respectives pour les vecteurs de caractéristiques, - déterminer (107) l'importance de caractéristiques du modèle d'apprentissage automatique sur la base des valeurs de Shapley identifiées des vecteurs de caractéristiques. L'invention concerne également un programme informatique, un dispositif et un support de stockage à cet effet.