WO2024170026 - COMPUTER-IMPLEMENTIERTES VERFAHREN ZUM ÜBERWACHEN EINES TIEFEN NEURONALEN NETZWERKS UND DESSEN ANWENDUNGEN
National phase entry:
Publication Number
WO/2024/170026
Publication Date
22.08.2024
International Application No.
PCT/DE2024/035009
International Filing Date
08.02.2024
Title **
[German]
COMPUTER-IMPLEMENTIERTES VERFAHREN ZUM ÜBERWACHEN EINES TIEFEN NEURONALEN NETZWERKS UND DESSEN ANWENDUNGEN
[English]
COMPUTER-IMPLEMENTED METHOD FOR MONITORING A DEEP NEURAL NETWORK AND APPLICATIONS THEREOF
[French]
PROCÉDÉ MIS EN ŒUVRE PAR ORDINATEUR POUR SURVEILLER UN RÉSEAU NEURONAL PROFOND ET SES APPLICATIONS
Applicants **
AUMOVIO AUTONOMOUS MOBILITY GERMANY GMBH
Inventors
SCHWALBE, Gesina
KARG, Michelle
LOYAL, Antje Elisabeth
Priority Data
102023201196.4
14.02.2023
DE
Application details
| Total Number of Claims/PCT | * |
| Number of Independent Claims | * |
| Number of Priorities | * |
| Number of Multi-Dependent Claims | * |
| Number of Drawings | * |
| Pages for Publication | * |
| Number of Pages with Drawings | * |
| Pages of Specification | * |
| * | |
| Number of Office Actions | * |
| * | |
International Searching Authority |
EPO
* |
| Recordal of a Change of the Applicant's Name/Address |
Change of Applicant's Name and Address
* |
| Type of Assignment |
The Standard Agent's Assignment
* |
| Applicant's Legal Status |
Legal Entity
* |
| * | |
| * | |
| * | |
| * | |
| * | |
| Entry into National Phase under |
Chapter I
* |
| Patent Delivery |
Send the Letters Patent by Courier
* |
| Translation |
|
* The data is based on automatic recognition. Please verify and amend if necessary.
** IP-Coster compiles data from publicly available sources. If this data includes your personal information, you can contact us to request its removal.
Quotation for National Phase entry
| Country | Stages | Total | |
|---|---|---|---|
| China | Filing, Examination, Granting | 2077 | |
| EPO | Filing, Examination, Granting | 8397 | |
| Japan | Filing, Examination, Granting | 2233 | |
| South Korea | Filing, Examination, Granting | 2110 | |
| USA | Filing, Examination, Granting | 5940 |
Total:
20,757
The term for entry into the National Phase has expired. This quotation is for informational purposes only
Contact Us
Abstract[German]
Ein computer-implementiertes Verfahren zum Überwachen eines künstlichen tiefen neuronalen Netzwerks (22) umfasst das Zuführen von Eingabedaten (30) an das zu überwachende trainierte tiefe neuronale Netzwerk (22), um daraus Ausgabedaten (34) und Aktivierungskartendaten (36) zu erhalten und das Zuführen der Eingabedaten (30), der Ausgabedaten (34) und der Aktivierungskartendaten (36) an einen computer-implementierten Netzwerkbeobachter (24). Der Netzwerkbeobachter (24) erzeugt Maskierungsdaten (40) aus den Aktivierungskartendaten (36) und/oder den Eingabedaten und/oder den Ausgabedaten; maskiert die Aktivierungskartendaten (36) anhand der Maskierungsdaten (40), um maskierte Aktivierungskartendaten (36) zu erhalten, wobei die maskierten Aktivierungskartendaten (44) unmaskierte Aktivierungswerte und maskierte Aktivierungswerte enthalten; und ermittelt einen Outlier Score (26) für die Ausgabedaten (34) anhand der maskierten Aktivierungskartendaten (36), wobei beim Ermitteln des Outlier Scores (26) lediglich die unmaskierten Werte berücksichtigt werden. Der Outlier Score (26) ist ein Zahlenwert und gibt an, in welchem Umfang die ermittelte Ausgabe von einem typischen Fall abweicht.[English]
A computer-implemented method for monitoring an artificial deep neural network (22) comprises supplying input data (30) to the trained deep neural network (22) to be monitored, in order to obtain therefrom output data (34) and activation map data (36), and supplying the input data (30), the output data (34) and the activation map data (36) to a computer-implemented network observer (24). The network observer (24) generates masking data (40) from the activation map data (36) and/or the input data and/or the output data; masks the activation map data (36) using the masking data (40), in order to obtain masked activation map data (36), wherein the masked activation map data (44) contains unmasked activation values and masked activation values; and determines an outlier score (26) for the output data (34) using the masked activation map data (36), wherein only the unmasked values are taken into account when determining the outlier score (26). The outlier score (26) is a numerical value and indicates the extent to which the determined output deviates from a typical case.[French]
L’invention concerne un procédé mis en œuvre par ordinateur pour surveiller un réseau neuronal profond artificiel (22) qui consiste à fournir des données d'entrée (30) au réseau neuronal profond entraîné (22) à surveiller, afin d'obtenir à partir de ceux-ci des données de sortie (34) et des données de carte d'activation (36), et à fournir les données d'entrée (30), les données de sortie (34) et les données de carte d'activation (36) à un observateur de réseau mis en œuvre par ordinateur (24). L'observateur de réseau (24) génère des données de masquage (40) à partir des données de carte d'activation (36) et/ou des données d'entrée et/ou des données de sortie ; masque les données de carte d'activation (36) à l'aide des données de masquage (40), afin d'obtenir des données de carte d'activation masquées (36), les données de carte d'activation masquées (44) contenant des valeurs d'activation non masquées et des valeurs d'activation masquées ; et détermine un score aberrant (26) pour les données de sortie (34) à l'aide des données de carte d'activation masquées (36), seules les valeurs non masquées étant prises en compte lors de la détermination du score aberrant (26). Le score aberrant (26) est une valeur numérique et indique l'étendue à laquelle la sortie déterminée s'écarte d'un cas typique.