Javascript must be enabled to continue!
apprentissage de séquences et extraction de règles de réseaux récurrents : application au traçage de schémas techniques.
View through CrossRef
Deux aspects importants de la connaissance qu'un individu a pu acquérir par ses expériences correspondent à la mémoire sémantique (celle des connaissances explicites, comme par exemple l'apprentissage de concepts et de catégories décrivant les objets du monde) et la mémoire procédurale (connaissances relatives à l'apprentissage de règles ou de la syntaxe). Cette "mémoire syntaxique" se construit à partir de l'expérience et notamment de l'observation de séquences, suites d'objets dont l'organisation séquentielle obéit à des règles syntaxiques. Elle doit pouvoir être utilisée ultérieurement pour générer des séquences valides, c'est-à-dire respectant ces règles. Cette production de séquences valides peut se faire de façon explicite, c'est-à-dire en évoquant les règles sous-jacentes, ou de façon implicite, quand l'apprentissage a permis de capturer le principe d'organisation des séquences sans recours explicite aux règles. Bien que plus rapide, plus robuste et moins couteux en termes de charge cognitive que le raisonnement explicite, le processus implicite a pour inconvénient de ne pas donner accès aux règles et de ce fait, de devenir moins flexible et moins explicable. Ces mécanismes mnésiques s'appliquent aussi à l'expertise métier : la capitalisation des connaissances pour toute entreprise est un enjeu majeur et concerne aussi bien celles explicites que celles implicites. Au début, l'expert réalise un choix pour suivre explicitement les règles du métier. Mais ensuite, à force de répétition, le choix se fait automatiquement, sans évocation explicite des règles sous-jacentes. Ce changement d'encodage des règles chez un individu en général et particulièrement chez un expert métier peut se révéler problématique lorsqu'il faut expliquer ou transmettre ses connaissances. Si les concepts métiers peuvent être formalisés, il en va en général de tout autre façon pour l'expertise. Dans nos travaux, nous avons souhaité nous pencher sur les séquences de composants électriques et notamment la problématique d’extraction des règles cachées dans ces séquences, aspect important de l’extraction de l’expertise métier à partir des schémas techniques. Nous nous plaçons dans le domaine connexionniste, et nous avons en particulier considéré des modèles neuronaux capables de traiter des séquences. Nous avons implémenté deux réseaux de neurones récurrents : le modèle de Elman et un modèle doté d’unités LSTM (Long Short Term Memory). Nous avons évalué ces deux modèles sur différentes grammaires artificielles (grammaire de Reber et ses variations) au niveau de l’apprentissage, de leurs capacités de généralisation de celui-ci et leur gestion de dépendances séquentielles. Finalement, nous avons aussi montré qu’il était possible d’extraire les règles encodées (issues des séquences) dans le réseau récurrent doté de LSTM, sous la forme d’automate. Le domaine électrique est particulièrement pertinent pour cette problématique car il est plus contraint avec une combinatoire plus réduite que la planification de tâches dans des cas plus généraux comme la navigation par exemple, qui pourrait constituer une perspective de ce travail.
Title: apprentissage de séquences et extraction de règles de réseaux récurrents : application au traçage de schémas techniques.
Description:
Deux aspects importants de la connaissance qu'un individu a pu acquérir par ses expériences correspondent à la mémoire sémantique (celle des connaissances explicites, comme par exemple l'apprentissage de concepts et de catégories décrivant les objets du monde) et la mémoire procédurale (connaissances relatives à l'apprentissage de règles ou de la syntaxe).
Cette "mémoire syntaxique" se construit à partir de l'expérience et notamment de l'observation de séquences, suites d'objets dont l'organisation séquentielle obéit à des règles syntaxiques.
Elle doit pouvoir être utilisée ultérieurement pour générer des séquences valides, c'est-à-dire respectant ces règles.
Cette production de séquences valides peut se faire de façon explicite, c'est-à-dire en évoquant les règles sous-jacentes, ou de façon implicite, quand l'apprentissage a permis de capturer le principe d'organisation des séquences sans recours explicite aux règles.
Bien que plus rapide, plus robuste et moins couteux en termes de charge cognitive que le raisonnement explicite, le processus implicite a pour inconvénient de ne pas donner accès aux règles et de ce fait, de devenir moins flexible et moins explicable.
Ces mécanismes mnésiques s'appliquent aussi à l'expertise métier : la capitalisation des connaissances pour toute entreprise est un enjeu majeur et concerne aussi bien celles explicites que celles implicites.
Au début, l'expert réalise un choix pour suivre explicitement les règles du métier.
Mais ensuite, à force de répétition, le choix se fait automatiquement, sans évocation explicite des règles sous-jacentes.
Ce changement d'encodage des règles chez un individu en général et particulièrement chez un expert métier peut se révéler problématique lorsqu'il faut expliquer ou transmettre ses connaissances.
Si les concepts métiers peuvent être formalisés, il en va en général de tout autre façon pour l'expertise.
Dans nos travaux, nous avons souhaité nous pencher sur les séquences de composants électriques et notamment la problématique d’extraction des règles cachées dans ces séquences, aspect important de l’extraction de l’expertise métier à partir des schémas techniques.
Nous nous plaçons dans le domaine connexionniste, et nous avons en particulier considéré des modèles neuronaux capables de traiter des séquences.
Nous avons implémenté deux réseaux de neurones récurrents : le modèle de Elman et un modèle doté d’unités LSTM (Long Short Term Memory).
Nous avons évalué ces deux modèles sur différentes grammaires artificielles (grammaire de Reber et ses variations) au niveau de l’apprentissage, de leurs capacités de généralisation de celui-ci et leur gestion de dépendances séquentielles.
Finalement, nous avons aussi montré qu’il était possible d’extraire les règles encodées (issues des séquences) dans le réseau récurrent doté de LSTM, sous la forme d’automate.
Le domaine électrique est particulièrement pertinent pour cette problématique car il est plus contraint avec une combinatoire plus réduite que la planification de tâches dans des cas plus généraux comme la navigation par exemple, qui pourrait constituer une perspective de ce travail.
Related Results
Efficient supervised training of shallow and deep temporally-coded spiking neural networks
Efficient supervised training of shallow and deep temporally-coded spiking neural networks
Apprentissage supervisé efficace pour les réseaux de neurones impulsionnels à codage temporel
L'informatique neuromorphique avec les réseaux de neurones impulsionne...
Compression and federated learning : an approach to frugal machine learning
Compression and federated learning : an approach to frugal machine learning
Compression et apprentissage fédéré : une approche pour l'apprentissage machine frugal
Les appareils et outils “intelligents” deviennent progressivement la norme, l...
Extraction optimisée de règles d'association positives et négatives intéressantes
Extraction optimisée de règles d'association positives et négatives intéressantes
L’objectif de la fouille de données consiste à extraire des connaissances à partir de grandes masses de données. Les connaissances extraites peuvent prendre différentes formes. Dan...
Low-rank network models of neural computations
Low-rank network models of neural computations
Réseaux de neurones de bas rang et calculs neuronaux
À tout instant, des myriades de neurones coopèrent au sein d’un système nerveux, produisant des motifs d’activi...
Relationship discovery in social networks
Relationship discovery in social networks
Découverte des relations dans les réseaux sociaux
Les réseaux sociaux occupent une place de plus en plus importante dans notre vie quotidienne et représentent une p...
Affective temperaments, self-schemas, and their interplay with emotional distress
Affective temperaments, self-schemas, and their interplay with emotional distress
Background
Affective temperaments and self-schemas are theorized to shape susceptibility to emotional distress, yet their interplay remains empirically unexplor...
Visual learning in Apis mellifera under virtual reality conditions
Visual learning in Apis mellifera under virtual reality conditions
Apprentissage visuel en réalité virtuelle chez Apis mellifera
Dotées d'un cerveau de moins d'un millimètre cube et contenant environ 950 000 neurones, les abeilles ...
Metalearning under uncertainty
Metalearning under uncertainty
Méta-apprentissage en situation d'incertitude : étude comportementale et computationnelle de l’adaptabilité chez l’homme
L’apprentissage correspond à l’adaptation d...

