Javascript must be enabled to continue!
Modèles cellulaires de champs neuronaux dynamiques
View through CrossRef
Dans la recherche permanente de solutions pour dépasser les limitations de plus en plus visibles de nos architectures matérielles, le calcul non-conventionnel offre des alternatives variées comme l’ingénierie neuromorphique et le calcul cellulaire. Comme von Neumann qui s’était initialement inspiré du cerveau pour concevoir l’architecture des ordinateurs, l’ingénierie neuromorphique prend la même inspiration en utilisant un substrat analogique plus proche des neurones et des synapses. Le calcul cellulaire s’inspire lui des substrats de calcul naturels (chimique, physiques ou biologiques) qui imposent une certaine localité des calculs de laquelle va émerger une organisation et des calculs. La recherche sur les mécanismes neuronaux permet de comprendre les grands principes de calculs émergents des neurones. Un des grands principes que nous allons utiliser dans cette thèse est la dynamique d’attracteurs d’abord décrite par Amari (champs neuronaux dynamiques, ou DNF pour dynamic neural fields), Amit et Zhang (réseaux de neurones à attracteurs continus). Ces champs de neurones ont des propriétés de calcul variées mais sont particulièrement adaptés aux représentations spatiales et aux fonctions des étages précoces du cortex visuel. Ils ont été utilisés entre autres dans des applications de robotique autonome, dans des tâches de classification et clusterisation. Comme de nombreux modèles de calcul neuronal, ils sont également intéressants du point de vue des architectures matérielles en raison de leur robustesse au bruit et aux fautes. On voit donc l’intérêt que ces modèles de calcul peuvent avoir comme solution permettant de dépasser (ou poursuivre) la loi de Moore. La réduction de la taille des transistors provoque en effet beaucoup de bruit, de même que la relaxation de la contrainte de ~ 0% de fautes lors de la production ou du fonctionnement des circuits permettrait d’énormes économies. Par ailleurs, l’évolution actuelle vers des circuits many-core de plus en plus distribués implique des difficultés liées au mode de calcul encore centralisés de la plupart des modèles algorithmiques parallèles, ainsi qu’au goulot d’étranglement des communications. L’approche cellulaire est une réponse naturelle à ces enjeux. Partant de ces différents constats, l’objectif de cette thèse est de rendre possible les calculs et applications riches des champs neuronaux dynamiques sur des substrats matériels grâce à des modèles neuro-cellulaires assurant une véritable localité, décentralisation et mise à l’échelle des calculs. Cette thèse est donc une proposition argumentée pour dépasser les limites des architectures de type von Neumann en utilisant des principes de calcul neuronal et cellulaire. Nous restons cependant dans le cadre numérique en explorant les performances des architectures proposées sur FPGA. L’utilisation de circuits analogiques (VLSI) serait tous aussi intéressante mais n’est pas étudiée ici. Les principales contributions sont les suivantes : 1) Calcul DNF dans un environnement neuromorphique ; 2) Calcul DNF avec communication purement locale : modèle RSDNF (randomly spiking DNF) ; 3) Calcul DNF avec communication purement locale et asynchrone : modèle CASAS-DNF (cellular array of stochastic asynchronous spiking DNF).
Title: Modèles cellulaires de champs neuronaux dynamiques
Description:
Dans la recherche permanente de solutions pour dépasser les limitations de plus en plus visibles de nos architectures matérielles, le calcul non-conventionnel offre des alternatives variées comme l’ingénierie neuromorphique et le calcul cellulaire.
Comme von Neumann qui s’était initialement inspiré du cerveau pour concevoir l’architecture des ordinateurs, l’ingénierie neuromorphique prend la même inspiration en utilisant un substrat analogique plus proche des neurones et des synapses.
Le calcul cellulaire s’inspire lui des substrats de calcul naturels (chimique, physiques ou biologiques) qui imposent une certaine localité des calculs de laquelle va émerger une organisation et des calculs.
La recherche sur les mécanismes neuronaux permet de comprendre les grands principes de calculs émergents des neurones.
Un des grands principes que nous allons utiliser dans cette thèse est la dynamique d’attracteurs d’abord décrite par Amari (champs neuronaux dynamiques, ou DNF pour dynamic neural fields), Amit et Zhang (réseaux de neurones à attracteurs continus).
Ces champs de neurones ont des propriétés de calcul variées mais sont particulièrement adaptés aux représentations spatiales et aux fonctions des étages précoces du cortex visuel.
Ils ont été utilisés entre autres dans des applications de robotique autonome, dans des tâches de classification et clusterisation.
Comme de nombreux modèles de calcul neuronal, ils sont également intéressants du point de vue des architectures matérielles en raison de leur robustesse au bruit et aux fautes.
On voit donc l’intérêt que ces modèles de calcul peuvent avoir comme solution permettant de dépasser (ou poursuivre) la loi de Moore.
La réduction de la taille des transistors provoque en effet beaucoup de bruit, de même que la relaxation de la contrainte de ~ 0% de fautes lors de la production ou du fonctionnement des circuits permettrait d’énormes économies.
Par ailleurs, l’évolution actuelle vers des circuits many-core de plus en plus distribués implique des difficultés liées au mode de calcul encore centralisés de la plupart des modèles algorithmiques parallèles, ainsi qu’au goulot d’étranglement des communications.
L’approche cellulaire est une réponse naturelle à ces enjeux.
Partant de ces différents constats, l’objectif de cette thèse est de rendre possible les calculs et applications riches des champs neuronaux dynamiques sur des substrats matériels grâce à des modèles neuro-cellulaires assurant une véritable localité, décentralisation et mise à l’échelle des calculs.
Cette thèse est donc une proposition argumentée pour dépasser les limites des architectures de type von Neumann en utilisant des principes de calcul neuronal et cellulaire.
Nous restons cependant dans le cadre numérique en explorant les performances des architectures proposées sur FPGA.
L’utilisation de circuits analogiques (VLSI) serait tous aussi intéressante mais n’est pas étudiée ici.
Les principales contributions sont les suivantes : 1) Calcul DNF dans un environnement neuromorphique ; 2) Calcul DNF avec communication purement locale : modèle RSDNF (randomly spiking DNF) ; 3) Calcul DNF avec communication purement locale et asynchrone : modèle CASAS-DNF (cellular array of stochastic asynchronous spiking DNF).
Related Results
Performance of a Neural Network Accelerator Architecture and its Optimization Using a Pipeline-Based Approach
Performance of a Neural Network Accelerator Architecture and its Optimization Using a Pipeline-Based Approach
Performance d'une architecture d'accélérateur de réseau neuronal et son optimisation à l'aide d'une approche basée sur un pipeline
Ces dernières années, les réseaux...
Biomechanical modeling of the knee joint for computer assisted medical interventions
Biomechanical modeling of the knee joint for computer assisted medical interventions
Modélisation biomécanique du genou pour la chirurgie assistée par ordinateur
Plusieurs modèles biomécaniques du membre inférieur ont été proposés dans la littératur...
Latency reduction in narrowband cellular networks : applications to IoT and V2X
Latency reduction in narrowband cellular networks : applications to IoT and V2X
Réduction de la latence dans les réseaux cellulaires à bande étroite : applications à l'IdO et au V2X
L’évolution des réseaux cellulaires de la première génération ...
Deep Learning for Partially Observed Dynamical Systems
Deep Learning for Partially Observed Dynamical Systems
Apprentissage profond pour les systèmes dynamiques partiellement observables
Les équations différentielles partielles (EDP) sont la pierre angulaire de la modélisat...
Gene duplication and cell type evolution in Cnidaria
Gene duplication and cell type evolution in Cnidaria
Duplication de gènes et évolution des types cellulaires chez les cnidaires
Les avancées récentes en microfluidique ont permis l'essor de la transcriptomique unicell...
Compression and federated learning : an approach to frugal machine learning
Compression and federated learning : an approach to frugal machine learning
Compression et apprentissage fédéré : une approche pour l'apprentissage machine frugal
Les appareils et outils “intelligents” deviennent progressivement la norme, l...
Comparison of cell types across life cycle stages of the hydrozoan Clytia hemisphaerica
Comparison of cell types across life cycle stages of the hydrozoan Clytia hemisphaerica
Comparaison des types de cellules entre les stades de vie de l'hydrozoaire clytia hemisphaerica
L'Hydrozoaire Clytia hemisphaerica présente un cycle de vie triphasi...
Une approche neuro-dynamique de conception des processus d'auto-organisation
Une approche neuro-dynamique de conception des processus d'auto-organisation
Dans ce manuscrit nous proposons une architecture neuronale d'inspiration corticale, capable de développer un traitement émergent de type auto-organisation. Afin d'implémenter cett...

