Search engine for discovering works of Art, research articles, and books related to Art and Culture
ShareThis
Javascript must be enabled to continue!

Development of an STDP neural network for unsupervised online spike-sorting

View through CrossRef
Développement d'un réseau de neurones STDP pour le tri en ligne et non-supervisé de potentiels d'action La reconnaissance de motifs est une tâche cruciale pour les êtres vivants, exécutée avec efficacité par le cerveau. Les réseaux de neurones profonds artificiels reproduisent de mieux en mieux ces performances, avec des applications telles que la reconnaissance d’images ou le traitement du langage. Ils nécessitent cependant un apprentissage intensif sur de grands jeux de données et couteux en calculs. Les réseaux de neurones à impulsions, plus proches du fonctionnement du cerveau avec des neurones émettant des impulsions et des lois d’apprentissage dites STDP dépendant du temps entre deux impulsions, constituent une alternative intéressante. Ils permettent un apprentissage non supervisé et ont déjà été utilisés pour la reconnaissance visuelle ou auditive, mais les applications restent limitées par rapport à l’apprentissage profond classique. Il est d’autant plus intéressant de développer de nouvelles applications pour ces réseaux qu’ils peuvent être implémentés sur des circuits neuromorphiques connaissant aujourd’hui des développements importants, notamment avec les composants analogiques « memristifs » qui miment la plasticité synaptique. Ici, nous avons choisi de développer un réseau STDP pour un problème crucial en neuroscience: le spike-sorting. Les implants cérébraux composés de matrices de microélectrode permettent d’enregistrer l’activité individuelle de multiples neurones, prenant la forme de pics de potentiel dans le signal, appelés potentiels d’action. Une même électrode enregistre l’activité de plusieurs neurones. Le spike-sorting a pour but de détecter et trier cette activité, en utilisant le fait que la forme d’un potentiel d’action dépend du neurone qui l’a émis. Il s’agit donc d’un problème de reconnaissance de motifs non supervisée. Les méthodes classiques de spike-sorting consistent en trois étapes : la détection des potentiels d’action, l’extraction de traits caractéristiques de leurs formes, et le tri de ces caractéristiques en groupes correspondant alors aux différentes cellules neurales. Bien que les méthodes onlines existent, les méthodes les plus répandues nécessitent un traitement offline, qui n’est pas compatible avec les applications temps réelles telles que les interfaces cerveau-machine (BCI). De plus, le développement de matrices de microélectrodes toujours plus denses nécessite des méthodes automatiques et efficaces. Utiliser un réseau STDP apporte une nouvelle méthode pour répondre à ces besoins. Le réseau que nous avons conçu prend en entrée le signal de l’électrode et produit en sortie un train d’impulsions qui correspond à l’activité des cellules enregistrées. Il est organisé en différentes couches, connectées en série, chacune effectuant une étape du traitement. La première couche, constituée de neurones senseurs, convertit le signal d’entrée en train d’impulsions. Les couches suivantes apprennent les motifs générés par la couche précédente grâce aux lois STDP. Chaque couche est améliorée par l’implémentation de différents mécanismes, tels que le STDP avec ressources, l’adaptation de seuil, la plasticité déclenchée par l’inhibition, ou un modèle de neurone déchargeant par rebond. Un mécanisme d’attention permet au réseau de ne traiter que les parties du signal contenant des potentiels d’action. Ce réseau a été conçu dans un premier temps pour traiter des données mono-électrode, puis adapté pour traiter des signaux provenant d’électrodes multiples. Il a été testé d’abord sur des données simulées qui permettent de comparer la sortie du réseau à la vérité, puis sur des enregistrements réels de microélectrodes associés à des enregistrements intracellulaires donnant une vérité partielle. Les différentes versions du réseau ont été ainsi évaluées et comparées à d’autres algorithmes, donnant des résultats très satisfaisants. Suite à ces résultats simulés sur ordinateur, nous avons travaillé à une implémentation FPGA, constituant une première étape vers une implémentation embarquée neuromorphique.
Agence Bibliographique de l'Enseignement Supérieur
Title: Development of an STDP neural network for unsupervised online spike-sorting
Description:
Développement d'un réseau de neurones STDP pour le tri en ligne et non-supervisé de potentiels d'action La reconnaissance de motifs est une tâche cruciale pour les êtres vivants, exécutée avec efficacité par le cerveau.
Les réseaux de neurones profonds artificiels reproduisent de mieux en mieux ces performances, avec des applications telles que la reconnaissance d’images ou le traitement du langage.
Ils nécessitent cependant un apprentissage intensif sur de grands jeux de données et couteux en calculs.
Les réseaux de neurones à impulsions, plus proches du fonctionnement du cerveau avec des neurones émettant des impulsions et des lois d’apprentissage dites STDP dépendant du temps entre deux impulsions, constituent une alternative intéressante.
Ils permettent un apprentissage non supervisé et ont déjà été utilisés pour la reconnaissance visuelle ou auditive, mais les applications restent limitées par rapport à l’apprentissage profond classique.
Il est d’autant plus intéressant de développer de nouvelles applications pour ces réseaux qu’ils peuvent être implémentés sur des circuits neuromorphiques connaissant aujourd’hui des développements importants, notamment avec les composants analogiques « memristifs » qui miment la plasticité synaptique.
Ici, nous avons choisi de développer un réseau STDP pour un problème crucial en neuroscience: le spike-sorting.
Les implants cérébraux composés de matrices de microélectrode permettent d’enregistrer l’activité individuelle de multiples neurones, prenant la forme de pics de potentiel dans le signal, appelés potentiels d’action.
Une même électrode enregistre l’activité de plusieurs neurones.
Le spike-sorting a pour but de détecter et trier cette activité, en utilisant le fait que la forme d’un potentiel d’action dépend du neurone qui l’a émis.
Il s’agit donc d’un problème de reconnaissance de motifs non supervisée.
Les méthodes classiques de spike-sorting consistent en trois étapes : la détection des potentiels d’action, l’extraction de traits caractéristiques de leurs formes, et le tri de ces caractéristiques en groupes correspondant alors aux différentes cellules neurales.
Bien que les méthodes onlines existent, les méthodes les plus répandues nécessitent un traitement offline, qui n’est pas compatible avec les applications temps réelles telles que les interfaces cerveau-machine (BCI).
De plus, le développement de matrices de microélectrodes toujours plus denses nécessite des méthodes automatiques et efficaces.
Utiliser un réseau STDP apporte une nouvelle méthode pour répondre à ces besoins.
Le réseau que nous avons conçu prend en entrée le signal de l’électrode et produit en sortie un train d’impulsions qui correspond à l’activité des cellules enregistrées.
Il est organisé en différentes couches, connectées en série, chacune effectuant une étape du traitement.
La première couche, constituée de neurones senseurs, convertit le signal d’entrée en train d’impulsions.
Les couches suivantes apprennent les motifs générés par la couche précédente grâce aux lois STDP.
Chaque couche est améliorée par l’implémentation de différents mécanismes, tels que le STDP avec ressources, l’adaptation de seuil, la plasticité déclenchée par l’inhibition, ou un modèle de neurone déchargeant par rebond.
Un mécanisme d’attention permet au réseau de ne traiter que les parties du signal contenant des potentiels d’action.
Ce réseau a été conçu dans un premier temps pour traiter des données mono-électrode, puis adapté pour traiter des signaux provenant d’électrodes multiples.
Il a été testé d’abord sur des données simulées qui permettent de comparer la sortie du réseau à la vérité, puis sur des enregistrements réels de microélectrodes associés à des enregistrements intracellulaires donnant une vérité partielle.
Les différentes versions du réseau ont été ainsi évaluées et comparées à d’autres algorithmes, donnant des résultats très satisfaisants.
Suite à ces résultats simulés sur ordinateur, nous avons travaillé à une implémentation FPGA, constituant une première étape vers une implémentation embarquée neuromorphique.

Related Results

Paired competing neurons improving STDP supervised local learning in spiking neural networks
Paired competing neurons improving STDP supervised local learning in spiking neural networks
Direct training of Spiking Neural Networks (SNNs) on neuromorphic hardware has the potential to significantly reduce the energy consumption of artificial neural network training. S...
What Can a Neuron Learn with Spike-Timing-Dependent Plasticity?
What Can a Neuron Learn with Spike-Timing-Dependent Plasticity?
Spiking neurons are very flexible computational modules, which can implement with different values of their adjustable synaptic parameters an enormous variety of different transfor...
Mean-field approximations with adaptive coupling for networks with spike-timing-dependent plasticity
Mean-field approximations with adaptive coupling for networks with spike-timing-dependent plasticity
Abstract Understanding the effect of spike-timing-dependent plasticity (STDP) is key to elucidate how neural networks change over long timescales and to design inte...
Assessing cross-contamination in spike-sorted electrophysiology data
Assessing cross-contamination in spike-sorted electrophysiology data
ABSTRACT Recent advances in extracellular electrophysiology now facilitate the recording of spikes from hundreds or thousands of neurons simultaneously. This has ne...
A spike-timing-dependent plasticity rule for single, clustered and distributed dendritic spines
A spike-timing-dependent plasticity rule for single, clustered and distributed dendritic spines
SUMMARY Spike-timing-dependent plasticity (STDP) has been extensively studied in cortical pyramidal neurons, however, the precise structural organization of excitat...
Unsupervised STDP-based Feature Learning for Video Analysis with Spiking Neural Networks
Unsupervised STDP-based Feature Learning for Video Analysis with Spiking Neural Networks
Apprentissage non supervisé basé sur le STDP pour l’analyse vidéo avec des réseaux neuronaux impulsionnels La reconnaissance des actions humaines (HAR) est une tâch...
Efficient supervised training of shallow and deep temporally-coded spiking neural networks
Efficient supervised training of shallow and deep temporally-coded spiking neural networks
Apprentissage supervisé efficace pour les réseaux de neurones impulsionnels à codage temporel L'informatique neuromorphique avec les réseaux de neurones impulsionne...
Theoretical investigation of weight-dependent optical spike timing dependent plasticity based on VCSOA
Theoretical investigation of weight-dependent optical spike timing dependent plasticity based on VCSOA
Abstract We propose an implement scheme of the weight-dependent optical spike timing dependent plasticity (STDP) based on the vertical-cavity semiconductor optical a...

Back to Top