Method Article
In this paper, an experimental framework to perform closed-loop experiments is presented, in which information processing (i.e., coding and decoding) and learning of neuronal assemblies are studied during the continuous interaction with a robotic body.
Information coding in the Central Nervous System (CNS) remains unexplored. There is mounting evidence that, even at a very low level, the representation of a given stimulus might be dependent on context and history. If this is actually the case, bi-directional interactions between the brain (or if need be a reduced model of it) and sensory-motor system can shed a light on how encoding and decoding of information is performed. Here an experimental system is introduced and described in which the activity of a neuronal element (i.e., a network of neurons extracted from embryonic mammalian hippocampi) is given context and used to control the movement of an artificial agent, while environmental information is fed back to the culture as a sequence of electrical stimuli. This architecture allows a quick selection of diverse encoding, decoding, and learning algorithms to test different hypotheses on the computational properties of neuronal networks.
Plusieurs caractéristiques de fonctionnement du cerveau sont actuellement impossible à reproduire dans un système artificiel. La capacité du cerveau à traiter rapidement l'information sensorielle complexe et pour générer, en réponse, les commandes de moteur précis est par lui-même déjà au-delà de l'état-of-the-art actuel. Mais sa capacité à se adapter aux conditions différentes en apprenant de l'expérience passée, il est donc largement supérieure aux systèmes de contrôle des droits développé. Jusqu'à présent, tente de reproduire ou d'exploiter cette plasticité ont rencontré peu de succès, et la compréhension des rouages du cerveau a échappé à la portée des chercheurs. L'une des principales questions alors qu'il enquêtait sur la relation entre le cerveau et le comportement est l'impossibilité d'accéder correctement toutes les variables dans le système: idéalement, un dispositif expérimental optimal permettrait enregistrement et la stimulation simultanée à un grand nombre de neurones, la stabilité à long terme , suivi des synapses positions et poids, et contrôlable bi-directional interaction avec l'environnement. La difficulté dans le suivi de toutes ces variables simultanément conduit à l'étude de la relation cerveau-comportement à deux échelles très différentes: soit avec un comportement des animaux, avec aucune amende contrôle sur les conditions expérimentales 1-7 ou avec de petites pièces, isolées, comme des parties de le tissu neuronal, sans vue d'ensemble du système 8. Dans ce dernier cas, alors qu'aucun dispositif expérimental mis au point permet la surveillance complète de tous les paramètres intervenant dans le fonctionnement de même un réseau de neurones simple, un bon compromis est fourni par les neurones dissociés cultivés sur Micro-électrodes (AME) Tableaux 9. Ces dispositifs, nés à la fin des années 70, 10 présentent plusieurs avantages par rapport aux techniques d'électrophysiologie traditionnelles: d'une part, la possibilité d'enregistrer et de stimuler un réseau de neurones dans de nombreux endroits différents à la fois (généralement 60 électrodes). En outre, le couplage des AME avec des cellules est presque non-invasive, Ce qui permet l'observation d'un même réseau pour de longues périodes de temps, jusqu'à plusieurs mois 11. Les effets physiologiques de la stimulation électrique sur les cultures dissociées ont été largement étudiées grâce à ces dispositifs, révélant que de nombreuses propriétés observées à des échelles supérieures (comme, par exemple, la plasticité et processus simple souvenir 12-14) sont conservées malgré la perte de l'architecture. Pendant la croissance de la culture, ces réseaux commencent à montrer l'activité spontanée à environ 7 jours in vitro (DIV) 15,16. L'activité du réseau a tendance à changer radicalement avec la croissance; d'abord comme des pointes simples réunissent en rafales (vers la fin de la deuxième semaine) 17, plus tard, il se transforme en un modèle très complexe de synchronisation, le réseau non périodique éclate 18, qui représente l'état de maturité d'un réseau. Il a été suggéré 19 que ce comportement synchrone, quelque peu similaire à celle observée dans le dossier in vivoments sur les animaux de couchage, est causée par le manque de données sensorielles.
Une approche différente a tenté d'acquérir une meilleure compréhension de l'information codage a été prise par la réalisation d'expériences en boucle fermée, dans laquelle différents types de signaux ont été utilisés pour contrôler la stimulation du réseau neuronal se 11,20-23. Dans ces expériences, un agent externe capable d'interaction avec le milieu a été utilisé pour générer des informations sensorielles introduit dans le réseau neuronal, qui, à son tour, produit des commandes de moteur pour un mécanisme effecteur. Cela a permis des observations de la façon dont les propriétés dynamiques et d'adaptation des systèmes neuronaux ont évolué en réponse aux changements induits dans l'environnement.
Une configuration pour effectuer 'incarne neurophysiologie' expériences a été développé, où une plate-forme à roues de capteur (un robot physique ou son modèle virtuel) se déplace dans une arène et de ses profils de vitesse sont déterminées par l'activité d'une neuronalesystème (ce est à dire, une population de neurones de rat cultivés sur une MEA). Le robot est caractérisé par les profils de vitesse de ses deux roues de manière indépendante et contrôlée par les valeurs actuelles des capteurs de distance. La nature exacte des capteurs de distance ne est pas applicable; ils peuvent être actives ou passives des capteurs optiques ou des capteurs à ultrasons. De toute évidence, cette question ne se applique pas dans le cas des robots virtuels, dans lequel des capteurs peuvent être conçus avec toute fonction désirée.
Dans les expériences décrites ici, le robot est toujours utilisé l'application virtuelle, avec six capteurs de distance pointant à 30 °, 60 ° et 90 ° de la position du robot dans les deux sens. L'activité des trois capteurs gauche et droit est moyenne et l'activité de la culture biologique est entraîné par les informations recueillies par ces «super-capteurs» (qui sera simplement dénommé «bons» des capteurs dans le reste de «gauche» et de ce travail). Le protocol décrit peut effectivement être appliquée au robot physique avec des ajustements relativement mineurs. Les informations recueillies par le robot (physique ou virtuel) est codée dans une série de stimuli qui sont utilisées pour manipuler l'activité du réseau neuronal biologique, qui est physiquement séparé par le robot. Les stimuli eux-mêmes sont tous identiques et donc ne codent pas d'informations. Ce qui est pertinent est leur fréquence: hausses de taux de stimulation lorsque le robot se approche d'un obstacle, avec différents sites de prestation de codage de l'information sensorielle des «yeux» gauche et droite du robot. Le réseau de neurones va présenter des réponses différentes au train entrant de stimulations: la tâche de l'algorithme de décodage consiste à traduire l'activité de réseau résultant en des commandes utilisées pour commander les roues du robot. Compte tenu d'un comportement «parfait» du réseau (ce est à dire, des informations fiables et totalement réponses à des stimuli de différentes électrodes séparées), cela Result dans le robot de conduite dans son arène sans frapper ne importe quel obstacle. La plupart des réseaux présente un comportement très différents de l'idéalité, donc un protocole d'apprentissage simple est introduit: lorsqu'il est activé, stimulation tétanique (brèves de sorts de la stimulation à haute fréquence, 20 stimulation Hz pour 2 sec, inspiré par les protocoles décrits dans 24,25) suite à une collision avec un obstacle est livré. Si les résultats de stimulation tétanique à un renforcement locale de la connectivité réseau, cela se traduira par une augmentation progressive des capacités de navigation du robot.
HyBrainWare2, une version améliorée du logiciel personnalisé publié en 26, est l'architecture de base mis au point pour traiter la commande des différents dispositifs du système (stimulateur, l'acquisition des données, le traitement et la visualisation, la communication ou la simulation du robot). Ce logiciel a été développé dans notre laboratoire et est disponible gratuitement sur demande. Ce logiciel fournit l'interface avecla carte d'acquisition de données: une fois que l'utilisateur démarre l'acquisition de données à partir de l'interface graphique, le logiciel contrôle la carte d'acquisition pour commencer l'échantillonnage et la conversion A / D de données provenant des électrodes d'enregistrement. Ces données peuvent ensuite être enregistrées, affichées à l'écran ou analysé en temps réel pour détecter les pics, selon les options définies par l'utilisateur (voir la section Procédure pour plus de détails). En outre, dans le logiciel, la définition de codage (traduction de l'information sensorielle en une stimulation électrique) et le décodage (traduction de l'activité enregistrée en commandes de moteur pour le robot) algorithmes doit être spécifié. En particulier, notre configuration est relativement conviviale par rapport aux systèmes similaires conçus dans le passé 27, puisque presque toutes les variables peuvent être accessibles à l'utilisateur juste avant de commencer l'expérience réelle, tandis que toutes les informations enregistrées sont automatiquement enregistrées dans un format compatible avec une analyse des données de neurones boîte à outils 28.
La section de procédure suivante décrit une expérience d'apprentissage sur les cultures d'hippocampe de rat dissocié: toute la culture et les paramètres expérimentaux sont fournis pour cette préparation particulière et peuvent avoir besoin d'être modifié si un substrat biologique différente doit être utilisée. De même, l'expérience décrite tire parti de l'architecture en boucle fermée pour étudier l'effet d'apprentissage de stimulation tétanique, mais l'architecture lui-même est suffisamment souple pour être utilisée dans l'étude de différents dispositifs de réseaux de neurones dissociés. Les grandes variantes de l'expérience proposée sont expliquées plus en détail dans la section Discussion.
1. Préparation de la culture neuronale sur une MEA
2. Sélection des paramètres d'enregistrement pour l'acquisition de MEA
3. Sélection des AME électrodes pour stimuler l'Calcul Neuronal Culture et Réponse Plan
4. L'interface de la Culture neuronale avec le Robot: Sélection de Codage et décodage Schémas
5. Conception de la navigation pour le Robot Arena
6. Sélection des AME électrodes à enregistrement neuronale activité de la Culture
7. Effectuer une expérience neuro-robotique
8. Deuxième Plan Calcul Réponse
Le cadre expérimental développé permis de tester si un échange d'informations entre une culture de neurones et la réalisation virtuelle d'un robot physique est possible 34. La figure 1 montre plusieurs échantillons de chemins obtenus parcourus par un robot virtuel dans 20 expériences min dans des conditions différentes : de gauche à droite une expérience appropriée en boucle fermée, une expérience de robot «vide MEA '(pas de cellules sont étalées sur la MEA pour cette expérience de contrôle) et une expérience de robot en boucle ouverte (fréquence de stimulation est constant au lieu de coder les informations du capteur) sont représentés. Les traces représentatives confirment qu'une interaction bidirectionnelle entre les éléments neuronaux artificiels et est nécessaire pour obtenir de bonnes performances de navigation du robot. Néanmoins, le robot subit plusieurs coups contre les obstacles.
Sur la figure 2, les performances de navigation du robot, expressed sous forme de pixels parcourus entre touches subséquentes, est montré dans des conditions différentes. Les deux premières colonnes présentent la distribution des distances parcourues dans les expériences de contrôle mentionnés ci-dessus ("MEA vide" et les configurations en boucle ouverte), tandis que les troisième et quatrième colonnes affichent les performances avec et sans, respectivement, la fourniture de stimulation tétanique après chaque frapper contre un obstacle. L'introduction de la stimulation tétanique (Cf. procédure, point 7.2) améliore significativement la distance parcourue entre deux coups consécutifs, améliorant ainsi les performances de navigation du robot 35.
Sur la figure 3, les performances de navigation d'un robot avec des conditions différentes de décodage est présentée. À cette fin, une configuration de scène différente a été adoptée. Cela a permis de quantifier le succès de navigation du robot dans l'arène 36: comme décrit dans l'étape 4.1 de la procédure, le robot estprésenté une série de pistes courtes. Le taux de réussite est tout simplement le rapport entre le nombre de pistes croisées avec succès sur le nombre de pistes présentées. En particulier, au cours des expériences d'une identification en temps réel des pointes de salve et isolé a été effectuée. Les paradigmes de décodage diffèrent les uns des autres à cause des poids relatifs des éclats et des pointes isolées (Cf. procédure, souligne 03.05 à 03.06 et discussion).
Figure 1: un réseau neuronal et d'un robot ont un échange bidirectionnel d'informations Cette figure montre trois voies représentatives parcourues par le robot au-dessus de 20 minutes d'expérience.. En particulier, les zones vertes claires sont gratuits pour le robot de se déplacer dans, alors que sombres pixels verts représentent des obstacles infranchissables que le robot peut percevoir à travers ses capteurs de distance. Dans chaque essai, le robot commence in la section supérieure gauche de l'arène et se déplace à sa position finale, dépeint comme un grand point rose. Les petits points noirs représentent les résultats contre un obstacle, tandis que la trajectoire d'un code de couleur fournit une indication de l'évolution temporelle du mouvement du robot. La barre de couleur sur la droite exprime le temps écoulé depuis le début de l'expérience en quelques minutes. (A) trajectoire suivie lors d'une expérience en boucle fermée. (B) trajectoire suivie lors d'une expérience de MEA «vide» (pas de cellules sont cultivées sur la MEA surface). (C) trajectoire suivie lors d'une expérience en boucle ouverte (fréquence de stimulation est constante tout au long de l'expérience). Se il vous plaît cliquer ici pour voir une version plus grande de la figure.
Figure 2: Les résultats de performance sont affectées par fermé-loop et stimulation tétanique. Ce graphique présente les distributions des distances parcourues par le robot entre visites ultérieures dans différentes conditions. En particulier, les deux premières distributions représentent des expériences de contrôle («vide» pour les enregistrements sans neurones plaquées sur la MEA, «boucle ouverte» (OL) pour l'expérience avec un robot «aveugle»). Les deux dernières colonnes représentent la condition de «boucle fermée» sans (CL) et avec (CL + TS), le protocole d'apprentissage mis en œuvre par stimulation tétanique (TS), d'être livré à la culture suivante coups contre un obstacle. Dans chaque case, le segment horizontal central représente la médiane de la distribution, la place vide de la valeur moyenne, la barre centrale se étend à la première et troisième quartile et les moustaches se étendent aux 5 e et 95 e percentiles. Les valeurs aberrantes sont représentés comme des diamants. Les statistiques ont été effectuées en utilisant l'Kruskall-Wallis analyse unidirectionnelle de variancerangs sur: la comparaison par paires de Student-Newman-Keuls révèle que toutes les valeurs moyennes sont significativement différentes à p <0,05.
Figure 3: Décodage influence la performance robotique Le graphique ci-dessus représente la probabilité, pour un algorithme de décodage donné, du robot à naviguer avec succès à travers une courte piste dans un temps limité.. Identification de salves et les pics isolés est effectuée en temps réel au cours de l'expérience elle-même. Dans le premier cas («Pointes») tous les pics détectés présentent le même poids relatif, pour les deuxième et troisième distributions un poids de 0 a été fixée pour, respectivement, des pointes et des pointes isolées appartenant à une rafale. Les deux dernières colonnes représentent les résultats obtenus dans le cas où toutes les pointes sont pris en compte, mais avec un poids relatif différent selon leur position.En particulier dans la quatrième colonne isolé pointes ont été donnés poids relatif plus élevé que les événements en rafale, tandis que la pondération est inversé pour le décodage par rapport à la cinquième données de la colonne. Dans chaque graphique, la ligne centrale représente la médiane de la distribution, la place vide, la valeur moyenne, tandis que le bar central se étend à la première et troisième quartile et les moustaches se étendent aux 5 e et 95 e percentiles. Les statistiques ont été effectuées en utilisant l'Kruskall-Wallis analyse unidirectionnelle de variance sur les rangs. La comparaison deux à deux (méthode de Student-Newman-Keuls), révèle que des différences significatives (p <0,05) peuvent être observées entre les colonnes 1 et 4, 2 et 4, 2 et 5, 2 et 3.
Dans cet article, une architecture de neuro-robot basé sur un contrôleur de neurones (par exemple, un réseau de neurones en provenance du cortex ou de l'hippocampe de rats embryonnaires), connecté de façon bidirectionnelle à un robot virtuel, est présentée. Le robot, qui comporte des capteurs et des roues, est forcé de se déplacer dans une scène statique avec des obstacles et sa tâche consiste à éviter les collisions.
La première et peut-être le plus important aspect de la procédure est décrite la préparation des cultures elles-mêmes, comme le taux d'échec aura tendance à être importante même dans les meilleures conditions techniques. Une description détaillée de la culture de techniques est, cependant, en dehors de la portée du présent travail. En règle générale, les enregistrements doivent se produire lorsque le taux d'allumage du réseau atteint un niveau stable, habituellement après 3 semaines in vitro. Une indication approximative des cultures en bonne santé est la présence de l'activité électrophysiologique spontanée dans plusieurs chann d'enregistrementels (au moins 20 canaux sur 60 disponibles). Ces cultures sont caractérisées par un haut degré d'inter-connectivité neuronale. Dans ces conditions, l'activité neuronale en général devient fortement synchronisée et, parfois, il affiche les événements épileptiformes, avec dopage intense suivie par minutes-longues périodes de silence 37. Ces deux caractéristiques présentent un problème: la synchronisation excessive, il sera impossible de distinguer les réponses à des stimuli de différentes électrodes, alors que les cultures présentant une activité épileptique seront répondre à la première relance présenté avec une longue explosion de l'activité, suivie par une période de silence, indépendamment de tout stimuli successifs livré. Ces deux questions peuvent être fortement améliorées par l'emploi des cultures à motifs 35, dans lequel la population de neurones est divisée en deux ou plusieurs sous-groupes faiblement interconnectés.
Un autre problème est que les réponses de neurones dépendent fortement de la distribution de stimul entranti 38,39. Dans une expérience en boucle fermée, la stimulation est délivrée en fonction des lectures de capteur, qui, à leur tour, sont une conséquence du mouvement du robot et donc des réponses de neurones eux-mêmes. Cela implique qu'il n'y a pas de moyen facile d'établir à l'avance quelles réponses seront observé pendant l'expérience réelle. Par conséquent, la sélection des électrodes d'entrée-sortie doit se appuyer sur des approximations successives. Dans le protocole décrit, un procédé en deux étapes (à savoir, les étapes 5.5 et 6.4) est mis en oeuvre pour tenter de déterminer un plan de connexion. Dans la première étape, une séquence régulière de stimulations est remis et les réponses à ces stimuli sont utilisées pour dériver une première carte de connexion et un ensemble temporaire des voies d'enregistrement. Cette configuration est ensuite utilisée pour effectuer l'essai décrit à l'étape 6.4 et sélectionner les canaux d'enregistrement qui seront surveillés pendant l'expérience réelle.
Dans la section des résultats, un représentant res de navigationULT et les améliorations immédiates apportées par l'introduction d'un paradigme de l'apprentissage sont présentés. Tout au long de la description de protocole, plusieurs autres variantes expérimentales possibles sont mentionnés. Par exemple, les deux principaux systèmes de codage mis en œuvre dans HyBrainWare2 (linéaires et stochastiques) où développées pour enquêter sur le rôle exact de la variabilité temporelle d'entrée sur le code neural 38. Dans le cas linéaire, le taux de stimulation instantanée est une fonction de paramètres définis par l'utilisateur et de capteurs sont des enregistrements. Dans le cas stochastique, chaque instance de temps a une probabilité donnée d'être choisi pour fournir un stimulus. Cette probabilité est calculée automatiquement par HyBrainWare2 de sorte que les taux de stimulation attendus correspondent à ceux de l'ancien cas. La possibilité d'ajouter gigue au codage linéaire permet une transition en douceur entre les deux cas décrits ci-dessus. De la même manière, en explorant différentes combinaisons de paramètres dans la section de décodage pourrait aider à faire la lumière sur le PreciSE rôle d'éclatement dans les réseaux de neurones in vitro. La vitesse de chaque roue du robot augmente proportionnellement au paramètre de poids chaque fois qu'un événement est détecté dans la zone de sortie correspondant, tandis que le coefficient d'extinction indique le temps, en secondes, l'une des contributions faut pour perdre 50% de sa valeur . La décroissance est une exponentielle simple. Ces variantes ont déjà été prises en compte dans la conception actuelle de HyBrainWare2, mais beaucoup plus de possibilités de recherche sont ouverts si des modifications supplémentaires dans le logiciel ou dispositif expérimental peuvent être introduits.
Une limitation assez importante du protocole décrit ici est l'exigence du logiciel développé sur mesure, HyBrainWare2 (disponible gratuitement sur demande à tous les utilisateurs intéressés). Ce logiciel a été conçu pour un ensemble de dispositifs (stimulateur, carte d'acquisition, amplificateur de MEA) d'un modèle et fabricant spécifique. Se il est en effet possible de l'adapter au travail de diconfigurations fférents, la conversion aura une certaine habileté de programmation. De même, les options incluses couvrent seulement un ensemble limité de toutes les questions expérimentales qui pourraient être étudiés à travers une telle configuration. Par exemple, l'algorithme de détection de pic mis en œuvre dans l'architecture présentée (de détection de pic de temps précis 40) est complètement défini par plusieurs paramètres codés en dur qui doivent être changé si l'objet de l'enregistrement est très différent de réseaux de neurones dissociés (par exemple, les cellules cardiaques ou tranches). Enfin, le protocole d'apprentissage consiste en la fourniture d'un court, haute fréquence (2 sec de 20 stimulation Hz, chaque impulsion de stimulation est le même que ceux qui sont utilisés pour coder l'information sensorielle) la stimulation après chaque coup d'obstacle. Si le robot rencontre un obstacle avec son côté droit, la stimulation tétanique est délivré à l'électrode qui habituellement codes d'information et le côté droit est de même pour les résultats du côté gauche. Ce protocole est codé en dur et ne peut pas be modifié par l'utilisateur sans modifier le logiciel de quitter.
Bien que la configuration présentée ici ne est pas le premier système incarné pour des expériences hybride, en boucle fermée 20,23,27,41,42, ceux conçus dans le passé se sont concentrés sur une seule thèse étayée par des données à partir d'un nombre limité de préparations analogues . D'autre part, l'installation décrite a été utilisé pour un grand nombre d'expériences (plus de 100 cultures ont été enregistrées depuis 2012) avec des préparations différentes de modularité et d'origine, tandis que les expériences elles-mêmes abordé des questions différentes (par exemple l'impact de la stimulation tétanique et pertinence de rupture, tel que présenté dans les résultats). Dans un proche avenir, de nouvelles sessions expérimentales sont prévues pour vérifier les effets durables de la stimulation tétanique et en boucle fermée et la relation entre la stimulation régularité et réponses observé. Une autre question à aborder est le lien entre l'activité spontanée et observée, avecl'idée d'ajouter un nouvel algorithme de décodage qui tient compte de l'histoire de l'activité passée et la stimulation 43.
The authors declare they have no competing financial interests.
Les auteurs tiennent à remercier Ph.D. étudiant Marta Bisio pour la culture et le maintien de réseaux neuronaux plus de micro-électrodes tableaux et Dr Marina Nanni et Dr. Claudia Chiabrera de NBT-IIT pour l'assistance technique pour les procédures de dissection et de dissociation. Les recherches menant aux présents résultats ont reçu un financement de septième programme-cadre de l'Union européenne (TIC-FET FP7 / 2007-2013, FET Jeunes Explorateurs régime) sous convention de subvention n ° 284772 CERVEAU BOW ( www.brainbowproject.eu ). Les auteurs tiennent également à remercier Silvia Chiappalone pour son aide dans la production des graphiques utilisés dans l'introduction.
Name | Company | Catalog Number | Comments |
Stimulus Generator 4002 | Multi Channel Systems | ||
MEA1060-Inv-BC | Multi Channel Systems | ||
TC02 | Multi Channel Systems | ||
NI 6255 Acquisition Card | National Instruments | ||
Microsoft Visual Studio 2008 | Microsoft | ||
2078P Multichannel System-National Instruments adapter board | Developed at University of Genova (Italy) | ||
Matlab 2010 | Mathworks | ||
HyBrainWare2 | HyBrainWare2: Contact Information |
Demande d’autorisation pour utiliser le texte ou les figures de cet article JoVE
Demande d’autorisationThis article has been published
Video Coming Soon