Asymptotic description of stochastic neural networks. I. Existence of a large deviation principle

Description

We study the asymptotic law of a network of interacting neurons when the number ofneurons becomes infinite. The dynamics of the neurons is described by a set of stochasticdifferential equations in discrete time. The neurons interact through the synaptic weightsthat are Gaussian correlated random variables. We describe the asymptotic law of thenetwork when the number of neurons goes to infinity. Unlike previous works which madethe biologically unrealistic assumption that the weights were i.i.d. random variables, weassume that they are correlated. We introduce the process-level empirical measure of thetrajectories of the solutions into the equations of the finite network of neurons and theaveraged law (with respect to the synaptic weights) of the trajectories of the solutions intothe equations of the network of neurons. The result (Theorem 3.1 below) is that the imagelaw through the empirical measure satisfies a large deviation principle with a good ratefunction. We provide an analytical expression of this rate function in terms of the spectralrepresentation of certain Gaussian processes.

Abstract (French)

Nous considérons un réseau de neurones décrit par un système d'équations différentiellesstochastiques en temps discret. Les neurones interagissent au travers de poids synaptiquesqui sont des variables aléatoires gaussiennes corrélées. Nous caractérisons la loi asymptotiquede ce réseau lorsque le nombre de neurones tend vers l'infini. Tous les travauxprécédents faisaient l'hypothèse, irréaliste du point de vue de la biologie, de poidsindépendants. Nous introduisons la mesure empirique sur l'espace des trajectoires solutionsdes équations du réseau de neurones de taille finie et la loi moyennée (par rapport auxpoids synaptiques) des trajectoires de ces solutions. Le résultat (théorème 3.1 ci-dessous)est que l'image de cette loi par la mesure empirique satisfait un principe de grandesdéviations avec une bonne fonction de taux, dont nous donnons une expression analytiqueen fonction de la représentation spectrale de certains processus gaussiens.

Abstract

International audience

Additional details