Benchmarking Latent Variable Models for Neural Representations

Abstract

[eng] Computational neuroscience seeks to understand how internal brain mechanisms encode behavior and sensory stimuli through mathematical models that capture the dynamics of neural populations. Latent variable models are particularly useful because they identify low-dimensional representations from recordings of thousands of neurons, enabling visualization of how coordinated neural activity relates to behavior or external stimuli. This thesis benchmarks deep learning-based generalizations (CEBRA, GP-VAE) with baseline models (PCA, UMAP, t-SNE) on two neural recording datasets with positional context labels, involving navigation and proprioception tasks. The evaluated models included a generative approach consisting of a modified variational autoencoder incorporating a Gaussian process prior and a contrastive term, as well as non-generative CEBRA models in both supervised and self-supervised modes. Model performance was assessed through the decoding performance of the produced embeddings from the models on predicting the positional label and a global activity metric quantifying the amount of information retained from the original neural signal. Models were com pared using a Pareto analysis that jointly optimized the coefficient of determination for both objectives while accounting for latent dimensionality to evaluate representational compactness. Overall, the results indicate that PCA with a sufficient number of dimensions provides the best balance between information preservation and decoding performance on these datasets. Although deep latent variable models achieved superior decoding per formance, particularly in supervised settings, they were penalized by their lower ability to preserve the global structure of the original signal.

[cat] La neurociència computacional busca entendre com els mecanismes interns del cervell codifiquen el comportament i els estímuls sensorials mitjançant models matemàtics que capturen la dinàmica de les poblacions neuronals. Els models de variables latents són especialment útils perquè identifiquen representacions de baixa dimensionalitat a partir d’enregistraments de milers de neurones, cosa que permet visualitzar com l’activitat neuronal coordinada es relaciona amb el comportament o amb estímuls externs. Aquesta tesi compara generalitzacions basades en aprenentatge profund (CEBRA, GP-VAE) amb models de referència (PCA, UMAP i t-SNE) en dos conjunts de dades d’enregistraments neuronals amb etiquetes de context posicional, corresponents a tasques de navegació i propiocepció. Els models avaluats inclouen un enfocament generatiu basat en un autoencoder variacional modificat que incorpora un prior de procés gaussià i un terme contrastiu, així com models CEBRA no generatius tant en mode supervisat com autosupervisat. El rendiment dels models es va avaluar mitjançant la capacitat de descodificació de les representacions latents generades per predir l’etiqueta posicional, així com a través d’una mètrica global d’activitat que quantifica la quantitat d’informació conservada del senyal neuronal original. Els models es van comparar utilitzant una anàlisi de Pareto que optimitzava conjuntament el coeficient de determinació per a tots dos objectius, tenint en compte també la dimensionalitat latent per avaluar la compacitat de les representacions. En conjunt, els resultats indiquen que la PCA, amb un nombre suficient de dimensions, ofereix el millor equilibri entre la preservació de la informació i el rendiment de descodificació en aquests conjunts de dades. Tot i que els models profunds de variables latents van assolir un millor rendiment de descodificació, especialment en entorns supervisats, van ser penalitzats per la seva menor capacitat de preservar l’estructura global del senyal original.