Scaling adaptive substrate neuroevolution

La plupart des réseaux de neurones artificiels sont conçus de manière explicite : le chercheur définit leur architecture, notamment les couches, les connexions et les opérations de calcul. La <i>neuroévolution à substrat adaptatif</i> adopte une approche radicalement différente : une représentation compacte, évoluée et analogue à un « programme génétique », génère automatiquement le substrat d’un réseau de grande taille, c’est-à-dire l’organisation spatiale de ses neurones et de leurs connexions. Cette approche offre, en principe, des possibilités de passage à l’échelle bien supérieures à celles des méthodes de conception directe. Toutefois, si son potentiel conceptuel est établi, son utilité pratique demeure limitée. Cette thèse s’intéresse à ES-HyperNEAT, l’algorithme de référence de cette famille, et analyse les principaux facteurs structurels qui entravent son développement.<br>Trois limitations majeures sont mises en évidence. Le problème apparaît clairement sur MNIST, une tâche de classification relativement simple pour les réseaux entraînés par descente de gradient, mais qui demeure difficile pour les approches neuroévolutionnaires. L’exploration de l’espace considérable des configurations d’ES-HyperNEAT nécessite plusieurs mois d’optimisation bayésienne des hyperparamètres. Les résultats de cette recherche approfondie indiquent toutefois que les performances obtenues ne sont pas limitées par une exploration insuffisante, mais par des contraintes intrinsèques à la structure même de l’algorithme. L’analyse des substrats évolués en fournit l’explication : les connexions se concentrent sur une région centrale restreinte de l’espace d’entrée, ce qui conduit les réseaux à négliger la majeure partie de l’image. Ce comportement résulte directement du biais introduit par l’encodage : les primitives responsables de la génération des connexions présentent systématiquement leur activation maximale au centre de l’image, entraînant ainsi les substrats évolués vers un espace de solutions fortement contraint avant que l’évolution ne puisse explorer des configurations alternatives. Une partition de l’entrée entre plusieurs experts spécialisés sur différentes régions permet de plus que doubler la précision. Cette stratégie reste néanmoins difficilement extensible, puisque chaque expert doit être évolué indépendamment. Une généralisation à plus grande échelle requiert donc une exécution parallèle, alors que la subdivision par <i>quadtree</i> génère une topologie différente pour chaque génome, empêchant une vectorisation efficace des calculs. Pour dépasser cette limitation, cette thèse propose une reformulation du processus de découverte du substrat. Nous introduisons EMR-HyperNEAT, une approche qui inverse la logique traditionnelle d’ES-HyperNEAT. Plutôt que de construire progressivement le substrat au moyen d’une succession de décisions adaptatives, EMR-HyperNEAT évalue simultanément une grille fixe de positions candidates, puis sélectionne les positions pertinentes à l’aide d’un critère fondé sur la variance. La découverte du substrat peut dès lors être formulée comme un ensemble d’opérations matricielles exécutées par lots, compatibles avec tout matériel pris en charge par JAX. Cette reformulation permet d’explorer des substrats d’une profondeur hors de portée de la subdivision récursive en <i>quadtree</i>.<br>Au-delà du gain computationnel, cette transformation apporte un avantage représentationnel majeur. Le substrat étant désormais représenté sous forme tensorielle, l’intégration de mécanismes supplémentaires d’inspiration biologique — tels que les connexions récurrentes, les fonctions spécifiques aux nœuds ou la neuromodulation — peut être réalisée par simple ajout de colonnes à la représentation matricielle, plutôt que par une refonte de l’algorithme. Cette représentation favorise également la composition modulaire : des sous-réseaux peuvent être isolés, figés, puis recombinés au moyen de mécanismes de mise en correspondance, les mappeurs, eux-mêmes soumis à évolution. Cette propriété conduit à la formulation de GEENNS, une architecture compositionnelle fondée sur un ensemble de petits réseaux spécialisés. Inspirée de l’organisation du cortex en unités colonnaires répétées, cette architecture vise à favoriser l’émergence de la modularité, la croissance développementale et, à terme, l’apprentissage continu.<br>Le prototype développé dans cette thèse fournit une première validation du principe central de GEENNS. Des grilles spécialisées, initialement évoluées sur des tâches élémentaires, peuvent être figées puis recombinées par des mappeurs évolués afin de résoudre des tâches composées plus complexes sur lesquelles elles n’ont jamais été entraînées. Les architectures composées parviennent ainsi à résoudre des problèmes sur lesquels les architectures monolithiques de référence échouent. En outre, les mêmes grilles figées peuvent être réutilisées pour de nouvelles tâches composées sans nécessiter de nouvel entraînement. Il reste néanmoins à déterminer si les mappeurs acquièrent une capacité de composition véritablement générale ou s’ils apprennent principalement des stratégies de routage spécifiques aux tâches considérées. L’infrastructure expérimentale mise en place permet désormais d’aborder directement cette question.<br>La contribution de cette thèse doit ainsi être comprise principalement comme une contribution méthodologique et diagnostique, plutôt que comme une démonstration de supériorité en termes de performances. À ce stade, les méthodes d’encodage indirect ne rivalisent pas avec les réseaux entraînés par gradient sur les bancs d’essai standard. En revanche, les travaux présentés rendent désormais possible l’étude de la neuroévolution à substrat adaptatif à une échelle suffisante pour examiner une question plus fondamentale : dans quelle mesure l’évolution, agissant dans le cadre d’encodages et de pressions de sélection qui restent définis par l’être humain, peut-elle faire émerger des réseaux dont l’architecture n’est pas conçue manuellement et dont les comportements ne sont pas explicitement sélectionnés pour imiter l’humain ? Cette question constitue un défi pour la recherche en vie artificielle.

Abstract: Most artificial neural networks are designed by hand: a researcher picks the layers, the connections, and the computations. <i>Adaptive substrate neuroevolution</i> does the opposite: a small evolved recipe—DNA-like—generates a large network’s substrate (its neuron placement and connections), scaling far beyond direct designs. The promise is real; the practical utility is not. This thesis targets ES-HyperNEAT, the canonical algorithm.<br>Three structural barriers stand in the way. Consider MNIST: a trivial classification task for gradient-trained networks, but stubborn for neuroevolution. Navigating the algorithm’s vast configuration space takes months of Bayesian optimization; that campaign, once done, shows the ceiling is structural, not a search failure. Opening the substrate reveals why: evolved networks connect to a central cluster of input pixels—blind to most of the image. The bias is built into the encoding: the building blocks generating connections all peak at the image center, so every evolved substrate collapses into a narrow basin before the search explores elsewhere. Partitioning the input across region-specialized experts more than doubles accuracy, but each expert is evolved one at a time. Scaling further requires parallel hardware, but the quadtree produces a different graph per genome—a shape it cannot batch.<br>Breaking this wall requires reformulating substrate discovery itself. We introduce EMR-HyperNEAT, which inverts the order: instead of growing the substrate one decision at a time, it evaluates a fixed grid of candidate positions in parallel and filters by variance to keep the informative ones. Substrate discovery becomes batched matrix arithmetic on any JAX-supported hardware, reaching depths infeasible under quadtree subdivision. The deeper gain is representational: because the substrate is now a tensor, adding biological mechanisms (recurrence, per-node functions, neuromodulation) becomes appending columns to a matrix rather than redesigning the algorithm. The same shift enables external composition: substrates can be broken into parts, frozen, and recombined through evolved mappers. This leads to the GEENNS algorithm: a compositional architecture of small specialist networks, inspired by the cortex’s repeated columnar units, aiming at emergent modularity, developmental growth, and lifelong learning.<br>Our prototype validates GEENNS’s central premise: specialist grids evolved on primitive tasks, frozen and recombined by evolved mappers, solve harder compound tasks they were never trained on. Composed networks succeed where monolithic baselines fail, and the same frozen grids support new compound tasks without retraining. Whether mappers learn general compositional reasoning rather than task-specific routing remains open; the infrastructure to answer it is now in place.<br>The contribution is diagnostic, not competitive: indirect encoding will not outperform gradient-trained systems on standard benchmarks yet, but adaptive substrate neuroevolution can now run at the scale where its broader question becomes tractable—whether evolution, working within encodings and selection pressures that humans still choose, can shape networks that are not bred to imitate any human and whose structure no human hand directly specifies. That is a challenge for artificial life.