Deep Neuroévolution

Notre technologie

Depuis 30 ans, l'architecture des réseaux de neurones reste un problème non résolu, traité par essais et erreurs. DataValoris applique la sélection naturelle à la conception des modèles d'IA.

L'existant et ses limites

La conception de modèles d'IA atteint les limites humaines en l'absence de mathématiques de construction. Les topologies émergent d'un processus d'essais et erreurs : les modèles existants sont peu optimisés, démesurés et très gourmands en puissance de calcul. Faute de moyens, beaucoup d'entreprises se rabattent sur des super-modèles préemballés, donc non optimisés.

Les limites de la conception manuelle des modèles d'IA

Une approche nouvelle : NNTO

DataValoris a choisi la sélection naturelle systémique pour construire les modèles d'IA, à l'image de ce que la nature a fait pour les cerveaux biologiques. C'est le cœur de notre moteur NNTO (Neural Network Topology Optimizer), qui s'applique à tout framework de réseaux de neurones.

Animation de la sélection naturelle appliquée aux réseaux de neurones

Des IA mutantes

NNTO agit comme une surcouche qui pilote le framework choisi et fournit deux services :

Service de génération

Produit des IA à partir du catalogue de modèles parents (HOF, Hall of Fame) et leur applique des mutations, selon nos règles d'apparition et vos critères de sélection (type d'objectif, taille...).

Service de sélection

Choisit, selon les scores remontés et vos contraintes, les modèles qui rejoignent le catalogue des parents, en remplaçant les modèles les moins adaptés.

Les critères de sélection

Le critère principal est le score remonté par le framework de Deep Learning (val_acc brut, MAE, F1, ou un composite du type 80% val_acc + 20% acc x facteur). D'autres critères viennent pondérer ce score :

  • La taille du modèle (nombre de paramètres)
  • Sa rapidité d'exécution (temps moyen d'un epoch)
  • La différence d'erreur par rapport aux modèles du catalogue

Un processus de conception simplifié

Cette méthode intègre les besoins métier et les impératifs de production dès la conception du modèle, au lieu d'un mécanisme d'essai/erreur manuel avec validation des contraintes au moment de la mise en production.

Conception actuelle des modèles d'IA
Conception actuelle
Conception avec DataValoris
Conception avec DataValoris

RAISE : la Deep Neuroévolution appliquée

À partir du moteur NNTO, nous avons développé RAISE, une plateforme SaaS qui permet à tout utilisateur de lancer la génération ou l'optimisation de modèles de Deep Learning. C'est la brique manquante du ModelOps : un processus breveté, sécurisé et maîtrisé, où le connecteur installé au plus près de votre framework évite de sortir vos données.

Architecture sécurisée de la plateforme RAISE : connecteur, mutations, sélection

Découvrir la plateforme RAISE

Visualisez un réseau de neurones en 3D

Explorez la visualisation interactive (2D / 3D / Stéréo / VR) d'un réseau de neurones généré par notre technologie de Deep Neuroévolution.

Ouvrir la visualisation 3D

Lexique RAISE

Quelques concepts d'algorithmie génétique utilisés par la plateforme :

Mutant
Modèle d'IA généré à partir du catalogue et auquel des mutations ont été appliquées.
HOF size
Nombre de modèles champions conservés dans le catalogue de reproducteurs. Plus il est élevé, plus la diversité génétique est forte (mais l'évolution plus lente). La version gratuite est limitée à 1 ; 10 est une valeur courante.
Population
Nombre de mutants générés à chaque cycle. Une valeur de 6 à 10 est recommandée selon la capacité de calcul (6 par défaut en mode gratuit).
Cycle
Processus d'évaluation de la population en cours. Avec une population de 6, le 10e cycle évalue les mutants 55 à 60.
Génération
Nombre d'ancêtres d'un mutant depuis le modèle initial. Un mutant de génération 2 a un père et un grand-père (le modèle initial).
Growth control
Pondération favorisant les mutants de petite taille. À 0, la pondération est désactivée ; au maximum, la croissance est bloquée (utile pour l'edge computing).
Projet
Un modèle initial et tout son processus évolutif. Vous pouvez gérer plusieurs projets RAISE en parallèle.