t-Distributed Stochastic Neighbor Embedding

Sommaire de l'article

Algorithmes et mises à jour de t-SNE (t-Distributed Stochastic Neighbor Embedding) : concept, limites et bonnes pratiques

Introduction

Le monde de l'apprentissage automatique évolue rapidement, et parmi les outils les plus puissants pour visualiser des données de haute dimension se trouve l'algorithme t-SNE (t-Distributed Stochastic Neighbor Embedding). Conçu comme une technique de réduction de dimensionnalité non linéaire, t-SNE vise à projeter des données complexes dans un espace de plus faible dimension (généralement en 2D ou 3D) tout en préservant les structures locales et les voisinages entre points.

Proposé en 2008 par Laurens van der Maaten et Geoffrey Hinton, t-SNE est devenu un outil de référence pour l’exploration visuelle en apprentissage non supervisé, notamment pour analyser des représentations de réseaux de neurones, des données textuelles, des images ou des données omiques. Cependant, son utilisation correcte suppose de bien comprendre son principe probabiliste, ses hyperparamètres sensibles, ainsi que ses limites d’interprétation.

Cet article propose une présentation détaillée et actualisée de t-SNE : concepts fondamentaux, fonctionnement interne, mises à jour et variantes, bonnes pratiques, erreurs d’interprétation courantes et comparaison avec d’autres méthodes de réduction de dimension comme la PCA et UMAP.

Fondamentaux de l’algorithme t-SNE

Définition et objectif principal

L’algorithme t-SNE est une méthode de réduction de dimension non linéaire destinée principalement à la visualisation de données haute dimension. Il transforme un ensemble de points dans un espace de grande dimension en un ensemble de points dans un espace de faible dimension (souvent 2 ou 3 dimensions), de manière à préserver les relations de voisinage locales plutôt que la structure globale.

Concrètement, t-SNE cherche à placer dans la carte de sortie :

les points similaires (proches en haute dimension) à proximité les uns des autres ;
les points dissimilares (éloignés en haute dimension) plutôt éloignés les uns des autres.

Sa force réside dans sa capacité à faire émerger des clusters visuels et des structures locales (manifolds, sous-groupes, transitions) difficiles à percevoir avec des méthodes linéaires classiques.

Historique et contexte

t-SNE a été introduit en 2008 dans l’article « Visualizing Data using t-SNE ». Il s’inscrit dans la famille des méthodes de type Stochastic Neighbor Embedding (SNE), mais améliore les premières versions en utilisant une distribution de Student à une liberté en basse dimension, ce qui permet de mieux traiter le crowding problem et de mieux séparer visuellement les clusters.

Depuis sa publication, t-SNE a été largement adopté pour :

la visualisation de représentations internes de réseaux de neurones ;
l’exploration de données d’images, audio, texte ou séries temporelles ;
l’analyse exploratoire de données en biologie, génomique, médecine, etc.

Concepts clés et fonctionnement interne de t-SNE

De la haute dimension à la basse dimension

L’algorithme t-SNE opère en deux espaces :

un espace de haute dimension (d’origine), dans lequel chaque point représente un individu (image, document, vecteur de caractéristiques, etc.) ;
un espace de basse dimension, généralement 2D ou 3D, dans lequel on souhaite représenter ces points pour les visualiser.

Contrairement à l’ACP (PCA), qui repose sur des transformations linéaires et la maximisation de la variance expliquée, t-SNE s’appuie sur une modélisation probabiliste des similarités et une forme d’optimisation basée sur la divergence de Kullback–Leibler entre distributions de probabilités.

Modélisation des similarités en haute dimension

En haute dimension, t-SNE commence par convertir les distances entre points en probabilités conditionnelles qui mesurent à quel point un point est considéré comme voisin d’un autre. Pour cela, il utilise une distribution gaussienne centrée sur chaque point :

plus deux points sont proches, plus la probabilité qu’ils soient voisins est élevée ;
plus ils sont éloignés, plus cette probabilité est faible.

Le paramètre central dans ce calcul est la perplexité, qui correspond à un nombre effectif de voisins pris en compte. Elle contrôle la largeur de la gaussienne autour de chaque point et, en pratique, influence fortement l’échelle locale de la structure révélée par t-SNE.

Modélisation des similarités en basse dimension

Dans l’espace de sortie de faible dimension, t-SNE ne reprend pas la gaussienne mais utilise une distribution de Student à une liberté, équivalente à une distribution de Cauchy. Cette distribution a des queues lourdes, ce qui :

limite la tendance des points éloignés à se repousser trop fortement ;
aide à éviter le crowding problem, c’est‑à‑dire la difficulté de représenter correctement des distances en projetant un espace de forte dimension vers un espace très bas.

Fonction de coût et divergence de Kullback–Leibler

Une fois les distributions de similarité définies en haute dimension et en basse dimension, t-SNE cherche une configuration des points en basse dimension qui rende ces distributions aussi proches que possible. Pour cela, il minimise une divergence de Kullback–Leibler (KL) entre les deux distributions.

L’optimisation se fait par descente de gradient, en ajustant progressivement les positions des points dans la carte 2D ou 3D. Le résultat final est une visualisation où les voisinages locaux sont, dans la mesure du possible, préservés.

Complexité et implications pratiques

L’implémentation originale de t-SNE présente une complexité en temps et en mémoire de l’ordre de O(n²) pour un jeu de données de n points. Cela signifie que :

le temps de calcul augmente quadratiquement avec le nombre de points ;
la mémoire nécessaire augmente également quadratiquement.

Cette complexité limite l’utilisation de la version naïve de t-SNE pour de très grands jeux de données. Des variantes plus rapides ont été proposées (comme Barnes-Hut t-SNE ou des versions accélérées par FFT), ce qui sera abordé plus loin.

t-SNE et autres techniques de réduction de dimension

Comparaison avec PCA (Analyse en composantes principales)

PCA et t-SNE poursuivent des objectifs différents :

PCA est une méthode linéaire qui projette les données sur les directions de variance maximale. Elle est appropriée pour :

la réduction de dimension pour la modélisation supervisée (pré‑traitement avant un modèle de classification ou de régression) ;
l’analyse de la variance expliquée ;
des jeux de données où les structures sont approximativement linéaires.

t-SNE est une méthode non linéaire focalisée sur la préservation des voisinages locaux. Elle est idéale pour :

la visualisation exploratoire ;
la mise en évidence de clusters visuels et de sous-structures complexes ;
l’analyse qualitative de données non linéaires.

t-SNE ne fournit pas d’embedding linéaire stable utilisable comme entrée standard pour des modèles supervisés, ni une mesure directe de variance expliquée comme PCA. Il ne doit donc pas être considéré comme un substitut générique à PCA pour la réduction de dimension en entrée de modèles prédictifs.

Comparaison avec UMAP

UMAP (Uniform Manifold Approximation and Projection) est une méthode plus récente de réduction de dimension non linéaire, souvent considérée comme une alternative plus rapide et plus scalable à t-SNE pour la visualisation.

Par rapport à t-SNE :

UMAP est généralement plus rapide et plus adapté aux grands jeux de données ;
il repose sur une modélisation géométrique différente (théorie des graphes et topologie algébrique) ;
il fournit parfois des embeddings plus stables au regard des hyperparamètres.

En pratique, de nombreux praticiens testent aujourd’hui à la fois t-SNE et UMAP pour la visualisation, en choisissant la méthode qui offre la représentation la plus claire pour leur cas d’usage.

Hyperparamètres clés et bonnes pratiques

Perplexité

La perplexité est l’un des hyperparamètres les plus importants de t-SNE. Elle peut être interprétée comme un nombre effectif de voisins pris en compte lors du calcul des similarités en haute dimension. Des valeurs typiques se situent entre 5 et 50.

Recommandations pratiques :

commencer avec plusieurs valeurs dans cette plage (par exemple 5, 30, 50) ;
éviter de fixer une perplexité très proche du nombre total de points ;
observer comment la structure des clusters évolue selon ce paramètre.

Taux d’apprentissage

Le taux d’apprentissage (learning rate) contrôle la vitesse d’ajustement des positions des points lors de la descente de gradient. Un taux trop faible peut conduire à une convergence très lente, tandis qu’un taux trop élevé peut provoquer des oscillations ou une mauvaise optimisation.

Il est souvent conseillé de :

tester différentes valeurs (par exemple dans un intervalle modéré) ;
surveiller la stabilité et la cohérence des clusters produits ;
combiner ce réglage avec un nombre d’itérations suffisant.

Nombre d’itérations

Le nombre d’itérations détermine la durée de l’optimisation. Un nombre insuffisant d’itérations peut conduire à un embedding inabouti, alors qu’un nombre plus élevé permet généralement d’obtenir une structure plus stable.

En pratique :

un nombre d’itérations trop faible donne des configurations encore « en mouvement » ;
augmenter progressivement ce nombre permet de vérifier la stabilité des motifs observés.

Initialisation

L’initialisation des points dans l’espace de sortie (par exemple aléatoire ou via PCA) peut influencer le résultat final. Différentes initialisations peuvent mener à des configurations qualitativement différentes sur les mêmes données, même avec des hyperparamètres identiques.

Pour plus de robustesse :

répéter t-SNE plusieurs fois avec des initialisations différentes ;
vérifier que les grandes conclusions qualitatives restent stables ;
éviter de sur-interpréter une configuration isolée obtenue avec un seul run.

Préparation et gestion des données

Échelle des données

Comme pour de nombreuses techniques de réduction de dimension, la mise à l’échelle des données est cruciale :

normaliser ou standardiser les variables (par exemple, moyenne nulle et variance unitaire) est souvent recommandé ;
cela évite qu’une seule caractéristique à grande amplitude domine la mesure de distance ;
cela permet également d’obtenir des embeddings plus stables.

Échantillonnage et large jeux de données

Pour de très grands volumes de données, l’exécution directe de t-SNE peut devenir coûteuse à cause de la complexité quadratique. Deux stratégies courantes sont :

échantillonnage d’un sous-ensemble représentatif des données, sur lequel appliquer t-SNE ;
utilisation de variantes rapides (Barnes-Hut t-SNE, FIt-SNE, implémentations approximatives).

Il est également fréquent de :

appliquer d’abord une réduction de dimension linéaire (par exemple PCA) pour passer à une dimension intermédiaire raisonnable ;
puis appliquer t-SNE sur cet espace réduit, ce qui accélère le calcul et peut réduire le bruit.

Outils, bibliothèques et intégration dans les pipelines

Implémentations courantes

Plusieurs bibliothèques et frameworks populaires proposent des implémentations de t-SNE :

scikit-learn : implémentation largement utilisée en Python, incluant notamment une version Barnes-Hut pour accélérer les calculs sur des jeux de données de taille moyenne ;
PyTorch et TensorFlow : permettent d’intégrer t-SNE dans des pipelines plus complexes, notamment pour analyser des représentations de réseaux de neurones ;
d’autres bibliothèques spécialisées ou wrappers offrent des versions approximatives et accélérées (par exemple FIt-SNE ou implémentations FFT-accelerated) adaptées aux jeux de données volumineux.

Intégration dans un flux de travail de data science

t-SNE est généralement utilisé dans les phases :

d’exploration de données (EDA), pour comprendre la structure d’un jeu de données ;
d’interprétation de modèles, en visualisant les représentations apprises par un réseau de neurones ou un autre modèle ;
de communication, en produisant des visualisations 2D/3D parlantes pour présenter des résultats à des équipes non techniques.

Il est important de garder à l’esprit que, malgré son aspect séduisant, un graphique t-SNE reste un outil de visualisation qualitative et ne doit pas être sur-interprété comme une analyse statistique complète.

Applications typiques de t-SNE

Exploration de données en haute dimension

t-SNE est très utilisé pour :

explorer des jeux de données où chaque exemple est décrit par un grand nombre de caractéristiques ;
identifier visuellement des regroupements, des sous-populations ou des structures en sous-manifolds ;
détecter des anomalies ou points atypiques qui apparaissent isolés dans la carte.

Analyse de représentations de réseaux de neurones

Dans le contexte du deep learning, t-SNE sert souvent à :

visualiser les représentations latentes d’un réseau (par exemple, les activations d’une couche intermédiaire) ;
vérifier si des classes ou des catégories s’organisent en clusters séparés dans l’espace appris ;
analyser qualitativement la manière dont le modèle distingue différentes catégories d’images, de textes ou de sons.

Données biomédicales et omiques

t-SNE est également très prisé en :

biologie des systèmes ;
génomique et transcriptomique (par exemple, données de single-cell RNA-seq) ;
analyse de signaux biomédicaux.

Dans ces domaines, il aide à :

repérer des populations cellulaires distinctes ;
visualiser la diversité des profils d’expression ;
examiner les transitions entre états biologiques.

Limites d’interprétation et erreurs courantes

Distances et tailles de clusters

Un point crucial souvent mal compris est que, dans une carte t-SNE :

les distances absolues entre points ne sont pas directement interprétables quantitativement ;
la taille des clusters ne doit pas être considérée comme une mesure fiable de la taille ou de la variance d’un groupe dans l’espace original ;
la distance entre clusters ne doit pas être interprétée comme une mesure quantitative de séparation statistique dans l’espace de départ.

t-SNE est optimisé pour préserver les voisinages locaux, pas la géométrie globale. Deux clusters très éloignés sur la carte peuvent ne pas être aussi séparés dans l’espace original, et inversement.

Artefacts visuels

t-SNE peut créer des artefacts visuels, par exemple :

des clusters très nettement séparés qui donnent l’illusion de classes bien distinctes, alors que la séparation réelle est moins marquée ;
des « espaces vides » entre groupes qui amplifient visuellement les différences ;
des formes de clusters qui dépendent fortement des hyperparamètres choisis.

Il est donc déconseillé de fonder des conclusions statistiques fines uniquement sur une seule visualisation t-SNE. Il est préférable de :

croiser les résultats avec d’autres méthodes (clustering, tests statistiques, PCA, UMAP) ;
vérifier la robustesse de la configuration aux changements d’hyperparamètres ;
considérer t-SNE comme un outil exploratoire et illustratif.

Usage non recommandé comme prétraitement supervisé

Une autre erreur fréquente est de vouloir utiliser t-SNE comme une étape générique de réduction de dimension en entrée d’un modèle supervisé (classification, régression, etc.). t-SNE :

n’est pas conçu pour produire un embedding généralisable pour de nouveaux points non vus ;
n’est pas optimisé pour conserver des informations globales pertinentes pour la prédiction ;
peut déformer les distances globales de manière à dégrader la performance d’un modèle supervisé en aval.

Pour ce type d’usage, des méthodes comme PCA, des autoencodeurs ou d’autres techniques de réduction de dimension supervisées ou linéaires sont souvent plus adaptées.

Variantes, mises à jour et alternatives récentes

Barnes-Hut t-SNE

Pour pallier la complexité quadratique de la version originale, une variante appelée Barnes-Hut t-SNE a été proposée. Elle utilise des techniques d’approximation (inspirées des méthodes de simulation de corps multiples) pour réduire la complexité en temps à environ O(n log n) tout en conservant des résultats de qualité comparable pour la visualisation.

Cette variante est aujourd’hui largement utilisée dans les bibliothèques pratiques, car elle permet d’appliquer t-SNE à des jeux de données sensiblement plus grands.

Implémentations approximatives et accélérées

D’autres implémentations ont été développées pour accélérer encore le calcul de t-SNE, par exemple des versions accélérées par FFT (comme FIt-SNE) ou d’autres techniques d’approximation numériquement efficaces.

Ces approches rendent t-SNE plus utilisable sur des jeux de données volumineux, tout en conservant l’objectif principal : offrir une visualisation qualitative des structures locales en haute dimension.

Alternatives modernes : UMAP et autres méthodes

Ces dernières années, des méthodes comme UMAP ont gagné en popularité pour la visualisation et la réduction de dimension. Elles se distinguent par :

une rapidité accrue ;
une meilleure scalabilité sur les très grands jeux de données ;
des propriétés géométriques différentes (par exemple conservation plus explicite d’une structure de variété).

En 2023–2025, il est courant que les praticiens :

utilisent t-SNE pour sa capacité à produire des visualisations très expressives ;
expérimentent UMAP comme alternative ou complément ;
combinent plusieurs méthodes pour mieux comprendre la structure globale et locale des données.

FAQ sur t-SNE : questions fréquentes et réponses détaillées

Qu’est-ce que l’algorithme t-SNE ?: t-SNE (t-Distributed Stochastic Neighbor Embedding) est une méthode de réduction de dimension non linéaire principalement utilisée pour la visualisation de données complexes. Elle projette des données de haute dimension dans un espace 2D ou 3D en cherchant à préserver les structures de voisinage locales entre les points.
Pourquoi choisir t-SNE plutôt que PCA ?: t-SNE est particulièrement adapté quand les données présentent des relations non linéaires et des structures locales complexes. PCA, en revanche, est linéaire et se concentre sur la variance globale. Pour la visualisation de clusters non linéaires ou de manifolds complexes, t-SNE donne souvent des cartes plus parlantes, tandis que PCA reste un outil central pour la réduction de dimension en entrée de modèles supervisés et pour l’analyse de la variance expliquée.
Comment choisir la perplexité ?: La perplexité reflète un nombre effectif de voisins. Des valeurs typiques se situent entre 5 et 50. Pour un jeu de données de taille modérée, une valeur autour de 30 est souvent un bon point de départ, mais il est recommandé de tester plusieurs valeurs dans la plage et de comparer les visualisations obtenues, car la perplexité influence fortement l’échelle des structures révélées.
t-SNE peut-il être utilisé pour l’analyse exploratoire ?: Oui, t-SNE est particulièrement adapté à l’analyse exploratoire et à la visualisation qualitative. Il permet d’identifier visuellement des clusters, des sous-structures et des transitions dans les données. Cependant, les conclusions quantitatives (par exemple sur la distance exacte entre groupes) doivent être prises avec prudence et complétées par d’autres analyses.
t-SNE est-il adapté pour la réduction de dimension avant un modèle de classification ou de régression ?: De manière générale, t-SNE n’est pas recommandé comme étape standard de réduction de dimension en entrée d’un modèle supervisé. L’algorithme est surtout conçu pour la visualisation et pour préserver des voisinages locaux plutôt que pour conserver une structure globale utile à la prédiction. Des méthodes comme PCA, les autoencodeurs ou d’autres techniques supervisées sont souvent plus appropriées pour ce rôle.
Que signifient les distances entre groupes sur une carte t-SNE ?: Les distances globales entre clusters sur une carte t-SNE doivent être interprétées avec beaucoup de prudence. L’algorithme préserve principalement les relations de proximité locale. La distance apparente entre deux clusters, leur taille ou la quantité d’espace vide entre eux ne constituent pas des mesures fiables de séparation ou de similitude dans l’espace original. t-SNE ne doit pas être utilisé comme méthode de clustering métrique ou pour des comparaisons quantitatives de distance inter‑clusters.
Quelles sont les mises à jour récentes et variantes de t-SNE ?: Plusieurs variantes ont été développées pour améliorer les performances et la scalabilité de t-SNE. Parmi les plus notables :

Barnes-Hut t-SNE, qui réduit la complexité en temps à environ O(n log n) grâce à des approximations inspirées des méthodes de simulation de corps multiples ;
des implémentations approximatives accélérées (par exemple basées sur la FFT) pour traiter de très grands jeux de données ;
la montée en puissance d’alternatives modernes comme UMAP, souvent privilégiées pour des tâches de visualisation rapide à grande échelle.

t-SNE est-il adapté au clustering automatique ?: t-SNE n’est pas, en soi, un algorithme de clustering. Il produit une représentation en basse dimension qui peut faire apparaître des groupes visuels, mais ces groupes ne sont pas des clusters au sens métrique strict. Si l’on souhaite réaliser un clustering, il est préférable d’appliquer un algorithme de clustering (comme k-means, DBSCAN, etc.) sur des représentations adaptées et de considérer t-SNE comme un outil de visualisation complémentaire.

Conclusion

t-SNE (t-Distributed Stochastic Neighbor Embedding) occupe aujourd’hui une place centrale dans la boîte à outils de visualisation de données haute dimension. En modélisant les similarités entre points par des distributions de probabilité en haute et en basse dimension et en minimisant une divergence de Kullback–Leibler, il offre des cartes 2D ou 3D capables de révéler des structures locales complexes que les méthodes linéaires ne capturent pas toujours.

Cependant, pour exploiter pleinement son potentiel, il est indispensable de :

bien régler ses hyperparamètres (perplexité, taux d’apprentissage, nombre d’itérations, initialisation) ;
comprendre ses limitations en matière d’interprétation quantitative des distances et des tailles de clusters ;
l’utiliser principalement pour la visualisation exploratoire, et non comme solution générique de réduction de dimension avant des modèles supervisés ;
compléter les résultats par d’autres approches (PCA, UMAP, clustering, tests statistiques) pour obtenir une vision robuste des données.

En maîtrisant ces aspects, t-SNE reste un outil puissant et pertinent pour les data scientists, ingénieurs et chercheurs souhaitant comprendre, explorer et communiquer la structure de jeux de données complexes à haute dimension.