Multi-target Learning and Prediction : Novel Methods and Applications

Apprentissage et prédiction multi-cibles : Nouvelles méthodes et applications Une tâche prédictive de l’apprentissage automatique à sorties multiples se caractérise par le besoin de prédire plusieurs sorties numériques ou catégorielles pour chaque instance. Alors qu’une approche directe consiste à modéliser chaque sortie séparément, l’utilisation de techniques de modélisation conjointe améliore souvent les performances de prédiction et produit des résultats supérieurs en raison de l’analyse et de l’exploitation des interdépendances entre les différentes variables cibles.Dans le contexte de la régression, lorsqu’il s’agit de la modélisation conjointe, plusieurs défis émergent. Premièrement, un problème courant est que de nombreuses méthodes ont tendance à supposer une distribution gaussienne unimodale, alors que la distribution cible réelle ne correspond pas nécessairement à cette hypothèse. Pour résoudre ce problème, nous proposons une nouvelle solution basée sur les chaînes de régresseurs, qui sont essentiellement des chaînes de modèles à une seule sortie incorporant les cibles déjà prédites comme variables d’entrée dans la modélisation des cibles suivantes.Nous proposons l’ensemble multi-modal de chaînes de régresseurs offrant un mécanisme pour gérer efficacement les distributions cibles multimodales et qui améliorent les capacités de la prédiction du modèle, tout en maintenant la flexibilité des estimateurs de base composant les chaînes de régresseurs.Deuxièmement, nous étudions la régression multi-cibles dans les scénarios où certaines des valeurs cibles sont connues dans la phase de prédiction et qui sont exploitées pour prédire les valeurs inconnues sans ré-entraîner le modèle. Cela est interessant si, par exemple, les données d’entraînement sont restreintes ou ne sont plus disponibles.À cette fin, nous développons une approche pour l’inférence régressive intègrant les informations sur les valeurs connues dans la modélisation conjointe des autres inconnues, indépendamment de l’ordre des chaînes et de la position des cibles connues dans celle-ci. De plus, la solution proposée fournit la distribution pour chaque instance au lieu d’une valeur moyenne.Dans le domaine de la classification, nous introduisons une nouvelle application des forêts aléatoires à sorties multiples. Nous proposons de les utiliser de manière autoréplicative pour effectuer l’imputation des valeurs manquantes ou, en d’autres termes, pour débruiter les données. La méthode proposée est évaluée sur un ensemble de jeux de données différents pour démontrer son efficacité dans des applications du monde réel. De plus, nous développons un cadre général qui unifie les différentes méthodes d’imputation et permet de sélectionner une méthode en ajustant les hyperparamètres. Nous faisons une distinction importante en différenciant les méthodes procédurales et itératives. Les méthodes procédurales sont optimisées sur les valeurs observées et imputent les valeurs manquantes une seule fois. En revanche, les méthodes itératives mettent à jour les valeurs imputées de manière itérative jusqu’à ce que les critères de convergence soient atteints.Nous ajoutons la méthode nouvellement proposée, les forêts aléatoires autoréplicatives, au cadre général dans les versions procédurales et itératives. De plus, nous l’étendons avec des forêts aléatoires autoréplicatives itératives distributionnelles qui intègrent la confiance du modèle envers l’imputation à chaque itération dans la modélisation des cycles suivants et produisent une distribution pour chaque valeur imputée à la fin.Enfin, nous étendons l’applicabilité des forêts aléatoires autoréplicatives aux données génomiques de haute dimension, notamment aux ensembles de données de polymorphismes mononucléotidiques, en imputant les valeurs manquantes dans des fenêtres séparées et en incorporant les fenêtres traitées dans la modélisation des suivantes de manière enchaînée.Notre approche présente des résultats compétitifs, voire supérieurs, par rapport à d’autres méthodes sans référence.