Prior Labs lance TabPFN-3.5 : un modèle d'IA de base tabulaire qui surpasse la solution gagnante du concours Kaggle « Otto » avec les paramètres par défaut

Prior Labs lance TabPFN-3.5 : un modèle d’IA de base tabulaire qui surpasse la solution gagnante du concours Kaggle « Otto » avec les paramètres par défaut

par

Le domaine de l’IA connaît encore aujourd’hui une évolution intéressante.

Prior Labs lance TabPFN-3.5 : un modèle d’IA de base tabulaire qui surpasse la solution gagnante du concours Kaggle « Otto » avec les paramètres par défaut

Prior Labs a lancé TabPFN-3.5, la toute dernière version de son modèle de base tabulaire. Celui-ci effectue des prédictions sur un tableau en un seul passage, sans nécessiter d’entraînement ni de réglage spécifique à chaque ensemble de données. Prior Labs annonce avoir obtenu la première place dans sept benchmarks tabulaires. Une démonstration distincte présente qu’il surpasse la solution gagnante d’un célèbre concours Kaggle de 2015.

Déployable ? Oui, avec une licence. Les modèles « Open Weights » fonctionnent en local à des fins de exploration, d’évaluation et pour Kaggle, mais leur utilisation en production nécessite l’API de Prior Labs ou une licence commerciale.

Le concours « Product Classification Challenge » organisé par le groupe Otto sur Kaggle en 2015 a attiré 3 505 équipes en lice pour remporter une récompense de 10 000 dollars. Les participants devaient classer des produits en 9 catégories à l’aide de 93 caractéristiques de comptage masquées. Les propositions ont été notées selon la perte logarithmique multiclasse, où une valeur plus faible est préférable.

Notons par ailleurs, la solution gagnante a été proposée par Gilberto Titericz et Stanislav Semenov. Tous deux ont occupé la première place du classement mondial des « grands maîtres » de Kaggle. Leur proposition consistait en une pile multicouche de 36 modèles construits à partir de caractéristiques définies manuellement.

Nick Erickson, co-créateur d’AutoGluon et chercheur en IA chez Prior Labs, tente d’atteindre ce score depuis des années. Selon lui, AutoGluon occupait la 23e place dans son article publié en 2020. AutoGluon 1.0 s’est classé 14e en 2023, et AutoGluon 1.6 a atteint la 9e place en août 2026.

La dernière ligne droite a été la plus difficile. Passer de la 50e à la 10e place a permis de réduire la perte de log de 0,41 à 0,40. Atteindre le seuil gagnant de 0,382 depuis la 10e place a nécessité un gain supplémentaire de 0,018, soit près du double.

TabPFN-3.5 affiche un score de 0,375 dans le classement privé. Selon Erickson, le modèle a été exécuté sur des données brutes avec les paramètres par défaut. Le calcul a pris environ une minute sur un GPU RTX PRO 6000. Le modèle n’a été pré-entraîné que sur des données synthétiques et n’a jamais été exposé à Otto ni à aucun ensemble de informations de Kaggle. Un notebook Kaggle reproductible est accessible au public.

L’écosystème continuera probablement de s’ajuster dans les semaines à venir.

Pour aller plus loin :

Article original : MarkTechPost : MarkTechPost