Microsoft lance Phi-4 : un modèle d'IA super-inférentiel pour concurrencer DeepSeek R1

Résumé:

• Microsoft a lancé les modèles d'IA inférentiels Phi-4, formés avec 14 milliards et 3.8 milliards de paramètres.
• Malgré sa petite taille, les modèles d'inférence Phi-4 rivalisent avec des modèles beaucoup plus grands comme le DeepSeek R1 et le o3-mini.
• Microsoft affirme que les modèles d'inférence Phi-4 peuvent fonctionner sur des PC exécutant Windows Copilot+, grâce à leur petite taille.

Microsoft a lancé trois nouveaux modèles d'IA déductive, notamment Phi-4-reasoning, Phi-4-reasoning-plus et Phi-4-mini-reasoning. Il s'agit de petits modèles de langage, conçus pour les terminaux tels que les ordinateurs Windows et les appareils mobiles. Le modèle d’IA Phi-4-reasoning est formé avec 14 milliards de paramètres et peut effectuer des tâches d’inférence complexes.

Le modèle Phi-4-reasoning-plus utilise le même modèle de base, mais emploie des calculs d'inférence « Plus » (environ 1.5 fois plus de jetons que Phi-4-reasoning) afin d'obtenir une précision accrue. Malgré sa petite taille, le modèle Phi-4-reasoning rivalise avec des modèles plus volumineux tels que DeepSeek R1 671B et o3-mini.

Dans le benchmark GPQA, le modèle Phi-4-reasoning-plus-14B obtient un score de 69.3 %, tandis que o3-mini atteint 77.7 %. Ensuite, au test AIME 2025, Phi-4-reasoning-plus-14B obtient 78 %, et o3-mini 82.5 %. Ceci démontre que le mini-modèle de Microsoft se rapproche des performances des principaux modèles d'inférence, qui sont nettement plus volumineux.

Microsoft affirme que les modèles d'inférence Phi-4 ont été entraînés par un ajustement fin supervisé « sur des ensembles de données d'inférence soigneusement sélectionnés d'OpenAI o3-mini ». De plus, Microsoft écrit : « Le modèle démontre qu'un formatage rigoureux des données et des ensembles de données synthétiques de haute qualité permettent à des modèles plus petits de rivaliser avec des modèles plus grands . »

Par ailleurs, le modèle Phi-4-mini-reasoning, plus petit et entraîné sur seulement 3.8 milliards de paramètres, surpasse de nombreux modèles à 7 et 8 milliards de paramètres. Sur des jeux de données de référence tels que AIME 24, MATH 500 et GPQA Diamond, le modèle Phi-4-mini-reasoning-3.8B offre des résultats compétitifs, proches de ceux du modèle o1-mini. Le modèle Phi-4-mini a été optimisé à l'aide de données synthétiques générées par le modèle Deepseek-R1.

Les modèles Phi de Microsoft sont déjà utilisés nativement sur les PC Windows Copilot+ , tirant parti de l'unité de traitement neuronal intégrée. Il sera intéressant d'observer comment les modèles d'inférence Phi-4 amélioreront les performances de l'IA sur cette machine.