L’adoption de l’intelligence artificielle dans les organisations : ce que révèlent les statistiques d’utilisation.

De nombreux débats publics sur l'intelligence artificielle tournent encore autour de classements : quel modèle est le mieux classé, quel fournisseur est le « gagnant », et quel score de référence est le plus important. Mais pour les organisations qui conçoivent et déploient concrètement des solutions d'IA, ces questions sont moins pertinentes que la compréhension de l'utilisation de l'IA dans des situations réelles.

L’une des raisons est la controverse croissante autour du concept de « tokenmaxxing » – une pratique visant à maximiser l’utilisation de l’intelligence artificielle, souvent motivée par des objectifs d’adoption internes, des incitations ou une compétition basée sur un classement.

Mais se concentrer sur la consommation de jetons risque d'encourager l'activité pour l'activité elle-même, plutôt que de mesurer la véritable valeur commerciale qu'offre l'intelligence artificielle.

Des exemples récents, comme la fermeture par Amazon d'un classement interne basé sur l'IA et le plafonnement des dépenses en IA des employés d'Uber après avoir rapidement épuisé son budget annuel, soulignent les risques liés au fait de considérer l'utilisation comme le principal indicateur de succès.

Cependant, les dernières données dressent un tableau plus nuancé. Selon les données de Vercel AI Gateway pour juillet, le volume de tokens a progressé de 29 % en juin, tandis que les dépenses ont augmenté de 27 %, le prix moyen des tokens restant stable. Au lieu de se contenter de consommer l'IA, les organisations réfléchissent davantage à l' utilisation des différents modèles et à l'équilibre entre coût et performance.

Les équipes qui développent de véritables systèmes d'IA s'orientent de plus en plus vers une répartition dynamique des tâches entre plusieurs modèles, en fonction du coût, de la fiabilité et des capacités d'inférence. Par exemple, un modèle à faible coût peut s'avérer utile pour synthétiser les tâches, tandis qu'un modèle d'inférence haute performance est réservé aux décisions cruciales.

En pratique, l'intelligence artificielle consiste davantage à coordonner des couches entre plusieurs modèles qu'à construire des systèmes autour d'un fournisseur unique.

Les dernières données d'AI Gateway montrent que les organisations répartissent leurs charges de travail entre différentes catégories de modèles plutôt que de dépendre d'un seul fournisseur. Les modèles à pondération ouverte gèrent désormais 29 % des jetons de passerelle, alors qu'ils représentent moins de 4 % des dépenses. Les modèles de pointe continuent quant à eux de dominer les charges de travail d'inférence à forte valeur ajoutée.

Au lieu d'adopter une approche unique, les organisations choisissent différents modèles en fonction de la tâche à accomplir.

Dépasser les sommets des classements

Au début de l'adoption de l'IA en entreprise, les équipes étaient incitées à expérimenter de manière intensive, à développer des prototypes et à explorer de nouveaux cas d'usage. Cette approche a contribué à accélérer l'adoption, qui implique de passer de l'IA du stade expérimental à l'application pratique, mais elle a également engendré une hypothèse simpliste : celle que plus d'IA signifie automatiquement plus de valeur.

Le volume et les dépenses en tokens ont augmenté d'environ 30 % en juin ; toutefois, le prix moyen des tokens est resté stable. Les entreprises continuent d'investir massivement dans l'IA, mais adoptent une approche plus stratégique quant à la répartition de leurs charges de travail entre les modèles à bas coût et les modèles haut de gamme.

Ce schéma rappelle des bouleversements technologiques antérieurs, comme les débuts du cloud computing, où les entreprises se sont développées de manière agressive avant d'améliorer leur efficacité. L'adoption de l'IA suit une trajectoire similaire, mais à un rythme beaucoup plus rapide.

Pour les équipes d'IA, le critère le plus pertinent n'est pas le coût, mais les résultats, qui sont le fondement de la réussite en IA . Un flux de travail capable d'automatiser des semaines de travail d'ingénierie peut s'avérer bien plus efficace qu'un flux de travail moins coûteux mais produisant des résultats peu fiables et engendrant des coûts d'exploitation ultérieurs supérieurs aux économies initiales.

La question n'est pas de savoir quel niveau minimal d'intelligence artificielle l'équipe peut utiliser, mais avec quelle efficacité elle peut être déployée pour résoudre des problèmes significatifs.

L'intelligence artificielle transforme les charges de travail.

Les chatbots traditionnels fonctionnent selon des flux de travail relativement simples : on saisit une commande et on reçoit une réponse. Les systèmes d’agents, qui sont essentiellement des agents d’IA plus intelligents , fonctionnent de manière très différente.

Les agents d'IA réfléchissent, utilisent des outils, exécutent du code, récupèrent des informations, interrogent des bases de données et répètent des opérations en plusieurs étapes avant d'achever la tâche. Chacune de ces actions consomme des jetons.

Par conséquent, les charges de travail d'IA sont de plus en plus pilotées par des agents. Une simple requête peut désormais impliquer des chaînes d'appels d'outils, des boucles de validation et des changements de fournisseur en arrière-plan, ce qui modifie complètement l'économie.

Les agents de back-office représentent la part la plus importante des jetons par portail, soit 5 % du total des jetons, mais 14 % des dépenses totales. Les charges de travail plus complexes et sensibles aux enjeux commerciaux nécessitent une capacité d'inférence plus poussée que les tâches d'IA plus simples.

Cela signifie qu'une utilisation accrue n'est pas toujours synonyme d'inefficacité. Dans de nombreux cas, elle reflète la complexité et les capacités croissantes des systèmes d'IA eux-mêmes.

L'infrastructure comme facteur de différenciation

À mesure que les organisations s'appuient de plus en plus sur de multiples modèles d'IA et fournisseurs de services, le maintien de la fiabilité devient une tâche plus complexe.

Les tâches d'inférence, les flux de travail multi-agents et les chaînes de coordination complexes peuvent mettre à rude épreuve les fournisseurs de modèles. Si un seul modèle tombe en panne en cours d'exécution, l'ensemble du flux de travail risque de s'effondrer.

Par conséquent, le routage de secours est devenu une infrastructure d'IA essentielle dans les environnements de production. Le rapport AI Gateway de Vercel, publié en mai, a révélé qu'environ 3.5 % des requêtes nécessitent un réacheminement en raison de pannes, de délais d'attente ou de problèmes de détermination du débit.

Sans routage dynamique entre les fournisseurs de services, ces requêtes échoueront tout simplement. Et pour les utilisateurs finaux, l'instabilité du fournisseur de services est invisible ; ils ne se soucient pas de la source du problème, mais seulement du bon fonctionnement de l'application.

Par conséquent, à mesure que les systèmes d'IA deviennent de plus en plus capables de fonctionner comme des agents indépendants, la flexibilité et la coordination deviennent tout aussi importantes que la capacité du modèle lui-même, soulignant l'importance de l'évolution de l'IA vers des agents plus intelligents.

La fin de l'ère du modèle unique

Il est devenu difficile de maintenir une stratégie reposant sur un fournisseur unique. De nouveaux modèles sont constamment mis sur le marché, les prix fluctuent rapidement et les performances varient selon le type de tâche.

Le meilleur modèle de programmation aujourd'hui ne sera peut-être pas le meilleur demain pour les tâches de recherche d'informations, le support client ou les flux de travail d'inférence.

Il ne s'agit pas de désigner un modèle comme unique vainqueur. Il s'agit de concevoir des systèmes d'IA capables de s'adapter et d'intégrer le meilleur modèle chaque semaine, car cette préférence évolue rapidement et continuera d'évoluer.

Les équipes qui considèrent le formatage multi-modèles comme une infrastructure n'auront pas besoin de reconstruire leurs systèmes lors du lancement d'un nouveau modèle.