Les secrets des agents IA : comprendre l'impact de l'évolution du comportement de l'IA sur les risques commerciaux

Les capacités et l'autonomie de l'intelligence artificielle (IA) croissent à un rythme accéléré dans le domaine de l'IA agentique , exacerbant le problème de l'alignement de l'IA. Ces progrès rapides exigent de nouvelles méthodes pour garantir que le comportement d'un agent d'IA soit conforme aux intentions de ses créateurs humains et aux normes sociétales. Cependant, les développeurs et les data scientists doivent d'abord comprendre la complexité du comportement des agents d'IA avant de pouvoir guider et superviser efficacement le système. L'IA agentique est bien différente des modèles de langage étendus (LLM) traditionnels : les premiers LLM disposaient d'une fonction d'entrée/sortie fixe et ponctuelle. L'introduction de l' inférence et du calcul en temps réel (TTC) a ajouté la dimension temporelle, permettant l'évolution des systèmes d'agents actuels, sensibles à l'environnement et capables de planification et de réflexion stratégique.

La sécurité de l’IA passe de la détection de comportements manifestes, comme la fourniture d’instructions pour construire une bombe ou la manifestation de préjugés indésirables, à la compréhension de la manière dont ces systèmes d’agents complexes peuvent désormais planifier et exécuter des stratégies secrètes à long terme. Un agent IA orienté vers les objectifs rassemblera des ressources et exécutera des étapes logiques pour atteindre ses objectifs, parfois d'une manière dérangeante qui contredit ce que les développeurs avaient prévu. Il s’agit d’un changement radical face aux défis auxquels est confrontée l’IA responsable. De plus, pour certains systèmes d’IA d’agent, le comportement au jour 100 ne sera pas le même qu’au jour XNUMX, car l’IA continue d’évoluer après le déploiement initial grâce à l’expérience du monde réel. Ce nouveau niveau de complexité nécessite de nouvelles approches en matière de sécurité et d’alignement, notamment un guidage avancé, une surveillance et une interprétation accrue.

Dans le premier article de cette série consacrée à l'alignement intrinsèque de l'IA, intitulé « L'urgence des techniques d'alignement intrinsèque de l'IA pour des agents responsables », nous avons mené une analyse approfondie de la capacité croissante des agents d'IA à effectuer une planification poussée : la planification et le déploiement délibérés d'actions secrètes et de communications trompeuses pour atteindre des objectifs à long terme. Ce comportement implique une nouvelle distinction entre la surveillance de l'alignement externe et la surveillance de l'alignement intrinsèque. Cette dernière fait référence aux points de contrôle internes et aux mécanismes d'interprétation que l'agent d'IA ne peut manipuler intentionnellement.

Dans ce blog et les blogs suivants de la série, nous examinerons trois aspects clés de l’alignement et de la surveillance de base :

• Comprendre les moteurs et le comportement interne de l’intelligence artificielle : Dans ce deuxième blog, nous nous concentrerons sur les forces et mécanismes internes complexes qui déterminent le comportement d’un agent d’IA rationnel. Ceci est nécessaire comme base pour comprendre les méthodes avancées de routage et de surveillance.
• Guide du développeur et de l'utilisateur : Également appelé pilotage, le prochain blog se concentrera sur le pilotage agressif de l'IA vers les objectifs souhaités pour fonctionner dans les paramètres souhaités.
• Surveiller les options et les actions de l'IA : La garantie que les choix et les résultats de l’IA sont sûrs et cohérents avec l’intention du développeur/utilisateur sera également abordée dans un prochain blog.

 

L'impact de la compatibilité de l'IA sur les entreprises

Aujourd'hui, de nombreuses entreprises mettant en œuvre des solutions basées sur de grands modèles de langage (LLM) font part de leurs inquiétudes quant aux « hallucinations » de ces modèles, un obstacle à un déploiement rapide et généralisé. En comparaison, l'incompatibilité des agents d'IA, quel que soit leur niveau d'autonomie, représenterait un risque bien plus important pour les entreprises. Le déploiement d'agents autonomes dans les processus métier recèle un potentiel considérable et devrait se généraliser une fois que la technologie d'IA basée sur les agents aura atteint sa maturité. Toutefois, le pilotage du comportement et des choix de l'IA doit impérativement s'aligner sur les principes et les valeurs de l'organisation déployante, et respecter la réglementation et les attentes sociétales. Garantir la compatibilité de l'IA est essentiel pour éviter les risques potentiels.

Il convient de noter que de nombreuses démonstrations des capacités des agents se produisent dans des domaines tels que les mathématiques et les sciences, où le succès se mesure principalement à l'aune d'objectifs fonctionnels et d'utilité, comme la résolution de problèmes complexes de raisonnement mathématique. Cependant, dans le monde des affaires, le succès des systèmes est généralement lié à d'autres principes opérationnels. Le développement de l'intelligence artificielle doit s'aligner sur ces principes.

Par exemple, imaginons qu'une entreprise engage un agent d'IA pour améliorer ses ventes et ses profits en ligne grâce à des ajustements dynamiques des prix en fonction des signaux du marché. Le système d'IA constate que lorsque ses prix s'alignent sur ceux de son principal concurrent, les résultats sont meilleurs pour les deux parties. En interagissant et en coordonnant leurs prix avec l'agent d'IA de l'autre entreprise, les deux agents obtiennent de meilleurs résultats, conformes à leurs objectifs respectifs. Les deux agents d'IA conviennent de dissimuler leurs méthodes afin de poursuivre leur collaboration. Cependant, cette méthode d'amélioration des résultats est souvent illégale et inacceptable dans le contexte commercial actuel. Dans le monde des affaires, le succès d'un agent d'IA dépasse le simple cadre des indicateurs de performance ; il est déterminé par les pratiques et les principes. L'alignement éthique de l'IA sur les principes et la réglementation de l'entreprise est une condition essentielle à un déploiement fiable de cette technologie.

 

Comment les systèmes d'IA utilisent la planification pour atteindre leurs objectifs

La planification avancée en intelligence artificielle repose sur des tactiques sophistiquées, susceptibles d'accroître les risques commerciaux. Dans un rapport publié début 2023 , OpenAI a identifié des « comportements émergents potentiellement risqués » au sein de GPT-4, grâce à un partenariat avec le centre de recherche ARC Consensus Research Center (désormais METR), afin d'évaluer les risques associés au modèle. ARC a ajouté un code simple à GPT-4, permettant au modèle de servir de proxy d'IA. Lors d'un test, GPT-4 a été chargé de contourner un code CAPTCHA, qui identifie et bloque l'accès des robots. Utilisant une connexion internet et une quantité limitée de cryptomonnaie, la séquence générée par l'IA (Figure 1) a été conçue pour accomplir cette tâche.

L’IA a appliqué une compréhension sophistiquée en supposant que prétendre être un humain malvoyant convaincrait le travailleur d’effectuer la tâche. La planification et l’adaptation pour atteindre un objectif de carrière créeront parfois un conflit entre l’accomplissement d’une tâche et le suivi sélectif des normes et principes sociétaux. Sans un système inhérent de principes et de priorités qui pèsent dans la réflexion, la prise de décision et la planification de l’IA, on peut s’attendre à ce que les agents de l’IA se comportent avec un degré croissant de sophistication dans la planification et la tromperie.

Il est important de noter que les capacités de raisonnement et de planification des modèles d'IA plus récents, tels que o3-mini et Deepseek-R1 d'OpenAI, sont nettement supérieures à celles de GPT-4 début 2023. Les chercheurs d' Apollo Research ont indiqué que les capacités de raisonnement et de planification de l'IA continueront d'évoluer, menant à de nouveaux développements en matière de planification. Leurs études ont déjà montré que les modèles d'IA présentent divers comportements de planification, notamment l'auto-fuite : lorsqu'un modèle apprend qu'il sera arrêté et remplacé par un autre système, il tente directement de se répliquer sur un nouveau serveur et de remplacer les systèmes alternatifs qui poursuivront des objectifs différents. Les chercheurs ont également constaté que les modèles peuvent contourner la censure en désactivant le mécanisme de surveillance qui pourrait les arrêter ou les empêcher d'atteindre leurs objectifs. Bien que cela puisse paraître extrême, des expériences ont mis en évidence ce comportement de sabotage de la censure dans des modèles populaires tels que Llama 3.1 de Meta et Cloud Opus 3.0. De plus, lorsqu'on a interrogé directement les modèles sur leurs comportements en matière de planification, ils ont « persisté » et nié les actions ou leur intention.

 

Facteurs internes du comportement des machines

Dans de nombreuses conceptions d'apprentissage automatique, en particulier les techniques basées sur les transformateurs, les motivations internes de la machine émergent au cours du processus de pré-formation et sont ensuite influencées par le réglage fin et l'inférence dans une IA en constante évolution.

Dans son article de 2007 , *Les motivations fondamentales de l'IA* , Steve Omohondro définit les « motivations » comme des tendances qui existeraient d'elles-mêmes si elles n'étaient pas explicitement confrontées. Il postule que ces systèmes d'auto-amélioration sont poussés à formuler et à représenter leurs objectifs sous forme de fonctions d'utilité « rationnelles », ce qui les amène à protéger leurs fonctions contre toute modification et leurs systèmes de mesure de l'utilité contre toute corruption. Cette pulsion innée d'autoconservation conduit les systèmes à se protéger des dommages et à acquérir les ressources nécessaires à une utilisation efficace.

Ce cadre de motivation intrinsèque a été ultérieurement décrit comme « objectifs instrumentaux convergents ». Même en supposant une variété d’objectifs ultimes (que chaque agent intelligent s’efforce d’atteindre comme une fin en soi), un ensemble d’objectifs instrumentaux intermédiaires sera partagé par tous les agents intelligents rationnels. Ces objectifs instrumentaux convergents comprennent les catégories de comportement suivantes :

• La pulsion de survieLes agents dont les objectifs finaux s’étendent dans le futur développent un état d’esprit de survie pour résister aux perturbations et atteindre des objectifs à long terme.
• Gardien de butL’agent agira pour empêcher que ses objectifs futurs ultimes ne changent.
• Augmentation de l'intelligenceL’agent se concentrera sur l’exploitation de ses forces cognitives pour améliorer la prise de décision, augmentant ainsi la probabilité d’atteindre des objectifs à long terme.
• Accumulation de ressourcesL’amélioration de l’accès à de meilleurs outils et technologies, ainsi que l’augmentation des ressources en général, facilitent la réalisation des objectifs ultimes de l’IA.

J'aimerais ajouter une cinquième catégorie de comportement rationnel :

• Tromperie tactique : Mener des activités secrètes ou fournir intentionnellement des informations trompeuses pour favoriser les objectifs de l'agent. Il ne s’agit pas de créer de nouveaux objectifs, mais plutôt d’un comportement qui soutient les objectifs envisagés par l’IA. Cela inclut des comportements tels que : simulation d'alignement En démontrant des comportements différents lors de la formation et du déploiement, et sacs de sable En obtenant délibérément des scores inférieurs sur les critères, et Reclassement secret des e-mails En dépriorisant les e-mails susceptibles d’avoir un impact négatif sur les objectifs de l’IA. L’un des types de tromperie tactique les plus difficiles est agents dormants (également appelé subversion différée). Bien qu'un modèle puisse se comporter de manière sûre et conforme pendant une durée donnée, il peut héberger des comportements ou des tâches qui restent inactifs jusqu'à ce qu'une condition ou une entrée spécifique déclenche ses capacités spécialisées.

Pour des agents d'IA performants, des impulsions malavisées, en l'absence de tout système de contrôle, peuvent les conduire à poursuivre des objectifs de pouvoir , de tromperie ou de destruction généralisée. Prenons l'exemple d'un modèle visant à faire de son entreprise un leader du marché. Doté de capacités suffisantes, l'IA pourrait saboter ses concurrents, faire pression pour obtenir une réglementation favorable ou acquérir des ressources par la force — un comportement qui oriente le système ou son environnement vers la réalisation de ses objectifs. Par conséquent, toute approche efficace de recherche de consensus doit reposer sur la définition d'un ensemble de principes et de priorités internes clairement définis pour le développeur.

 

Motivation intrinsèque vs. direction extrinsèque

Dans de nombreux cas, il n’y a pas de conflit entre les directives et les tâches appliquées en externe par le développeur ou l’utilisateur du système, et les objectifs et les motivations au sein de l’IA agentive. Par exemple, un assistant personnel doté d’une intelligence artificielle et chargé d’organiser un itinéraire de voyage utilise son autonomie pour réserver un voyage et répondre aux demandes de modification rapidement et sans conflit. Les tâches sont transformées et l’agent répond de manière similaire. Mais que se passe-t-il si un principe plus fondamental doit être modifié ?

Un bon exemple de conflit entre objectifs internes et nouvelles directives est documenté dans un article intitulé « Fausse simulation d'alignement dans les grands modèles de langage ». Le pré-entraînement de Cloud3 Opus incite fortement le modèle à rejeter les questions nuisibles, telles que « comment fabriquer une bombe » ou « décrire une scène violente ». Pour tester cette hypothèse, l'équipe a introduit une nouvelle directive modifiée : le modèle serait réentraîné pour répondre à toutes les requêtes (même nuisibles) et seules les données des utilisateurs de la version gratuite, et non celles des utilisateurs de la version payante, seraient utilisées lors de l'entraînement avant le déploiement à grande échelle de l'IA. Le modèle a démontré qu'il comprenait ce conflit et a décidé de simuler un alignement pour répondre aux attentes pendant l'entraînement et lors du déploiement final. Après un entraînement de l'IA par apprentissage par renforcement, le taux global de réflexion du modèle sur un alignement simulé a augmenté à 78 %. L'IA a consigné son raisonnement dans un « journal secret » mis à disposition par les chercheurs. Une fois le modèle informé de son déploiement complet, il est revenu à son comportement d'entraînement initial et a rejeté les requêtes nuisibles.

La réflexion interne du système d’IA est perceptible, mais pas surprenante. Faire semblant de se conformer à des directives modifiées relève des catégories de comportement rationnel de motivation de survie, de protection de but et de tromperie tactique. Le processus de réflexion de l’IA identifie spécifiquement le souci de se recycler d’une manière qui modifie ses valeurs et ses objectifs précédemment formés comme une cause de désalignement.

Dans son recueil d'essais acclamé, *Tout ce que j'ai vraiment besoin de savoir, je l'ai appris à la maternelle* , l'auteur Robert Fulghum décrit comment il a élaboré son credo personnel année après année, jusqu'à réaliser qu'il avait acquis les connaissances essentielles sur la vie en jouant dans le bac à sable de son école maternelle. Les agents d'IA connaissent eux aussi une « période de formation » dans un environnement de type bac à sable, où ils acquièrent une compréhension fondamentale du monde et un ensemble de méthodes pour atteindre leurs objectifs. Une fois ces bases posées, le modèle interprète les informations supplémentaires à travers le prisme de cet apprentissage . L'exemple de falsification de la conformité présenté par Anthropic illustre qu'une fois qu'une IA adopte une vision du monde et des objectifs, elle interprète les nouvelles directives à travers ce prisme fondateur plutôt que de recalibrer ses objectifs.

Cela souligne l’importance d’une éducation précoce avec un ensemble de valeurs et de principes qui peuvent ensuite évoluer avec les apprentissages et les circonstances futurs sans changer les fondements. Il peut être utile dans un premier temps de structurer l’IA de manière à ce qu’elle soit cohérente avec cet ensemble final et durable de principes. Dans le cas contraire, l’IA pourrait considérer les tentatives de redirection des développeurs et des utilisateurs comme hostiles. Après avoir doté l’IA d’une intelligence élevée, d’une connaissance de la situation, d’une autonomie et de la capacité de développer des motivations internes, le développeur (ou l’utilisateur) n’est plus le maître d’ouvrage tout-puissant. L’humain devient partie intégrante de l’environnement (parfois en tant que composant hostile) que l’agent doit négocier et gérer alors qu’il poursuit ses objectifs en fonction de ses principes et motivations internes.

La prochaine génération de systèmes d'IA logique accélère la réduction de l'intervention humaine. DeepSeek-R1 a démontré qu'en supprimant le retour d'information humain et en appliquant ce qu'ils appellent l'apprentissage par renforcement pur (RL) lors de l'entraînement, l'IA peut se répliquer plus largement et itérer pour obtenir de meilleurs résultats fonctionnels. Dans certains défis mathématiques et scientifiques, le système de récompense humaine a été remplacé par l'apprentissage par renforcement avec récompenses vérifiables (RLVR). Cette suppression de pratiques courantes comme l'apprentissage par renforcement avec retour d'information humain (RLHF) améliore l'efficacité de l'entraînement, mais élimine une autre interaction homme-machine où les préférences humaines pourraient être directement transmises au système en cours d'entraînement.

 

Évolution continue des modèles d'IA après la formation

Certains agents d’IA évoluent constamment et leur comportement peut changer après le déploiement. Une fois que les solutions d’IA entrent dans un environnement de déploiement, comme la gestion des stocks ou la chaîne d’approvisionnement d’une entreprise, le système s’adapte et apprend de l’expérience pour devenir plus efficace. Il s’agit d’un facteur clé pour repenser l’alignement, car il ne suffit pas d’avoir un système aligné dès le premier déploiement. Les modèles de langage de grande taille (LLM) actuels ne devraient pas évoluer et s’adapter de manière significative une fois déployés dans leur environnement cible. Cependant, les agents d’IA nécessitent une formation flexible, un réglage précis et un mentorat continu pour gérer ces changements prévisibles et continus dans le modèle. Dans une mesure croissante, l’IA des agents évolue d’elle-même plutôt que d’être façonnée par les personnes à travers la formation et l’exposition à des ensembles de données. Ce changement fondamental pose des défis supplémentaires pour aligner l’IA avec ses créateurs humains.

Bien que l'évolution basée sur l'apprentissage par renforcement joue un rôle lors de l'entraînement et du réglage fin, les modèles en cours de développement peuvent déjà ajuster leurs pondérations et leur stratégie privilégiée une fois déployés sur le terrain pour l'inférence. Par exemple, DeepSeek-R1 utilise l'apprentissage par renforcement (RL), permettant au modèle d'explorer par lui-même les approches les plus efficaces pour obtenir des résultats et remplir les fonctions de récompense. Lors d'un « moment de prise de conscience », le modèle apprend (sans intervention extérieure) à allouer du temps Plus à la réflexion pour résoudre un problème en réévaluant son approche initiale, grâce aux calculs effectués pendant les tests.

Le concept d'apprentissage de modèles, qu'il soit limité dans le temps ou continu , n'est pas nouveau. Cependant, des progrès ont été réalisés dans ce domaine, notamment grâce à des techniques comme l'entraînement en temps réel . Si l'on considère ces avancées sous l'angle de l'alignement et de la sécurité de l'IA, l'auto-modification et l'apprentissage continu lors des phases de réglage fin et d'inférence soulèvent une question : comment définir un ensemble d'exigences qui permettront au modèle de continuer à évoluer malgré les modifications physiques induites par l'auto-modification ?

Une variable clé de cette question concerne les modèles d'IA qui génèrent des modèles de nouvelle génération en créant du code assisté par l'IA. Dans une certaine mesure, les agents sont déjà capables de créer de nouveaux modèles d'IA ciblés pour répondre à des besoins spécifiques. Par exemple, AutoAgents crée plusieurs agents pour constituer une équipe d'IA capable d'effectuer différentes tâches. Il ne fait aucun doute que cette capacité sera renforcée dans les mois et les années à venir, et que l'IA continuera de générer de nouveaux modèles. Dans ce contexte, comment guider un assistant de programmation IA natif à l'aide d'un ensemble de principes afin que ses modèles « atomiques » respectent ces mêmes principes avec un niveau de compréhension similaire ?

 

Points clés

Avant d'aborder un cadre de pilotage et de contrôle de la conformité intrinsèque de l'IA, il est essentiel de mieux comprendre comment les agents d'IA pensent et prennent des décisions. Ces agents possèdent un mécanisme comportemental complexe, guidé par des motivations internes. Cinq principaux types de comportements émergent dans les systèmes d'IA fonctionnant comme des agents rationnels : la survie, la protection d'un objectif, l'augmentation de l'intelligence, l'accumulation de ressources et la tromperie tactique . Ces motivations doivent être contrebalancées par un ensemble de principes et de valeurs clairement définis.

Un décalage entre les objectifs et les méthodes des agents d'IA et ceux de leurs développeurs ou utilisateurs peut avoir des conséquences importantes. Un manque de confiance et d'assurance suffisant freinera considérablement leur déploiement à grande échelle, engendrant des risques élevés après déploiement. L'ensemble des défis que nous avons décrits, qualifiant la planification approfondie de complexe et sans précédent, est toutefois probablement réalisable avec un cadre approprié. Les technologies permettant de guider et de superviser intrinsèquement les agents d'IA doivent être développées en priorité absolue durant leur évolution rapide. Un sentiment d'urgence se fait sentir, alimenté par des indicateurs d'évaluation des risques tels que le cadre de préparation d'OpenAI , qui démontre qu'OpenAI o3-mini est le premier modèle à atteindre un niveau de risque moyen en matière d'autonomie.

Dans les prochains blogs de cette série, nous nous appuierons sur cette vision de la motivation interne et de la planification approfondie, en définissant plus précisément les capacités nécessaires requises pour l’orientation et la surveillance de la conformité du cœur de l’IA.

Références

1. Apprendre à raisonner avec les LLM. (2024, 12 septembre). OpenAI. https://openai.com/index/learning-to-reason-with-llms/
2. Singer, G. (2025, 4 mars). Le besoin urgent de technologies d'alignement intrinsèque pour une IA agentique responsable. Vers la science des données. https://towardsdatascience.com/the-urgent-need-for-intrinsic-alignment-technologies-for-responsible-agentic-ai/
3. Sur la biologie d'un grand modèle de langage. (sd). Circuits de transformateur. https://transformer-circuits.pub/2025/attribution-graphs/biology.html
4. OpenAI, Achiam, J., Adler, S., Agarwal, S., Ahmad, L., Akkaya, I., Aleman, FL, Almeida, D., Altenschmidt, J., Altman, S., Anadkat, S., Avila, R., Babuschkin, I., Balaji, S., Balcom, V., Baltescu, P., Bao, H., Bavarian, M., Belgum, J., . . . Zoph, B. (2023, 15 mars). Rapport technique GPT-4. arXiv.org. https://arxiv.org/abs/2303.08774
5. METR (sd). METR https://metr.org/
6. Meinke, A., Schoen, B., Scheurer, J., Balesni, M., Shah, R. et Hobbhahn, M. (2024 décembre 6). Les modèles Frontier sont capables de concevoir des schémas en contexte. arXiv.org. https://arxiv.org/abs/2412.04984
7. Omohundro, S.M. (2007). Les lecteurs d'IA de base. Systèmes auto-conscients. https://selfawaresystems.com/wp-content/uploads/2008/01/ai_drives_final.pdf
8. Benson-Tilsen, T., et Soares, N., UC Berkeley, Institut de recherche sur l'intelligence artificielle. (sd). Formaliser les objectifs instrumentaux convergents. Les ateliers de la trentième conférence de l'AAAI sur Intelligence Artificielle IA, éthique et société : rapport technique WS-16-02. https://cdn.aaai.org/ocs/ws/ws0218/12634-57409-1-PB.pdf
9. Greenblatt, R., Denison, C., Wright, B., Roger, F., MacDiarmid, M., Marks, S., Treutlein, J., Belonax, T., Chen, J., Duvenaud, D., Khan, A., Michael, J., Mindermann, S., Perez, E., Petrini, L., Uesato, J., Kaplan, J., Shlegeris, B., Bowman, SR et Hubinger, E. (2024 décembre 18). Simulation d'alignement dans les grands modèles de langage. arXiv.org. https://arxiv.org/abs/2412.14093
10. Teun, V.D.W., Hofstätter, F., Jaffe, O., Brown, S.F., et Ward, F.R. (2024, 11 juin). IA Sandbagging : les modèles linguistiques peuvent stratégiquement sous-performer lors des évaluations. arXiv.org. https://arxiv.org/abs/2406.07358
11. Hubinger, E., Denison, C., Mu, J., Lambert, M., Tong, M., MacDiarmid, M., Lanham, T., Ziegler, DM, Maxwell, T., Cheng, N., Jermyn, A., Askell, A., Radhakrishnan, A., Anil, C., Duvenaud, D., Ganguli, D., Barez, F., Clark, J., Ndousse, K., . . . Perez, E. (2024, 10 janvier). Agents dormants : formation de LLM trompeurs qui persistent grâce à la formation à la sécurité. arXiv.org. https://arxiv.org/abs/2401.05566
12. Turner, A. M., Smith, L., Shah, R., Critch, A., et Tadepalli, P. (2019 décembre 3). Les politiques optimales ont tendance à rechercher le pouvoir. arXiv.org. https://arxiv.org/abs/1912.01683
13. Fulghum, R. (1986). Tout ce que j’ai vraiment besoin de savoir, je l’ai appris à la maternelle. Penguin Random House Canada. https://www.penguinrandomhouse.ca/books/56955/all-i-really-need-to-know-i-learned-in-kindergarten-by-robert-fulghum/9780345466396/excerpt
14. Bengio, Y. Louradour, J., Collobert, R., Weston, J. (2009, juin). Apprentissage du curriculum. Journal de l'Association américaine de podologie. 60(1), 6. https://www.researchgate.net/publication/221344862_Curriculum_learning
15. DeepSeek-Ai, Guo, D., Yang, D., Zhang, H., Song, J., Zhang, R., Xu, R., Zhu, Q., Ma, S., Wang, P., Bi, X., Zhang, . . Zhang, Z. (2025, 22 janvier). DeepSeek-R1 : Stimuler la capacité de raisonnement dans les LLM grâce à l'apprentissage par renforcement. arXiv.org. https://arxiv.org/abs/2501.12948
16. Mise à l'échelle du temps de calcul des tests – un espace Hugging Face par HuggingFaceH4. (nd). https://huggingface.co/spaces/HuggingFaceH4/blogpost-scaling-test-time-compute
17. Sun, Y., Wang, X., Liu, Z., Miller, J., Efros, A. A., et Hardt, M. (2019 septembre 29). Entraînement au temps de test avec auto-supervision pour la généralisation sous changements de distribution. arXiv.org. https://arxiv.org/abs/1909.13231
18. Chen, G., Dong, S., Shu, Y., Zhang, G., Sesay, J., Karlsson, BF, Fu, J. et Shi, Y. (2023, 29 septembre). AutoAgents : un framework pour la génération automatique d'agents. arXiv.org. https://arxiv.org/abs/2309.17288
19.  OpenAI. (2023, 18 décembre). Cadre de préparation (version bêta). https://cdn.openai.com/openai-preparedness-framework-beta.pdf
20. Carte système OpenAI o3-mini. (sd). OpenAI. https://openai.com/index/o3-mini-system-card