Quoi de neuf dans les modèles d'IA génératifs Claude 4 d'Anthropic ?

Anthropic a annoncé qu'elle utilisait des précautions de sécurité supplémentaires avec son modèle haute performance Claude 4 Opus.

La dernière version des modèles d'IA génératifs d'Anthropic, Cloud , comprenant un modèle plus lourd spécialement conçu pour le codage et les tâches complexes, a été dévoilée jeudi.

Anthropic a lancé ses nouveaux modèles Cloud 4 Opus et Cloud 4 Sonnet lors de sa conférence pour développeurs Code with Cloud, et ses dirigeants ont déclaré que ces nouveaux outils représentaient un grand pas en avant en termes de capacités de réflexion approfondie et d'inférence.

claude-ai-9831

L'entreprise a lancé son précédent modèle, Claude 3.7 Sonnet, en février. Depuis, les développeurs d'IA concurrents ont également amélioré leurs performances. OpenAI a publié GPT-4.1 en avril , axé sur une fenêtre de contexte étendue, ainsi que sur la nouvelle famille de modèles d'inférence o3 . Google a suivi début mai avec une version mise à jour de Gemini 2.5 Pro , qu'il présente comme étant plus performante en matière de codage.

Claude 4 Opus est un modèle plus grand et plus gourmand en ressources, conçu pour relever des défis particulièrement difficiles. Le PDG d'Anthropic, Dario Amodei, a déclaré que les utilisateurs de la version bêta ont constaté qu'il pouvait gérer rapidement des tâches qui pouvaient prendre plusieurs heures à une personne.

« À bien des égards, comme on le constate souvent avec les grands modèles, les normes ne leur rendent pas justice », a-t-il déclaré lors de l’événement principal.

Anthropic a déclaré que Claude 4 avait pris des notes sur la façon de naviguer tout en jouant à Pokémon.

Claude 4 Sonnet est un modèle plus petit, avec des améliorations basées sur le modèle Claude 3.7 Sonnet d'Anthropic. Amodei a déclaré que le modèle 3.7 avait souvent des problèmes avec son enthousiasme excessif et qu'il faisait parfois plus que ce que la personne lui demandait. Bien qu’il s’agisse d’un modèle moins gourmand en ressources, il fonctionne toujours bien.

« En fait, il fonctionne aussi bien qu'Opus sur certains tests de codage, mais je pense qu'il est plus agile et plus ciblé », a déclaré Amodei.

Anthropic a déclaré que les modèles ont une nouvelle capacité, toujours en phase de test bêta, où ils peuvent utiliser des outils tels que des recherches sur le Web tout en s'engageant dans un raisonnement étendu. Les modèles peuvent alterner entre l’inférence et l’instrumentation pour obtenir de meilleures réponses aux requêtes complexes.

Les modèles offrent des modes de réponse quasi instantanés et des modes de réflexion étendus.

Tous les forfaits payants proposent Opus et Sonnet, tandis que le forfait gratuit inclut uniquement Sonnet.

Les nouveaux modèles démontrent l'accent mis par Anthropic sur la création de modèles de codage robustes, a déclaré Arun Chandrasekaran, vice-président et analyste distingué chez Gartner. « Les modèles Claude d'Anthropic ont prouvé leur leadership dans le domaine de l'ingénierie logicielle, et la dernière version de Claude 4 renforce ce leadership. »

Anthropic active les protocoles de sécurité avec les nouveaux modèles Claude

Lors du lancement de la Claude Opus 4, Anthropic a annoncé avoir renforcé ses mesures de sécurité afin de limiter les risques de mauvaise utilisation. Dans un article de blog , l'entreprise a précisé qu'elle n'avait pas encore déterminé si le modèle nécessitait réellement la protection ASL-3, mais qu'elle l'intégrait par précaution.

Les précautions de sécurité sont spécifiquement conçues pour empêcher Claude de contribuer au développement d’armes chimiques, biologiques, radiologiques ou nucléaires (CBRN). Anthropic a expliqué qu'il dispose d'attaques limitées connues sous le nom de « jailbreaks universels » qui permettent aux attaquants de contourner les protocoles existants. Anthropic a ajouté dans son message : « Nous continuerons d’évaluer les capacités CBRN du Claude Opus 4. Si nous concluons que le Claude Opus 4 n’a pas dépassé le seuil de capacité requis, nous pourrons supprimer ou modifier la protection ASL-3. »

Chandrasekaran a souligné que la mise en œuvre des normes de sécurité est remarquable, expliquant : « Cela comprend des mesures de cybersécurité renforcées et des classificateurs de réclamations instantanés pour atténuer les risques associés aux puissants systèmes d'IA. » Il a ajouté que les nouveaux modèles démontrent l'importance accordée par l'entreprise à l'équilibre entre les nouvelles technologies et la sécurité.

Les commentaires sont fermés.