Quoi de neuf dans les modèles d'IA génératifs Claude 4 d'Anthropic ?

Anthropic a annoncé qu'elle utilisait des précautions de sécurité supplémentaires avec son modèle haute performance Claude 4 Opus.

Les dernières versions de modèles d’IA génératifs sont apparues. Claude D'Anthropic, y compris un modèle plus lourd spécialement conçu pour le codage et les tâches complexes, jeudi.

Anthropic a lancé mon modèle Claude 4 Opus et Claude 4 Sonnet Les nouveaux outils ont été dévoilés lors de la conférence des développeurs Code with Cloud, et les dirigeants ont déclaré qu'ils représentent une avancée majeure dans les compétences de réflexion et de raisonnement approfondis.

claude-ai-9831

La société a lancé le modèle précédent, le Claude 3.7 Sonnet, en février. Depuis lors, les développeurs d’IA concurrents ont également amélioré leurs performances. OpenAI publié GPT-4.1 en avril, en se concentrant sur une fenêtre de contexte élargie, ainsi que sur la famille Modèle de raisonnement O3 Nouveau. Google a suivi cela début mai avec la sortie de Mise à jour depuis Gemini 2.5 Pro Elle a dit qu'il était meilleur en codage.

Claude 4 Opus est un modèle plus grand et plus gourmand en ressources, conçu pour relever des défis particulièrement difficiles. Le PDG d'Anthropic, Dario Amodei, a déclaré que les utilisateurs de la version bêta ont constaté qu'il pouvait gérer rapidement des tâches qui pouvaient prendre plusieurs heures à une personne.

« À bien des égards, comme nous le constatons souvent avec les grands modèles, les normes ne leur rendent pas justice », a-t-il déclaré lors de L'événement principal.

Anthropic a déclaré que Claude 4 avait pris des notes sur la façon de naviguer tout en jouant à Pokémon.

Claude 4 Sonnet est un modèle plus petit, avec des améliorations basées sur le modèle Claude 3.7 Sonnet d'Anthropic. Amodei a déclaré que le modèle 3.7 avait souvent des problèmes avec son enthousiasme excessif et qu'il faisait parfois plus que ce que la personne lui demandait. Bien qu’il s’agisse d’un modèle moins gourmand en ressources, il fonctionne toujours bien.

« En fait, il fonctionne aussi bien qu'Opus sur certains tests de codage, mais je pense qu'il est plus agile et plus ciblé », a déclaré Amodei.

Anthropic a déclaré que les modèles ont une nouvelle capacité, toujours en phase de test bêta, où ils peuvent utiliser des outils tels que des recherches sur le Web tout en s'engageant dans un raisonnement étendu. Les modèles peuvent alterner entre l’inférence et l’instrumentation pour obtenir de meilleures réponses aux requêtes complexes.

Les modèles offrent des modes de réponse quasi instantanés et des modes de réflexion étendus.

Tous les forfaits payants proposent Opus et Sonnet, tandis que le forfait gratuit inclut uniquement Sonnet.

Les nouveaux modèles démontrent l'accent mis par Anthropic sur la création de modèles de codage robustes, a déclaré Arun Chandrasekaran, vice-président et analyste distingué chez Gartner. « Les modèles Claude d'Anthropic ont prouvé leur leadership dans le domaine de l'ingénierie logicielle, et la dernière version de Claude 4 renforce ce leadership. »

Anthropic active les protocoles de sécurité avec les nouveaux modèles Claude

Anthropic a annoncé lors du lancement du modèle Claude Opus 4 qu'elle avait pris des précautions de sécurité renforcées pour réduire le risque d'utilisation abusive de Claude. Et dans Publié sur son blogLa société a déclaré qu'elle n'avait pas encore déterminé si le modèle nécessitait réellement sa protection standard ASL-3, mais qu'elle le faisait par mesure de précaution.

Les précautions de sécurité sont spécifiquement conçues pour empêcher Claude de contribuer au développement d’armes chimiques, biologiques, radiologiques ou nucléaires (CBRN). Anthropic a expliqué qu'il dispose d'attaques limitées connues sous le nom de « jailbreaks universels » qui permettent aux attaquants de contourner les protocoles existants. Anthropic a ajouté dans son message : « Nous continuerons d’évaluer les capacités CBRN du Claude Opus 4. Si nous concluons que le Claude Opus 4 n’a pas dépassé le seuil de capacité requis, nous pourrons supprimer ou modifier la protection ASL-3. »

Chandrasekaran a souligné que la mise en œuvre des normes de sécurité est remarquable, expliquant : « Cela comprend des mesures de cybersécurité renforcées et des classificateurs de réclamations instantanés pour atténuer les risques associés aux puissants systèmes d'IA. » Il a ajouté que les nouveaux modèles démontrent l'importance accordée par l'entreprise à l'équilibre entre les nouvelles technologies et la sécurité.

Les commentaires sont fermés.