Claude mène 26% de la R&D en IA d’Anthropic

Claude, l’assistant d’intelligence artificielle d’Anthropic, dirige plus d’un quart des travaux de recherche et de développement des futurs modèles de la firme basée à San Francisco, selon des mesures publiées par l’entreprise. « Claude mène 26% des travaux de R&D en IA d’Anthropic », écrit la firme dans une note de blog sur son site.

L’IA intervient en « collaboration » avec ses équipes de recherche dans « plus de 90% » de leurs travaux, ajoute Anthropic. Claude ne fonctionne en revanche à aucun moment « de manière complètement autonome », assure l’entreprise.

Une transparence justifiée par les risques de l’IA

L’annonce de la start-up californienne intervient dans un contexte de préoccupation internationale croissante autour des risques posés par l’essor rapide de l’IA. Dans sa note intitulée « Mesures pour comprendre le rythme de développement de l’IA au sein des laboratoires de pointe », Anthropic dit vouloir y répondre en publiant une série d’indicateurs apportant « une meilleure visibilité au public, aux tiers et aux gouvernements ».

Cette volonté de transparence rejoint celle affichée par son concurrent OpenAI, qui a promis mercredi de communiquer plus systématiquement sur les sorties de route de ses modèles d’IA. Ces engagements se veulent un moyen de montrer à l’extérieur où se situent les capacités de l’IA de pointe pour nourrir la réflexion sur l’avancée de son développement.

Anthropic justifie sa démarche par le fait que « les laboratoires d’IA de pointe utilisent de plus en plus l’IA pour concevoir (leurs) futurs modèles ». Or, souligne l’entreprise, « des modèles qui accélèrent leur propre développement pourraient compliquer la compréhension ou le contrôle de ces systèmes par les humains ». « Il est donc important de partager ces indicateurs pour comprendre à quel point le monde se rapproche de l’auto-amélioration récursive (un modèle construisant son successeur de manière complètement autonome) », estime-t-elle.