Anthropic, la société derrière les modèles d'intelligence artificielle (IA) Claude, a révélé mardi sa version la plus avancée, Fable 5, tout en maintenant des restrictions sur certains sujets sensibles, notamment la cybersécurité et maintenant, les menaces biologiques et chimiques.
Fable 5 est le premier modèle de la famille Mythos, lancée en avril dernier, à être accessible au grand public, bien que toujours soumise à des limitations pour des raisons de sécurité.
En parallèle, une version non bridée, nommée Claude Mythos 5, est réservée aux entreprises et aux agences gouvernementales qui avaient déjà un accès privilégié. Ce modèle est capable de repérer et d'exploiter des vulnérabilités à une vitesse et une précision sans précédent, ce qui lui vaut d'être très convoité.
Lors de l'annonce de Mythos, Anthropic avait reçu des critiques pour son approche considérée comme celle du "marketing de la peur", suscitant des inquiétudes au sein des gouvernements mondiaux face aux menaces potentielles sur des infrastructures critiques.
Malgré des relations tendues avec le gouvernement américain, certaines entreprises ayant eu accès à Mythos ont confirmé l'efficacité du modèle, et le gouvernement a finalement décidé de le tester.
La Maison Blanche a mis en place un système d'évaluation volontaire des modèles d'IA les plus puissants avant leur mise sur le marché. Concurrent direct d'Anthropic, OpenAI, prépare également le lancement de la version 5.6 de son modèle ChatGPT.
- Une vigilance élargie contre les menaces biologiques -
Anthropic élargit donc son périmètre de sécurité avec Fable 5 pour inclure les risques liés aux attaques biologiques et chimiques. L'entreprise cite le design des virus adéno-associés (AAV), des agents potentiellement dangereux mais aussi bénéfiques pour des thérapies, comme zone de vigilance. Ainsi, uniquement des chercheurs sélectionnés en biologie auront accès à la version non bridée.
Selon l'entreprise, la majorité des demandes concernant la cybersécurité ou des domaines biologiques se voient automatiquement redirigées vers le modèle antérieur, Opus 4.8, lancé fin mai.
Anthropic présente Fable 5 comme la version sécurisée de Mythos, implémentant des filtres intelligents pour diffuser les requêtes sensibles. Pour renforcer cette sécurité, des experts externes ont été engagés pour tenter de contourner ces protections, avec des récompenses pour ceux qui réussissent. Selon l'entreprise, aucun des tests réalisés n'a mené à un "contournement universel" du modèle.
Bien que l'organisation admette qu'il est difficile d'éliminer complètement ces risques, son objectif est de concevoir des mesures dissuasives et décelables.
- Tarification en hausse -
La question de la sécurité est devenue un atout majeur pour Anthropic, mais elle a également causé des tensions avec l'administration précédente, notamment en ce qui concerne les restrictions liées à la surveillance et aux armes autonomes. Ces tensions ont conduit le Pentagone à rompre ses contrats avec l'entreprise.
Le lancement de Fable 5 s'accompagne d'une tarification élevée, atteignant jusqu'à 50 dollars par million de "tokens", un doublement par rapport aux frais d'Opus 4.8. Une même session intense peut rapidement épuiser plusieurs millions de tokens.
Face à la montée des agents IA efficaces, Anthropic a ajusté ses prix pour refléter cette demande croissante. Cependant, la compagnie doit prouver sa rentabilité à long terme, surtout au vu du coût élevé de l'infrastructure nécessaire.
D’ailleurs, Anthropic a récemment négocié avec Elon Musk pour l'utilisation d’un centre de données de 1,25 milliard de dollars par mois. Ce lancement dynamique s’inscrit dans une effervescence financière globale autour de l’intelligence artificielle, avec des plans d’introduction en Bourse pour Anthropic et OpenAI, dans un contexte marqué par la préparation de la cotation record de SpaceX, qui intègre également sa propre équipe d'IA, xAI.
