Dario Amodei, PDG et co-fondateur d’Anthropic, à gauche, et Jamie Dimon, PDG de JPMorgan Chase.
Denis Balibouse | Reuters | Samuel Corum | Bloomberg | Getty Photos
Le PDG d’Anthropic, Dario Amodei, a averti mardi que l’intelligence artificielle avait créé une fenêtre étroite permettant aux entreprises technologiques, aux gouvernements et aux banques du monde entier de corriger les dizaines de milliers de vulnérabilités logicielles découvertes par le dernier modèle de son entreprise.
Ce modèle d’IA, Mythos, a été présenté en avant-première le mois dernier et a révélé qu’il avait mis au jour des vulnérabilités vieilles de plusieurs décennies dans des logiciels cruciaux.
Étant donné que les modèles d’IA de l’adversaire géopolitique chinois ont « peut-être six à 12 mois » de retard sur le produit Anthropic, il reste « à peu près autant de temps » pour résoudre ces problèmes, a déclaré Amodei.
Les commentaires sont venus lors d’un événement Anthropic au cours duquel Amodei partageait la scène avec JPMorgan Chase Le PDG Jamie Dimon a dévoilé une nouvelle suite d’brokers destinés à automatiser le travail financier.
“Le hazard réside simplement dans une augmentation énorme du nombre de vulnérabilités, du nombre de violations, des dommages financiers causés par les ransomwares aux écoles, aux hôpitaux, sans parler des banques”, a déclaré Amodei.
Anthropic a limité Mythos à quelques sociétés partenaires en raison de préoccupations quant à ce que les criminels ou les nations antagonistes pourraient en faire. Les dernières mises à jour du modèle de l’entreprise ont eu des répercussions sur les marchés, mais c’est Mythe qui a suscité le plus d’inquiétude auprès des entreprises et des décideurs politiques.
L’ampleur des cyberexploits potentiels a augmenté à chaque génération de Claude, a déclaré Amodei. Un modèle Anthropic antérieur avait découvert environ 20 vulnérabilités dans le navigateur Firefox. Mythos en a trouvé près de 300, et le nombre whole pour tous les logiciels s’élève désormais à des dizaines de milliers, a-t-il déclaré.
La plupart des vulnérabilités découvertes par Mythos n’ont pas été divulguées publiquement automobile elles ne sont toujours pas corrigées, et “les méchants les exploiteront” si elles sont identifiées, a déclaré Amodei.
« Un monde meilleur »
Malgré l’alarme, Amodei et Dimon ont également émis une notice d’optimisme conditionnel.
“Il s’agit d’un second de hazard où si nous y réagissons correctement, et je pense que nous avons commencé à faire les premiers pas, alors nous pourrons avoir un monde meilleur de l’autre côté”, a déclaré Amodei. “Il n’y a qu’un nombre limité de bugs à trouver.”
Dimon a également déclaré que même si les craintes en matière de cybersécurité étaient justifiées, les risques de cybersécurité créés par l’IA constituent une « période transitoire ».
Sur la query de la réglementation, Amodei a déclaré que la surveillance de l’IA devrait ressembler à ce qui se fait dans l’industrie vehicle, en trouvant un équilibre entre la sécurité des consommateurs et la compétitivité de l’industrie.
“Vous ne pouvez pas simplement démarrer une entreprise vehicle sans vous demander ‘Y a-t-il des freins à cette selected ?'”, a-t-il déclaré. “Nous devons tâtonner pour trouver un processus qui permette à l’industrie de fonctionner rapidement, qui soit juste, mais qui mette des garde-fous sur les choses les plus sérieuses.”
L’événement organisé par l’entreprise et sa participation à Dimon, le porte-parole le plus connu du secteur financier, semblent démontrer l’avance d’Anthropic sur OpenAI sur le marché de l’IA d’entreprise, alors que les deux sociétés se dirigent vers d’éventuelles introductions en bourse.
Anthropic a annoncé mardi une extension de sa plate-forme de companies financiers, comprenant 10 nouveaux brokers d’IA pour la banque d’investissement et le travail de back-office ainsi que l’intégration des différents programmes Workplace de Microsoft. La société a également déclaré que son dernier modèle largement disponible, Claude Opus 4.7, était en tête des références pour les tâches d’analyse financière.
