Graphique de la semaine : l’IA vient de révéler un énorme problème logiciel caché

Quand j’ai écrit pour la première fois sur Mythos, le nouveau système de sécurité IA d’Anthropicla plupart des gens n’avaient aucun moyen de juger de sa valeur.

Anthropic a déclaré que Mythos pourrait aider à détecter de graves vulnérabilités logicielles avant les attaquants. Mais la société a refusé de le rendre public, craignant que des pirates informatiques n’en abusent.

Cela nous a amenés à nous demander si Mythos était une avancée révolutionnaire pour l’IA agentique…

Ou juste une autre annonce de produit impressionnante et sans substance.

Le graphique de cette semaine semble nous fournir la réponse.

La bosse du mythe

Notre graphique de la semaine vient de Mozilla, l’organisation derrière le navigateur Firefox.

Comme vous pouvez le constater, il swimsuit chaque mois le nombre de failles de sécurité corrigées dans Firefox.

Picture : Mozilla

Et le pic sur le côté droit du graphique est époustouflant.

Mozilla affirme qu’après avoir intégré des systèmes de sécurité basés sur l’IA, notamment les outils Mythos d’Anthropic, les correctifs de sécurité de Firefox ont atteint plus de 400 vulnérabilités en avril.

C’est considérablement plus élevé que les niveaux que l’entreprise avait connu auparavant.

Ce qui rend ce graphique particulièrement intéressant, c’est que Firefox est déjà l’un des projets open supply les plus audités au monde. Son code est constamment révisé par des ingénieurs professionnels, des chercheurs externes et des systèmes de exams automatisés.

Pourtant, ces nouveaux outils d’IA – en particulier Mythos – ont réussi à découvrir des centaines de vulnérabilités supplémentaires en un seul mois, y compris des bugs qui auraient existé inaperçus pendant plus d’une décennie.

Pour moi, c’est l’un des signes les plus clairs à ce jour l’intelligence artificielle va au-delà des simples chatbots et copilotes.

Il s’agit d’une IA qui participe à des travaux de cybersécurité hautement methods au sein de l’une des plates-formes logicielles les plus importantes au monde.

La cybersécurité est exactement le style de domaine dans lequel l’IA peut avoir un influence énorme très rapidement.

En effet, les écosystèmes logiciels modernes contiennent des milliards de lignes de code réparties sur les navigateurs, les plateformes cloud, les systèmes d’exploitation, les infrastructures industrielles et les réseaux financiers.

Les ingénieurs humains ne peuvent tout simplement pas inspecter tout ce code assez rapidement par eux-mêmes.

Mais l’IA le peut.

Cela signifie que les systèmes d’IA pourraient bientôt analyser d’énormes quantités de logiciels à la recherche de vulnérabilités, 24 heures sur 24, ce qui devrait rendre les logiciels considérablement plus sûrs au fil du temps.

Mais cela soulève également une possibilité inconfortable.

Si les systèmes d’IA découvrent soudainement autant de vulnérabilités cachées dans Firefox, que se passera-t-il lorsqu’ils commenceront à analyser les logiciels vieillissants qui gèrent les banques, les hôpitaux, les companies publics et les réseaux de transport ?

C’est quelque selected dont nous devrions tous nous préoccuper. Parce que nous avons déjà vu ce qui peut arriver lorsque des vulnérabilités logicielles cachées passent inaperçues.

L’un des pires exemples est l’attaque du ransomware WannaCry de 2017, qui a exploité une faille dans les anciens systèmes Home windows et s’est propagée dans plus de 150 pays en quelques heures.

Il a contraint les hôpitaux du Royaume-Uni à détourner les ambulances, provoqué la fermeture temporaire d’usines et perturbé les principaux réseaux de transport.

Les chercheurs ont ensuite estimé que l’attaque avait causé environ 4 milliards de {dollars} de dommages à l’échelle mondiale.

Cette attaque était construite autour d’une seule vulnérabilité connue.

Imaginez maintenant ce qui se passerait lorsque les systèmes d’IA seraient capables de découvrir des milliers de faiblesses cachées dans une infrastructure logicielle vieillissante plus rapidement que les chercheurs humains ne pourraient les corriger.

Nous pourrions parler d’un événement de kind cygne noir aux proportions épiques.

Voici mon avis

Lorsqu’Anthropic a présenté Mythos, il aurait été facile de le rejeter comme une autre annonce hyperbolique de l’IA.

Le graphique de cette semaine suggère qu’il s’agit de quelque selected de bien plus vital.

Pour moi, les données de Mozilla semblent être une preuve solide que les systèmes d’IA commencent à produire des résultats concrets significatifs au-delà des chatbots et des générateurs d’photographs.

Et la cybersécurité n’est probablement qu’un début.

Les écosystèmes logiciels modernes sont tout simplement devenus trop vastes et trop complexes pour que des équipes humaines puissent les surveiller parfaitement par elles-mêmes.

L’IA change cette équation.

Et si ces systèmes peuvent déjà découvrir des centaines de failles cachées dans l’un des navigateurs les plus audités au monde, imaginez ce qu’ils pourraient éventuellement faire dans des secteurs comme l’ingénierie, la logistique, les infrastructures ou la médecine.

C’est pourquoi je soupçonne que nous sous-estimons encore tous la rapidité avec laquelle l’IA pourrait bouleverser l’économie.

Salutations,

Ian KingStratège en chef, Banyan Hill Publishing

Observe de l’éditeur : nous serions ravis d’avoir de vos nouvelles !

Si vous souhaitez partager vos réflexions ou options sur le Day by day Disruptor, ou s’il y a des sujets spécifiques que vous souhaiteriez que nous abordions, envoyez simplement un e-mail à dailydisruptor@banyanhill.com.

Ne vous inquiétez pas, nous ne révélerons pas votre nom complet si nous publions une réponse. Alors n’hésitez pas à commenter !