Je ne suis pas un opposant à la technologie. Loin de là. Mais nous recommençons.
Une nouvelle ère technologique démarre. L’IA remodèle les économies, les industries et la gouvernance. Et tout comme la dernière fois, nous avançons vite, cassons des objets et construisons l’avion tout en le pilotant (pour utiliser quelques expressions methods courantes). Ces mantras ont stimulé l’innovation, mais nous en subissons désormais les conséquences imprévues.
Pendant plus d’une décennie, j’ai travaillé dans la salle des machines de la révolution des médias sociaux, d’abord au sein du gouvernement américain, puis chez Twitter et Meta. J’ai dirigé des équipes auprès de gouvernements du monde entier alors qu’ils étaient aux prises avec des plateformes qu’ils ne comprenaient pas. Au début, c’était enivrant. La technologie a évolué plus rapidement que les establishments ne pouvaient suivre. Puis sont apparus les problèmes : désinformation, biais algorithmiques, polarisation, manipulation politique. Au second où nous avons essayé de le réglementer, il était trop tard. Ces plateformes étaient trop grandes, trop intégrées, trop essentielles.
La leçon ? Si vous attendez qu’une technologie soit omniprésente pour penser à la sécurité, à la gouvernance et à la confiance, vous avez déjà perdu le contrôle. Et pourtant, nous sommes sur le level de répéter les mêmes erreurs avec l’IA.
La nouvelle infrastructure du renseignement
Pendant des années, l’IA a été considérée comme un problème technologique. Pas plus. Il devient le substrat de tout, de l’énergie à la défense. Les modèles sous-jacents s’améliorent, les coûts de déploiement diminuent et les enjeux augmentent.
Les mêmes mantras sont de retour : construire vite, lancer tôt, évoluer de manière agressive, gagner la course. Seulement maintenant, nous ne perturbons pas les médias, mais réinventons l’infrastructure de base de la société.
L’IA n’est pas qu’un produit. C’est un service public. Il façonne la manière dont les ressources sont allouées, dont les décisions sont prises et dont les establishments fonctionnent. Les conséquences d’une erreur sont exponentiellement plus importantes qu’avec les médias sociaux.
Certains risques semblent étrangement familiers. Modèles formés sur des données opaques sans surveillance externe. Algorithmes optimisés pour la efficiency plutôt que la sécurité. Des systèmes fermés prenant des décisions que nous ne comprenons pas entièrement. La gouvernance mondiale est nulle alors que les capitaux circulent plus vite que la réglementation.
Et encore une fois, le discours dominant est le suivant : « Nous le découvrirons au fur et à mesure. »
Nous avons besoin d’un nouveau manuel de jeu
Le modèle de l’ère des médias sociaux consistant à agir vite, demander pardon et résister à la surveillance ne fonctionnera pas pour l’IA. Nous avons vu ce qui se produit lorsque les plateformes évoluent plus rapidement que les establishments censées les gouverner.
Cette fois, les enjeux sont plus importants. Les systèmes d’IA ne servent pas seulement à assurer la communication. Ils commencent à influencer la réalité, depuis la manière dont l’énergie est transférée jusqu’à la manière dont les infrastructures sont allouées pendant les crises.
L’énergie comme étude de cas
L’énergie est le meilleur exemple d’une industrie où les infrastructures sont le destin. C’est complexe, réglementé, essentiel à la mission et mondial. C’est le secteur qui permettra ou limitera la prochaine section de l’IA.
Les racks IA dans les centres de données consomment 10 à 50 fois plus d’énergie que les systèmes traditionnels. La formation d’un grand modèle nécessite la même énergie que 120 foyers consomment chaque année. Les costs de travail de l’IA devraient entraîner une multiplication par 2 à 3 de la demande mondiale en électricité des centres de données d’ici 2030.
L’IA est déjà intégrée dans des systèmes optimisant les réseaux, prévoyant les pannes et intégrant les énergies renouvelables. Mais sans les oublis appropriés, nous pourrions être confrontés à des scénarios dans lesquels les systèmes d’IA donnent la priorité aux purchasers industriels plutôt qu’aux zones résidentielles pendant les pics de demande. Ou des crises où l’IA prend des milliers de décisions rapides lors de conditions d’urgence qui laissent des régions entières sans électricité et où personne ne peut expliquer pourquoi ni contourner le système. Il ne s’agit pas de choisir son camp. Il s’agit de concevoir des systèmes qui fonctionnent ensemble, de manière sûre et transparente.
Ne répétez pas le passé
Nous sommes encore en avance. Nous avons le temps de façonner les systèmes qui régiront cette technologie. Mais cette fenêtre se ferme. Nous devons donc agir différemment.
Nous devons comprendre que les buildings d’incitation façonnent les résultats de manière invisible. Si les modèles privilégient l’efficacité sans garanties, nous risquons de créer des systèmes qui renforcent les biais ou poussent la fiabilité à l’extrême jusqu’à ce que quelque selected se brise.
Nous devons gouverner depuis le début, pas jusqu’à la fin. La réglementation ne devrait pas être une resolution rétroactive mais un principe de conception.
Nous devons traiter les infrastructures comme des infrastructures. Les centres d’énergie, de calcul et de données doivent être construits dans une perspective de gouvernance à lengthy terme et non d’optimisation à court docket terme.
Nous ne pouvons pas précipiter les systèmes critiques sans checks robustes, sans équipe rouge et sans audit. Une fois intégré à grande échelle, il est presque unattainable d’inverser des choix de conception nuisibles.
Nous devons aligner les acteurs publics, privés et mondiaux, ce qui peut être réalisé grâce à des événements véritablement intersectoriels comme l’ADIPEC, une plateforme énergétique mondiale qui rassemble les gouvernements, les entreprises énergétiques et les innovateurs technologiques pour débattre et discuter de l’avenir de l’énergie et de l’IA.
Aucune entreprise ni aucun pays ne peut résoudre ce problème seul. Nous avons besoin de normes communes et de systèmes interopérables qui peuvent évoluer au fil du temps. La révolution des médias sociaux a montré ce qui se produit lorsque l’innovation dépasse les establishments. Avec l’IA, nous pouvons choisir une voie différente. Oui, nous irons vite. Mais ne brisons pas les systèmes dont nous dépendons. Parce que cette fois, nous ne construisons pas seulement des réseaux. Nous construisons les prochaines fondations du monde moderne.
Les opinions exprimées dans les commentaires de Fortune.com sont uniquement les opinions de leurs auteurs et ne reflètent pas nécessairement les opinions et croyances de Fortune.
