“Pour pouvoir faire confiance, il faut pouvoir voir ce qui se passe.” Cette maxime apparemment easy est au cœur des déploiements actuels de l’IA dans le paysage industrial, selon Laura Heisman, directrice advertising de Dynatrace.
“C’est probablement la plus grande dialog que tout le monde ait dans tous les secteurs. Nous l’entendons de la half de nos shoppers tous les jours”, a récemment déclaré Heisman lors d’un panel lors de la conférence Brainstorm Tech de Fortune. “La grande query est : pouvez-vous lui faire confiance ? Est-ce bien ? Et si c’est fake, pouvez-vous l’arrêter ?”
Alors que les entreprises envisagent de laisser les brokers d’IA enchaîner des séquences de tâches, chacune basée sur les résultats de modèles d’IA, la confiance est plus importante que jamais. Et selon Heisman et d’autres cooks d’entreprise présents au panel, la seule façon d’instaurer cette confiance est de renforcer la visibilité et le contrôle des systèmes.
“Pour nous, la visibilité et la traçabilité ne sont pas facultatives, elles sont fondamentales. C’est la façon dont nous examinons chaque décision”, a déclaré Nikhil Joshi, directeur de l’data de la division marchés de Citi, le géant financier qui déplace des milliards de {dollars} chaque jour dans plus de 100 pays.
Citi a passé une grande partie de 2024 à construire une base technologique centralisée pour toutes ses purposes et brokers, a déclaré Joshi. Cette base a rendu l’entreprise beaucoup plus à l’aise pour amener des brokers en manufacturing.
« Il n’existe qu’une seule façon de déployer un agent chez Citi, et c’est through ce cadre central », a déclaré Joshi. « Cela signifie que chaque agent est enregistré through ce processus, chaque agent est surveillé, chaque agent est audité, chaque agent est régi. »
À une époque où tout le monde semble se lancer à toute vitesse dans l’IA, le système technologique délibératif et centralisé de Citi pourrait sembler trop conservateur à certains. Mais, a déclaré Joshi, cela vous aide en fait à avancer plus rapidement à lengthy terme. « Être conservateur en matière d’IA n’est pas une mauvaise expression », a-t-il déclaré.
Kathleen Peters, directrice de l’innovation d’Experian, est d’accord et explique remark la société d’évaluation du crédit à la consommation a créé un système pour gérer les différents brokers déployés, en suivant la provenance de chaque agent, l’employé humain qui a créé l’agent et les autorisations spécifiques pour accéder aux données ou effectuer des tâches dont dispose chaque agent.
« Lorsque tous les membres de l’écosystème peuvent comprendre ces éléments, vous construisez la confiance qui vous permet d’évoluer et de fonctionner rapidement », a déclaré Peters.
Dans l’industrie vehicle, où le temps moyen nécessaire pour introduire un nouveau véhicule, de la conception à la manufacturing, peut prendre des années, Ford utilise l’IA pour accélérer certaines events du processus et « échouer rapidement », a déclaré Sammy Omari, directeur exécutif des systèmes avancés d’aide à la conduite et d’infodivertissement embarqué chez Ford Motor Firm.
La clé, a déclaré Omari, est de mettre en place les bonnes barrières de sécurité.
À titre d’exemple, Omari a déclaré que les employés non-ingénieurs tels que les concepteurs peuvent désormais contribuer au code informatique pour les nouvelles fonctionnalités des voitures développées grâce à des outils de « vibecoding » alimentés par l’IA. Cela accélère le temps nécessaire pour voir à quoi ressemble la nouvelle fonctionnalité dans une model d’essai de la voiture, et pour couper rapidement l’appât et passer à autre selected si ce n’est pas un démarreur. Si l’idée s’avère gagnante, les ingénieurs écrivent ensuite le code à partir de zéro, et ce code est intégré à la voiture qui est expédiée aux consommateurs. Le vibecoding du designer n’a servi que de première preuve de idea.
“La vitesse réelle de mise sur le marché va donc s’accélérer”, a déclaré Omari, “mais le processus d’assurance qualité à la fin, avant que nous expédiions réellement quelque selected au consumer, n’a pas nécessairement changé.”
