Lorsque Salesforce a récemment déployé un agent d’IA sur son web site Internet, l’agent a commencé à halluciner et n’a pas donné de résultats cohérents.
Salesforce a fini par l’éteindre temporairement, Shibani Ahuja, vice-président directeur de la stratégie informatique de l’entreprise, a déclaré lors d’une desk ronde à la conférence Brainstorm Tech de Fortune à Park Metropolis, Utah.
Mais l’agent, s’est avéré, n’était pas le problème. “Ce que nous avions remarqué, c’est qu’il y avait un problème sous-jacent avec nos données”, a déclaré Ahuja. Lorsque son équipe a enquêté sur ce qui s’était passé, ils ont constaté que Salesforce avait publié des «articles de connaissance» contradictoires sur son web site Internet.
“Ce n’était pas vraiment l’agent. C’est l’agent qui nous a aidés à identifier un problème qui a toujours existé”, a déclaré Ahuja. “Nous l’avons transformé en un agent d’auditeur qui a réellement vérifié notre contenu sur notre web site public pour des anomalies. Une fois que nous avions nettoyé nos données sous-jacentes, nous l’avons signalé et cela a été fonctionnel.”
De nouveaux produits d’IA ne seront aussi bons que les données sous-jacentes, selon Ahuja et d’autres orateurs qui ont participé à la dialogue. Ashok Srivastava, vice-présidente principale et chef de l’IA chez Intuit, a déclaré qu’il n’était pas surpris des résultats d’une récente étude du MIT qui a révélé que 95% des pilotes d’IA dans de grandes sociétés avaient échoué, en raison des systèmes archaïques dans de grandes entreprises.
“Le fait est que le fondement de l’IA – qui est des données – les gens ne y investissent pas”, a déclaré Srivastava. “Donc, vous avez des données des années 1990 dans une base de données tremendous coûteuse et anonyme ici, vous avez l’IA ici, vous avez le PDG qui vous a dit de faire quelque selected, et ça ne fonctionnera pas.”
Sean Bruich, vice-président directeur de l’intelligence artificielle et des données chez Amgen, a ajouté qu’il est également difficile pour les grandes sociétés de passer d’un pilote à l’adoption à l’échelle de l’entreprise.
“Les pilotes dans les grandes entreprises ne livrent jamais le retour sur investissement”, a-t-il déclaré. «Ils pourraient fournir des apprentissages, ils pourraient fournir des factors de preuve, ils pourraient s’inspirer. Mais la voie à l’échelle – c’est là que vous obtenez le retour sur investissement dans tout programme de applied sciences importants.»
Pour que les entreprises voient un retour sur investissement de nouveaux outils d’IA, ils devront trier à la fois les données et le problème de mise à l’échelle.


-1024x683.jpg)










