Quand l’IA négocie, qui est responsable ?

Lorsque les décisions découlent du comportement du système plutôt que des directions humaines, la responsabilité devient plus complexe, mais non moins cruciale. Les gestionnaires de portefeuille restent responsables des résultats, même si les décisions quotidiennes sont intégrées dans la logique des brokers plutôt que dans les tickets de transaction. Les responsables du risque abandonnent les rapports rétrospectifs pour se tourner vers la conception de garde-fous, les exams de résistance et la surveillance comportementale prospectifs. La query clé n’est plus « Qu’a fait le Premier ministre hier ? » mais “Qu’est-ce que le système est autorisé à faire demain ?”

Les comités d’investissement évoluent vers des méta-décisions : déterminer où l’autonomie est acceptable, remark elle est contrôlée et quelles preuves sont requises avant de l’étendre. Les équipes de gouvernance des modèles deviennent des gardiens fiduciaires, responsables non seulement de la validation des modèles, mais également de la validation de systèmes de décision entiers : leurs objectifs, contraintes, modes de défaillance et processus de contrôle des changements.

Prenons un scénario dans lequel un portefeuille crée progressivement un risque de focus involontaire. Aucune transaction individuelle ne dépasse les limites, mais le risque s’accumule au fil du temps. Les performances se détériorent et des questions se posent : qui est responsable ?

Le code d’éthique et les normes de conduite professionnelle du CFA Institute exigent que ses membres agissent avec loyauté, prudence et prudence, et qu’ils disposent d’une base raisonnable et adéquate pour leurs actions d’investissement. Ces obligations ne diminuent pas lorsque l’agent initiateur est une machine. Mais la notion de « base raisonnable » se déplace, passant de la logique commerciale à la logique de conception du système. Dans un environnement agentique, la responsabilité ne disparaît pas. Il est réparti entre la conception, l’approbation et la surveillance.