Musk contre Altman : la sécurité de l’IA ne peut pas être l’affaire d’un seul homme

Supprimez la querelle, les demandes de dommages-intérêts, le charisme du duel. Ce que ces deux hommes offraient, chacun à sa manière, était la promesse que leur gestion personnelle assurerait la sécurité de l’intelligence artificielle pour le reste d’entre nous. Musk a déclaré qu’Altman avait volé un organisme de bienfaisance. Altman a déclaré que Musk était un co-fondateur blessé qui ne supportait pas de perdre le contrôle. Les deux arguments reposaient sur la même hypothèse cachée. L’avenir de l’IA dépend de la présence du bon milliardaire dans la salle.

Cette hypothèse constitue le véritable problème, et le tribunal d’Oakland ne peut pas le résoudre.

Considérez ce que le procès a obscurci. OpenAI a commencé comme une organisation à however non lucratif. Il s’appuyait sur une filiale à bénéfices plafonnés. Elle s’est transformée en société d’utilité publique. Cela pourrait bientôt tester les marchés publics. Chaque forme était vendue comme une garantie que la mission contraindrait le capital. Chaque forme s’est effondrée sous le poids du capital dont elle avait besoin pour fonctionner. La preuve la plus claire est le licenciement d’Altman en novembre 2023 par son propre conseil d’administration à however non lucratif. Le conseil d’administration l’a licencié un vendredi. Lundi, Microsoft et sept cents employés étaient revenus sur cette décision. La charte du conseil d’administration disait une selected. La capitale en a dit un autre. La capitale a gagné.

C’est le monde dans lequel nous vivons actuellement. Les décisions les plus importantes sur la manière dont l’intelligence artificielle est développée, déployée et limitée sont prises au sein d’une poignée d’entreprises privées. Le Congrès et le pouvoir exécutif ne peuvent pas suivre le rythme de cette technologie. Même au sommet de leur forme, aucun des deux ne pouvait rédiger des lois assez rapidement pour le régir. Et ni l’un ni l’autre n’est au sommet de sa forme. Les régulateurs ont des années de retard. Dans ce vide, les entreprises se sont déplacées. Ils rédigent des politiques de sécurité, publient des fiches modèles, constituent des équipes rouges et des cadres de divulgation. C’est ici que s’élaborent les véritables règles de l’IA.

L’essai nous a offert le choix entre deux variations d’une même réponse erronée. Musk voulait démanteler la branche à however lucratif d’OpenAI et supprimer Altman, rétablissant ainsi une pureté à however non lucratif que les exigences en capitaux de la technologie avaient déjà rendue unimaginable. Altman voulait une justification pour le chemin qui a donné naissance à l’entreprise d’IA la plus précieuse au monde et qui a également produit les échecs de gouvernance que l’organisation à however non lucratif était censée prévenir. Choisissez-en un, et vous disposez toujours d’un système dans lequel la sécurité d’une technologie transformatrice dépend du bon jugement de la bonne personne un mardi particulier. Les bonnes intentions ne sont pas une construction de gouvernance.

Nous pouvons faire mieux, et la réponse n’est pas de prétendre que le Congrès arrivera à temps. Les entreprises constituent désormais le principal discussion board dans lequel les règles de l’IA sont rédigées. La tâche consiste à exiger qu’ils écrivent correctement ces règles.

C’est ce dont la gouvernance de l’IA a besoin. Trois choses en particulier. Premièrement, le choix politique. Les entreprises d’IA devraient définir leurs politiques de sécurité par le biais d’un processus structuré et clear, avec la contribution d’consultants documentés, des décideurs identifiés et des justifications raisonnées, et non par un pouvoir discrétionnaire effréné exercé au cas par cas. Deuxièmement, une motion organisée. Ces politiques devraient être mises en œuvre dans le cadre de responsabilités opérationnelles clairement attribuées, les officiers supérieurs étant responsables lorsque les seuils de capacité sont franchis. Troisièmement, la surveillance. Les entreprises doivent vérifier leur propre conformité et rendre compte des résultats à un comité du conseil d’administration doté de l’indépendance et de l’experience nécessaires pour agir.

Rien de tout cela n’oblige le Congrès à décider ce que l’IA devrait ou ne devrait pas faire. Il faut que la loi garantisse que les personnes qui décident au sein de l’entreprise le fassent selon un processus à la hauteur de l’enjeu. Appelez cela une norme de jugement en matière d’entreprise sociale. Les tribunaux évaluent déjà si un conseil d’administration a pris son travail au sérieux lorsqu’il a vendu l’entreprise ou licencié le PDG. Ils peuvent apprendre à faire de même pour les décisions qui définiront la prochaine génération de technologie.

La forme sociale, à elle seule, ne nous sauvera pas. Une charte à however non lucratif n’a pas sauvé la mission d’OpenAI. Une société d’utilité publique ne sauvera pas la suivante. Le jury d’Oakland a demandé si Elon Musk avait été lésé. La meilleure query est de savoir si le reste d’entre nous l’a été. Deux milliardaires se sont proposés comme garants de la sécurité de l’IA. Nous n’aurons jamais été aussi en sécurité de cette façon.

Les entreprises écrivent les règles de l’IA. Le travail de la loi est de discipliner la façon dont ils écrivent.

Les opinions exprimées dans les commentaires de Fortune.com sont uniquement les opinions de leurs auteurs et ne reflètent pas nécessairement les opinions et croyances de Fortune.