Qui devrait contrôler l’IA ? Les entreprises qui diffusent cette puissante technologie sont-elles les arbitres de son kind ? Ou ce pouvoir devrait-il être confié au gouvernement ?
Palmer Luckey, fondateur de la société de défense Anduril – qui vise à moderniser l’armée américaine – pense que la réponse est easy : donnez le pouvoir au gouvernement. Dans une récente interview accordée au New York Publish, le fondateur milliardaire s’est prononcé sur un débat naissant autour de la query de savoir qui déterminera remark l’IA est utilisée par le gouvernement.
Pour le milliardaire, c’est au gouvernement, et donc au peuple, de prendre des décisions d’utilisation spécifiques. Autrement, les entreprises technologiques pourraient mettre la démocratie en péril.
« Nous devons nous en tenir à la place selon laquelle tout cela est entre les mains du peuple », a-t-il déclaré. « Quiconque dit qu’une entreprise de défense devrait aller au-delà de la loi, au-delà de ce que disent les législateurs et les dirigeants élus quant aux personnes avec lesquelles ils travailleront ou non, vous dites en fait que vous ne croyez pas à cette expérience démocratique, que vous voulez une « corporatocratie ».
« Dans tous les cas, peu importe à qui le gouvernement des États-Unis me dit que je peux et ne peux pas vendre, a-t-il poursuivi, occuper un autre poste revient à tomber davantage dans… essentiellement des dirigeants d’entreprise qui ont un contrôle de facto sur la politique étrangère américaine. »
Les pensées de Luckey surviennent alors que le PDG d’Anthropic, Dario Amodei, a refusé d’autoriser le Pentagone à utiliser pleinement les systèmes d’IA de l’entreprise pour la surveillance de masse ou pour alimenter des armes entièrement autonomes fonctionnant sans surveillance humaine. En conséquence, le ministère de la Défense a qualifié la société d’IA de « risque pour la chaîne d’approvisionnement », une désignation généralement réservée aux entreprises étrangères antagonistes, comme la société chinoise Huawei. Amodei a déclaré que le label n’aurait pas beaucoup d’influence sur les activités de l’entreprise et qu’elle intenterait une motion en justice pour annuler la désignation. Néanmoins, il reste en dialogue avec le Pentagone concernant l’utilisation de ses modèles et outils d’IA.
Mais Amodei, ainsi que les autres cofondateurs d’Anthropic – qui ont quitté OpenAI ensemble pour créer une entreprise qui, selon eux, donne la priorité à la sécurité de l’IA – soutiennent que ce que demande le Pentagone dépasse les limites. “Ces menaces ne changent pas notre place : nous ne pouvons pas, en toute bonne conscience, accéder à leur demande”, a déclaré Amodei dans un communiqué de presse la semaine dernière.
Anthropic n’a pas immédiatement répondu à la demande de commentaire de Fortune.
Silicon Valley contre Washington
Le ministère de la Défense – et des personnalités comme Luckey – ne pensent pas qu’il appartient à un entrepreneur privé de dicter les cas d’utilisation, et soutiennent plutôt que cela relève des pouvoirs du gouvernement. Peu de temps après l’effondrement de l’accord Anthropic le mois dernier, OpenAI de Sam Altman a conclu un accord avec le Pentagone pour permettre l’utilisation des modèles et outils d’IA de la startup. xAI d’Elon Musk a également conclu un accord pour permettre au Pentagone d’utiliser son IA, ajoutant ainsi de la concurrence au partenariat autrefois exclusif d’Anthropic.
Anthropic n’est pas la première entreprise technologique à s’opposer au DOD. Comme Luckey le observe lors de l’interview, Google a quitté le Pentagone en 2018, se retirant du projet Maven, qui impliquait l’analyse d’photos de drones IA, après que des milliers d’employés ont protesté contre leur implication dans le programme, craignant que cela ne conduise à des armes autonomes.
“Ce que nous aurions eu, c’est un monde dans lequel les dirigeants de la Silicon Valley auraient eu plus de pouvoir en matière de politique étrangère que le président des États-Unis”, a déclaré Luckey. “C’est vraiment, vraiment dangereux.”
Pour Luckey, il s’agit de savoir si les décisions au plus haut niveau sur l’utilisation de l’IA appartiennent à la Silicon Valley ou à Washington. Son level de vue est que, quel que soit le président de la Maison Blanche, les entreprises technologiques et le secteur privé en général ont la responsabilité d’adhérer aux décisions de politique étrangère de cette administration.
Mais même si le conflit Anthropique-Pentagone s’amplifie, Amodei a déclaré jeudi dans un communiqué de presse que les deux events étaient capables de trouver un terrain d’entente. « Anthropic a bien plus de factors communs avec le ministère de la Guerre que de différences », a-t-il déclaré.
