Alex Karp, PDG de Palantir, à propos de la querelle Anthropic-DoD : « Jamais un sens » L’IA pourrait être utilisée pour la surveillance américaine

Palantir, la plateforme d’analyse de données et d’intelligence artificielle basée à Miami, est un fournisseur de logiciels clé pour le ministère de la Défense et le principal canal par lequel le ministère utilise le grand modèle de langage d’Anthropic, Claude.

“Nous sommes légitimement toujours au milieu de tout cela”, a déclaré jeudi le PDG Alex Karp dans une interview accordée à Fortune en marge de la conférence AIP semestrielle de la société. “C’est notre stack qui exécute les LLM.”

Karp dit qu’il a participé à de nombreuses discussions avec toutes les events impliquées – discussions sur lesquelles il a refusé de donner des détails, automotive il dit qu’il ne veut pas « interrompre les conversations » ou « dénigrer les gens ».

Mais Karp tient à préciser une selected : le ministère de la Défense n’utilise pas l’IA pour la surveillance de masse des citoyens américains – et, à sa connaissance, il n’a pas l’intention de le faire.

« Sans commenter les dialogues internes, nous n’avons jamais eu l’impression que ces produits seraient utilisés au niveau nationwide », a déclaré Karp. “Le ministère de la Guerre n’envisage pas d’utiliser ces produits au niveau nationwide. C’est une tout autre affaire… Les termes souhaités par le ministère de la Guerre sont entièrement axés sur les citoyens non américains dans un contexte de guerre.”

Palantir a une vaste activité en travaillant pour le gouvernement américain, y compris le DoD. Anthropic s’est associé à Palantir en 2024 pour proposer sa technologie d’IA au DoD by way of Palantir. Anthropic a également commencé à travailler directement avec le DoD l’année dernière pour créer une model de sa technologie conçue pour le ministère de la Défense.

Les échanges controversés entre Anthropic et le ministère de la Défense durent depuis janvier environ, et les deux events ne sont pas d’accord sur ce qui les a déclenchés. Les déclarations faites la semaine dernière par le sous-secrétaire à la Défense pour la Recherche et l’Ingénierie, Emil Michael, allèguent que Palantir aurait informé le Pentagone qu’Anthropic cherchait à savoir si ses modèles avaient été utilisés pour la mission militaire américaine visant à capturer le président vénézuélien Nicolás Maduro. (Anthropic a réfuté cette caractérisation, affirmant qu’elle n’avait pas discuté de l’utilisation de Claude pour des opérations spécifiques « avec des partenaires industriels, y compris Palantir, en dehors des discussions de routine sur des questions strictement methods »). Depuis, les deux events se disputent pour savoir si Anthropic peut inscrire des limites contractuelles sur la manière dont ses modèles sont utilisés.

Le PDG d’Anthropic, Dario Amodei, a publié plusieurs articles de weblog sur le sujet, y compris une première déclaration fin février affirmant que le ministère de la Défense avait refusé d’accepter des garanties selon lesquelles ses LLM ne seraient pas utilisés pour la surveillance de masse nationale ou le déploiement d’armes entièrement autonomes. Pete Hegseth, le secrétaire à la Défense, a ensuite qualifié Anthropic de « risque pour la chaîne d’approvisionnement », menaçant de nombreuses relations commerciales de l’entreprise et incitant Anthropic à poursuivre le Pentagone en justice pour cette désignation.

« Totalement favorable » aux circumstances d’engagement nationales

Palantir, qui a été financé dès le début par la branche capital-risque de la CIA et dont le logiciel a été utilisé dans les efforts de lutte contre le terrorisme à l’étranger, a longtemps été accusé d’aider le gouvernement et les agences de renseignement à espionner des civils et des suspects nationaux potentiels. Karp a réfuté à plusieurs reprises ces affirmations depuis plus d’une décennie et a parlé de l’significance de mettre en place des garde-fous methods autour de la technologie qui pourrait être utilisée aux États-Unis pour la surveillance intérieure. Palantir a créé très tôt une équipe « Vie privée et libertés civiles » – un groupe interdisciplinaire d’ingénieurs, d’avocats, de philosophes et de spécialistes des sciences sociales – chargé d’intégrer des fonctionnalités de safety de la vie privée dans ses produits et de favoriser une tradition d’utilisation responsable. L’équipe a aidé à mettre en place des canaux internes, notamment une ligne d’help téléphonique en matière d’éthique, permettant aux employés de signaler les travaux qu’ils considéraient comme dépassant les limites de l’éthique.

Les groupes de défense des libertés civiles continuent cependant d’accuser l’entreprise de faire le contraire : en aidant le gouvernement à surveiller. Les relations de l’entreprise avec les autorités américaines de l’immigration et des douanes, en particulier, qui ont débuté sous l’administration Obama, ont suscité un examen minutieux et des critiques intenses de la half des critiques externes et des propres employés de l’entreprise – critiques qui n’ont fait que s’intensifier au cours de l’année dernière lorsque l’administration Trump a poussé l’ICE à mener une répression agressive dans des villes comme Minneapolis.

Karp a déclaré à Fortune qu’il était « très wise aux arguments contre l’utilisation de ces produits aux États-Unis » et s’est dit « totalement favorable » à la définition de circumstances d’engagement et de limites à la manière dont les agences nationales peuvent utiliser l’intelligence artificielle.

« Franchement, je pense que nous devrions les imposer nous-mêmes », a déclaré Karp à propos de ces circumstances d’engagement. « La Vallée devrait avoir un consortium : c’est ce que nous allons faire, et c’est ce que nous n’allons pas faire », a-t-il déclaré.

Mais Karp a établi une distinction nette entre la query de savoir si les entreprises technologiques devraient fixer leurs circumstances avec les agences nationales et si elles devraient les définir avec le ministère de la Défense, qui se concentre principalement sur la gestion des relations des États-Unis avec d’autres pays et leurs adversaires.

“Ce dont nous parlons maintenant, c’est d’utiliser des produits contre quelqu’un qui essaie de tuer nos militaires”, a déclaré Karp, notant qu’il soutient personnellement une “massive licence” d’utilisation pour le ministère de la Défense en particulier.

« Si nous savions que la Chine, la Russie et l’Iran ne les construiraient pas, je serais favorable à des contraintes juridiques très lourdes, très lourdes », a déclaré Karp. Mais il souligne que les adversaires américains les construiront et les utiliseront de toute façon contre les États-Unis. “Je ne pense pas que ce soit une opinion. Je pense que c’est un fait, et ce fait signifie que je pense que le ministère de la Guerre devrait avoir une massive licence pour utiliser ces produits.”