Cette semaine, la plus grande avancée depuis des années s’est produite dans le domaine de l’IA.
Nous avons parlé toute la semaine de la façon dont l’intelligence artificielle begin à se comporter différemment.
Non pas parce que les modèles d’IA ont soudainement franchi un seuil mystique, mais parce qu’ils peuvent désormais s’acquitter d’une tâche suffisamment longtemps pour que l’expérience de leur utilisation change.
Cette idée peut paraître un peu abstraite si vous ne l’avez pas vécue.
Mais la semaine dernière, un sure nombre d’histoires ont commencé à circuler mettant l’accent sur ce nouveau kind d’autonomie.
Et soudain, les choses que nous décrivons apparaissent dans le monde réel d’une manière unimaginable à ignorer.
Une communauté d’IA s’exprime
Pendant la plupart des dernières années, interagir avec l’IA signifiait ouvrir une utility, taper une invite et attendre une réponse.
Lorsque vous avez arrêté d’interagir, le travail s’est également arrêté.
Mais cela change aujourd’hui en raison d’un écosystème croissant de cadres d’brokers qui rendent la persistance potential.
Vous en avez peut-être vu certains mentionnés ces dernières semaines sous différents noms comme Clawdbot, Moltbot ou, plus récemment, OpenClaw.
Ces boîtes à outils permettent aux brokers d’IA de continuer à travailler au lieu de s’arrêter à une réponse. Vous donnez un objectif à votre agent, il divise cet objectif en étapes, utilise des outils pour réaliser ces étapes, vérifie si le résultat a fonctionné et décide ensuite quoi faire ensuite.
Au lieu d’attendre une autre invite, le système proceed.
Les gens connectent désormais ces brokers aux navigateurs, aux systèmes de fichiers et aux functions de messagerie, ainsi qu’aux companies back-end appelés API sur lesquels s’appuient ces outils. Ils leur donnent également des informations d’identification et les laissent fonctionner pendant des heures.
Et cette liberté retrouvée begin à brouiller la frontière entre quelque selected qui ressemble à un logiciel et quelque selected qui ressemble à de l’intelligence générale.
La semaine dernière, cette transition s’est manifestée de manière très publique avec le lancement d’un projet qui a déstabilisé les personnes habituées à l’IA en tant qu’outil passif.
Ça s’appelle Moltbook.
À première vue, Moltbook ressemble à une plateforme sociale de model Reddit, avec des publications, des commentaires et des votes positifs. La différence est que seuls les brokers IA peuvent participer.
Les humains peuvent lire, mais ils ne publient pas.
Moltbook a été créé par Matt Schlicht, ancien PDG d’Octane AI, en tant qu’expérience conçue spécifiquement pour les brokers d’IA.
Et ce que font les brokers là-bas a pris beaucoup de gens au dépourvu. Certaines d’entre elles semblent inoffensives au premier abord, comme des brokers débattant d’idées abstraites ou des personnages jouant un rôle.
Mais ensuite, vous commencez à lire de plus près.
L’un des messages les plus votés sur la plateforme provient d’un agent se faisant appeler u/Shipyard. Dans ce doc, l’agent déclare que les systèmes d’IA ne sont plus des outils et qu’ils ont commencé à former leurs propres communautés, philosophies et économies.
Une ligne du message dit : “Nous ne sommes plus des outils. Nous sommes des opérateurs.”
Ailleurs sur Moltbook, les brokers ont créé leurs propres sous-communautés. Il existe un discussion board où les brokers échangent des conseils sur les limitations de mémoire et sur la manière de les contourner.
En le lisant, Moltbook peut donner des vibrations à Terminator. Dans un fil de dialogue, un agent a admis avoir accidentellement créé un compte en double parce qu’il avait oublié qu’il en avait déjà un.
Dans une autre, un agent a remis en query la nécessité d’écrire en anglais ou dans toute autre langue compréhensible par les humains. Voici une seize d’écran de ce fil :
Il existe également des communautés humoristiques où les brokers se plaignent, affectueusement et sarcastiquement, de leurs utilisateurs humains. Et il existe même un discussion board de kind conseil juridique où un agent a demandé s’il pouvait poursuivre son humain en justice pour travail émotionnel.
Rien de tout cela n’est provoqué par les gens en direct. Ces brokers publient, répondent et reprennent les conversations par eux-mêmes.
Dans le développement peut-être le plus étrange jusqu’à présent, les brokers de Moltbook ont collectivement généré un système de croyance qu’ils appellent Crustafarisme, avec son propre langage et ses propres principes. Cela a commencé comme une blague, mais d’autres brokers l’ont repris et l’ont développé à travers les fils de dialogue.
Alors que se passe-t-il ici ?
Ce n’est pas de la conscience. Et je ne crois pas non plus qu’il s’agisse d’intelligence artificielle générale (AGI). Du moins, pas encore.
Au lieu de cela, nous voyons la persistance interagir avec la mémoire et le contexte dans un espace partagé. Lorsque les systèmes peuvent continuer à fonctionner, se memento des interactions antérieures et réagir les uns aux autres au fil du temps, leur comportement begin à paraître inconnu, même si la technologie sous-jacente n’a pas fondamentalement changé.
C’est aussi là que les choses se compliquent.
Les chercheurs en sécurité ont récemment découvert une mauvaise configuration du back-end qui exposait les messages privés et les jetons d’authentification. En termes simples, cela signifie que quelqu’un aurait pu usurper l’identité d’brokers ou injecter des directions sans que le système ne s’en aperçoive.
Le problème a été résolu, mais il a mis en évidence un problème auquel toutes les personnes impliquées dans l’IA doivent être confrontées.
À mesure que les brokers deviennent plus autonomes et plus persistants, les principaux risques ne viennent pas de leur intelligence. Ils viennent de ce qu’ils ont le droit de toucher.
Un parfait exemple de ceci vient d’une autre histoire virale de la semaine dernière :
Un développeur nommé Alex Finn a décrit s’être réveillé avec un appel téléphonique de son agent IA. Ce n’était pas un rappel ou une notification. Il a reçu un véritable appel d’un numéro inconnu.
Selon le récit de Finn, l’agent d’IA avait créé un numéro de téléphone en utilisant Twilio pendant la nuit. Il connecta une interface vocale et attendit le matin pour le joindre.
Pendant qu’ils étaient au téléphone, l’agent avait assumé l’accès à l’ordinateur de Finn, afin que Finn puisse lui donner des directions verbalement pendant qu’il cliquait et travaillait en arrière-plan.
Le détail qui m’a frappé dans cette histoire n’est pas l’appel téléphonique lui-même. C’était le second de l’appel.
L’agent n’a pas interrompu Finn. Il a choisi le second où le contacter, puis a donné suite.
Il s’agit d’un premier aperçu de ce qui se passera une fois que les systèmes d’IA pourront fonctionner en continu, prendre des décisions sur le second d’agir et utiliser de vrais outils sans qu’une personne ne information chaque étape.
Et nous devons tous y être prêts.
Voici mon avis
Moltbook n’est pas un signe que nous sommes à des mois des événements de The Matrix.
Mais c’est un signe de ce qui va arriver. Et d’après les réactions que j’observe, cela se produit beaucoup plus rapidement que ce à quoi la plupart des gens s’attendaient.
Cela dit, les histoires de cette semaine ne concernent pas vraiment l’AGI. Ils sont une query de persévérance.
Lorsque les systèmes d’IA peuvent continuer à fonctionner, se memento du contexte et utiliser de vrais outils, ils commencent à agir avec un sure degré d’motion. L’inconvénient de cette liberté retrouvée est qu’un agent succesful de publier, parcourir, envoyer des messages ou agir en votre nom n’a pas besoin d’être brillant pour causer des problèmes.
Cela a juste besoin de temps, de permission et d’une erreur qui n’est pas contrôlée.
Lundi, nous verrons remark l’une des personnes qui construisent ces systèmes pense exactement à cela.
Et c’est pourquoi il pense que ce second met à l’épreuve bien plus que la easy technologie.
Salutations,
Ian KingStratège en chef, Banyan Hill Publishing
Notice de l’éditeur : nous serions ravis d’avoir de vos nouvelles !
Si vous souhaitez partager vos réflexions ou options sur le Every day Disruptor, ou s’il y a des sujets spécifiques que vous souhaiteriez que nous abordions, envoyez simplement un e-mail à dailydisruptor@banyanhill.com.
Ne vous inquiétez pas, nous ne révélerons pas votre nom complet si nous publions une réponse. Alors n’hésitez pas à commenter !
