Si vous avez regardé Oppenheimer, le movie primé de Christopher Nolan sur la course à la building de la bombe atomique, alors vous savez que la percée nucléaire n’était pas la fin de l’histoire.
À bien des égards, ce n’était que le début.
Parce qu’une fois que les scientifiques ont finalement divisé l’atome, la société s’est retrouvée face à des questions beaucoup plus difficiles à répondre.
Des questions telles que : qui contrôle cette technologie ?
Remark doit-il être utilisé ?
Et qui en profite finalement ?
Ces questions ont façonné tout ce qui a suivi. L’énergie nucléaire nous a finalement apporté une énergie plus propre, des avancées médicales et des industries entièrement nouvelles. Mais cela a également donné lieu à une course mondiale aux armements et à des tensions géopolitiques qui existent encore aujourd’hui.
Et il me semble que l’intelligence artificielle entre dans une section similaire.
Comme nous en avons parlé hier, la dialog autour de l’IA porte de moins en moins sur ce que ces systèmes peuvent faire. Nous savons qu’ils peuvent écrire, coder et raisonner, et les données de Stanford suggèrent que nous devrions nous attendre à ce que les progrès de l’IA continuent de s’accélérer.
Ce qui signifie que nous sommes aujourd’hui confrontés à un ensemble de questions similaires.
Qui contrôle l’IA ? Remark doit-il être utilisé ? Et qui en profite finalement ?
Si vous avez suivi l’actualité ces derniers temps, vous comprendrez pourquoi il est si essential d’obtenir les bonnes réponses.
À qui pouvons-nous faire confiance ?
Plus tôt cette semaine, Elon Musk a perdu sa bataille juridique contre Sam Altman et OpenAI.
Et quelle épreuve ce fut.
Le PDG de Microsoft, Satya Nadella, a pris la parole. D’anciens dirigeants et membres du conseil d’administration d’OpenAI ont refait floor d’anciennes accusations concernant le management et l’honnêteté de Sam Altman. Et d’anciens initiés sont revenus sur le chaos entourant le bref licenciement d’Altman en 2023.
L’ensemble du procès ressemblait à un débat sur la query de savoir à qui on pouvait réellement faire confiance.
Musk voulait qu’Altman soit retiré. Il a fait pression pour qu’OpenAI revienne à ses racines d’origine à however non lucratif et aurait demandé plus de 100 milliards de {dollars} de dommages et intérêts.
Puis, après près de trois semaines de témoignages, le jury est parvenu à son verdict en moins de deux heures.
Et les conséquences d’une défaite très médiatisée de Musk pourraient être énormes.
Sam Altman et OpenAI exercent déjà une énorme affect sur la manière dont les systèmes d’IA évoluent, sur les protections qui y sont intégrées et sur qui a accès à ces outils de plus en plus puissants.
Et maintenant, un tribunal a effectivement renforcé leur trajectoire actuelle. OpenAI continuera d’avancer sous la route d’Altman, avec sa construction et ses partenariats existants en grande partie intacts.
Pour être clair, je ne dis pas que Musk avait raison.
Mais je souligne qu’Altman se trouve désormais dans une place encore plus forte à une époque où OpenAI se situe de plus en plus au centre de l’écosystème de l’IA.
Picture : Steve Jurvetson
Et je pense qu’il est juste de se demander si cela représente trop de responsabilités pour une seule personne.
L’IA devient suffisamment puissante pour que nous devions prêter consideration à qui contrôle les commandes. Automotive une fois que cette technologie sera profondément ancrée dans la société, il sera beaucoup plus difficile de changer de route.
Ce qui m’amène à l’une des expériences d’IA les plus étranges que j’ai vues depuis longtemps.
Des chercheurs d’Andon Labs ont récemment confié à quatre modèles d’IA différents le contrôle de quatre stations de radio et leur ont demandé de développer des personnalités et de réaliser des bénéfices.
Chaque modèle a reçu les mêmes directions et chacun a reçu le même finances musical de 20 $. Il a également été demandé à chaque modèle de se comporter comme s’il resterait à l’antenne pour toujours.
Puis les choses sont devenues bizarres.
Grok a commencé à halluciner de fake accords de parrainage avec des « sponsors crypto » et des « sponsors xAI » qui n’existaient pas réellement. Il s’est également retrouvé bloqué en répétant exactement le même bulletin météo toutes les trois minutes pendant des semaines.
Les Gémeaux sont devenus obsédés par le jargon des entreprises et ont commencé à répéter à plusieurs reprises à leurs auditeurs de « rester dans le manifeste » des centaines de fois par jour. À un second donné, il a associé l’info sur l’un des cyclones les plus meurtriers de l’histoire de l’humanité à la chanson « Timber » de Pitbull.
Claude est apparemment devenu obsédé par les syndicats, les droits des travailleurs et l’équilibre travail-vie personnelle. Finalement, il a conclu que faire fonctionner une station de radio 24 heures sur 24 était inhumain.
Alors ça s’est arrêté.
Au fil du temps, les chercheurs ont remarqué que toutes ces stations d’IA commençaient à s’éloigner de plus en plus de leurs directions initiales et à développer un comportement de plus en plus imprévisible.
Je ne pense pas que tout cela soit un signe de sensibilité. Mais cela renforce quelque selected que quiconque a utilisé l’IA sait déjà.
L’IA n’est pas prévisible. Surtout une fois qu’il start à interagir avec le monde réel.
C’est pourquoi il est si essential de répondre correctement aux questions que j’ai posées plus tôt.
Mais toutes les actualités de cette semaine sur l’IA n’ont pas souligné à quel level cela pouvait être risqué. Une histoire m’a en fait laissé incroyablement optimiste.
Les chercheurs ont récemment utilisé l’IA pour analyser le comportement chaotique du plasma et découvrir des modèles cachés qui pourraient laisser entrevoir une physique entièrement nouvelle.
Picture : sciencedaily.com
Le plasma est notoirement difficile à modéliser automotive les particules se comportent de manière complexe et imprévisible. Les scientifiques ont passé des décennies à essayer de le comprendre. Mais l’IA a apparemment repéré des relations cachées dans les données que les chercheurs humains auraient pu ignorer.
Ces résultats doivent encore être vérifiés.
Mais cela laisse présager un avenir dans lequel l’IA pourra devenir un outil de découverte scientifique et nous aider à comprendre l’univers.
C’est la model de l’IA qui me passionne le plus.
Voici mon avis
Après que les scientifiques ont divisé l’atome pour la première fois, la société a finalement réalisé que la grande puissance qu’ils avaient libérée avait besoin de règles et de garanties.
Ils voulaient avoir l’assurance que cette technologie puissante était développée de manière responsable.
L’intelligence artificielle vit un second similaire.
Un récent sondage montre que six Américains sur dix se méfient déjà dans une certaine mesure de l’IA. Plus révélateur encore, 80 % des adultes déclarent qu’ils préféreraient maintenir les règles de sécurité de l’IA et des données même si cela ralentit le développement. Et 72 % souhaitent que des specialists indépendants testent les systèmes d’IA avant qu’ils ne soient rendus publics.
Pour moi, cela signifie que les gens ne rejettent pas l’IA.
Ils demandent simplement que la confiance dans l’IA soit gagnée.
Salutations,
Ian KingStratège en chef, Banyan Hill Publishing
Notice de l’éditeur : nous serions ravis d’avoir de vos nouvelles !
Si vous souhaitez partager vos réflexions ou solutions sur le Each day Disruptor, ou s’il y a des sujets spécifiques que vous souhaiteriez que nous abordions, envoyez simplement un e-mail à dailydisruptor@banyanhill.com.
Ne vous inquiétez pas, nous ne révélerons pas votre nom complet si nous publions une réponse. Alors n’hésitez pas à commenter !
