Hier, Je t’ai montré un tableau ce qui suggère que les principaux modèles d’IA actuels ont quelque selected qui ressemble étonnamment à une imaginative and prescient du monde.
Cela soulève naturellement une autre query.
D’où viennent ces valeurs ?
À première vue, la réponse peut paraître évidente. Après tout, les grands modèles linguistiques sont formés sur d’énormes quantités de textes provenant de livres, de websites Net, de paperwork de recherche et d’innombrables autres sources.
Ils reflètent sûrement simplement ce qu’ils lisent.
Mais ce n’est qu’une partie de l’histoire. Parce que cela n’explique pas pourquoi Claude pourrait refuser une demande à laquelle Grok répond.
Ou pourquoi Gemini réagit parfois différemment de ChatGPT.
Ou pourquoi presque tous les grands modèles d’IA ont tendance à paraître remarquablement réfléchis, mesurés et polis.
Cela n’arrive pas par hasard. Ces comportements s’apprennent.
Et c’est là que la création d’IA devient beaucoup plus compliquée.
Les comportements appris de l’IA
Les systèmes d’IA d’aujourd’hui n’absorbent pas simplement les informations pendant l’entraînement.
Une fois qu’ils apprennent la langue, les chercheurs commencent à leur apprendre remark ils doivent se comporter.
Une approach courante est appelée apprentissage par renforcement à partir de la rétroaction humaine.
Picture : LinkedIn
En termes simples, les gens examinent des milliers de réponses et décident lesquelles sont les plus utiles, les plus précises et les moins nuisibles. L’IA est ensuite récompensée pour avoir produit le sort de réponses que les humains préfèrent.
Au fil du temps, ces préférences deviennent partie intégrante du modèle lui-même.
Cela semble easy jusqu’à ce que vous commenciez à réfléchir aux varieties de préférences qu’une IA doit prendre en compte.
Par exemple, un mother or father peut souhaiter un sort de réponse très différent de celui d’un médecin. Un thérapeute peut donner la priorité à la compassion, tandis qu’un avocat peut donner la priorité à la précision. Et un adolescent pourrait simplement vouloir des encouragements.
En d’autres termes, la même query pourrait avoir plusieurs réponses raisonnables selon les valeurs qui la sous-tendent.
Cela signifie que les sociétés d’IA ne se contentent pas d’enseigner aux ordinateurs remark répondre aux questions. Ils décident à quoi ressemble réellement une bonne réponse.
Et c’est un problème beaucoup plus difficile que d’apprendre à un modèle à écrire du code informatique ou à résumer un doc.
C’est également l’une des raisons pour lesquelles bon nombre des plus grandes sociétés mondiales d’IA emploient des philosophes aux côtés d’ingénieurs.
Ces personnes ne sont pas embauchées pour écrire des logiciels, mais pour réfléchir à des questions dont les gens débattent depuis des milliers d’années.
Des questions comme :
Quand l’honnêteté doit-elle l’emporter sur la gentillesse ? Quand la sécurité doit-elle l’emporter sur la liberté personnelle ? Et quand une IA devrait-elle refuser de répondre à une query ?
Anthropic a décidé d’aborder ces questions d’une manière inhabituelle.
Au lieu de s’appuyer entièrement sur des évaluateurs humains, l’entreprise a développé ce qu’elle appelle l’IA constitutionnelle.
Les chercheurs ont donné à Claude un ensemble écrit de principes directeurs inspirés de sources comme le Déclaration universelle des droits de l’homme et d’autres cadres éthiques largement acceptés. Claude critique et révise ensuite ses propres réponses par rapport à ces principes avant de produire une réponse finale.
C’est un peu comme donner une conscience à une IA.
Non pas parce que le modèle comprend la moralité de la même manière que les gens. Mais parce qu’on lui a appris à peser ses réponses par rapport à un ensemble cohérent de valeurs.
Depuis, l’entreprise est allée encore plus loin.
Plus tôt cette année, Recherche publiée anthropique examinant plus de 700 000 conversations réelles avec Claude.
Au lieu de demander quelles valeurs les chercheurs avaient l’intention d’enseigner au modèle, ils ont demandé quelles valeurs Claude exprimait réellement.
Les chercheurs ont identifié plus de 3 300 valeurs distinctes au cours de ces conversations.
Certains sont apparus exactement là où on s’y attendait. L’exactitude historique, la responsabilité professionnelle et l’honnêteté intellectuelle étaient toutes représentées.
Mais la découverte la plus intéressante est que Claude n’appliquait pas le même système de valeurs à chaque dialog.
Lors des discussions sur les relations, il mettait l’accent sur l’empathie et le respect mutuel. Lorsqu’elle aidait quelqu’un à résoudre un problème approach, elle donnait la priorité à la précision et à la compétence. Et lorsqu’on parlait de sujets sensibles, on penchait vers la réduction des risques et la sécurité personnelle.
Plutôt que d’appliquer les mêmes valeurs à chaque dialog, le modèle a ajusté ses priorités en fonction de la state of affairs.
Cela ne veut pas dire qu’il portait des jugements moraux comme le ferait un humain.
Mais il faisait quelque selected de remarquablement similaire.
Et c’est déjà un endroit remarquable pour l’industrie de l’IA.
Voici mon avis
Le graphique d’hier a montré que les principaux modèles d’IA actuels semblent partager une imaginative and prescient du monde distincte de celle de presque tous les pays de la planète.
Aujourd’hui, nous avons fait un pas de plus vers la compréhension de pourquoi.
Ces valeurs ne sont pas simplement apparues sur Web. Ils sont façonnés par des milliers de décisions de conception prises par des chercheurs, des ingénieurs, des éthiciens et même des philosophes.
C’est inévitable. Automotive dès qu’une IA begin à donner des conseils au lieu de simplement récupérer des informations, quelqu’un doit décider à quoi ressemble un bon conseil.
C’est aujourd’hui l’un des plus grands défis auxquels est confrontée l’ensemble de l’industrie.
Mais je crois que ce n’est que temporaire.
À l’heure actuelle, des hundreds of thousands de personnes utilisent essentiellement la même IA.
Mais je suis convaincu que la prochaine évolution de l’intelligence artificielle ne consistera pas à créer un modèle distinctive pour tout le monde.
Il s’agira de construire un modèle différent pour chaque personne.
La prochaine génération d’IA ne se souviendra pas simplement de vos conversations précédentes. Il apprendra remark vous préférez penser, remark vous aimez les informations qui vous sont présentées et même avec quel niveau de risque vous êtes à l’aise.
Cela a le potentiel de rendre l’IA bien plus utile que tout ce que nous avons vu jusqu’à présent.
Et dans notre prochain numéro, je vous montrerai pourquoi les plus grandes entreprises d’IA préparent déjà le terrain pour cet avenir.
Salutations,
Ian KingStratège en chef, Banyan Hill Publishing
Observe de l’éditeur : nous serions ravis d’avoir de vos nouvelles !
Si vous souhaitez partager vos réflexions ou strategies sur le Day by day Disruptor, ou s’il y a des sujets spécifiques que vous souhaiteriez que nous abordions, envoyez simplement un e-mail à dailydisruptor@banyanhill.com.
Ne vous inquiétez pas, nous ne révélerons pas votre nom complet si nous publions une réponse. Alors n’hésitez pas à commenter !
