En tant que père de deux jeunes filles, je veux parler de quelque selected auquel j’ai beaucoup pensé ces derniers temps.
Les enfants d’aujourd’hui grandiront dans un monde où l’intelligence artificielle sera intégrée à presque tout ce qu’ils touchent. Et c’est déjà présent dans les jouets avec lesquels ils jouent, les functions auxquelles ils ont accès et les vidéos qui sont lues automatiquement avant même qu’ils ne réalisent ce qu’ils regardent.
Cela signifie que l’IA n’est plus un problème d’avenir pour les dad and mom. C’est un problème à l’heure actuelle.
Et plus je regarde où cela nous mène, plus je pense que nous devons avoir une dialog sérieuse sur les garde-fous en matière d’IA.
Automotive si les 30 dernières années d’Web nous ont appris quelque selected, c’est que la technologie évolue souvent plus vite que les règles censées assurer la sécurité de nos enfants.
Le nouveau terrain de jeu de l’IA
L’IA passe de nos appareils au rayon des jouets.
Le mois dernier, une startup de San Francisco appelée The AI Toy Firm a levé 5,3 tens of millions de {dollars} pour créer un compagnon en peluche émotionnellement conscient pour les enfants qu’elle appelle Bondu.
Picture : Bondu.com
D’autres fabricants de jouets déploient des robots capables de répondre à des invitations vocales, de générer des histoires ou d’adapter le temps de jeu en fonction de l’humeur de l’enfant.
Même les jouets de bricolage évoluent. Par exemple, une entreprise construit une imprimante générative d’autocollants qui permet aux enfants de concevoir des personnages sur une tablette et d’imprimer des variations physiques en quelques secondes.
En apparence, toutes ces nouvelles applied sciences semblent passionnantes. Les jouets éducatifs améliorés par l’IA pourraient offrir un apprentissage plus personnalisé. Les jouets IA pourraient encourager un jeu plus créatif.
Et ils devraient certainement être rentables.
Le marché des jouets IA pour enfants est passé d’environ 780 tens of millions de {dollars} en 2024 à plus de 918 tens of millions de {dollars} en 2025. D’ici 2032, il devrait atteindre plus de 3 milliards de {dollars}.
Cela représente une croissance de plus de 3 fois en seulement sept ans. Et si le marché du jouet connaît ce style d’essor, cela soulève la query suivante : combien d’enfants utilisent déjà l’IA à l’heure actuelle ?
Selon Frequent Sense Media, près de 30 % des dad and mom d’enfants de moins de huit ans déclarent que leur enfant a déjà utilisé un outil d’IA.
Cela signifie que cette tendance se produit extrêmement rapidement. Après tout, cela ne fait que trois ans que le monde a pris conscience de ce que l’IA moderne peut réellement faire. ChatGPT 3 est sorti le 30 novembre 2022.
Mais les jouets ne sont ici qu’une partie de l’histoire.
Je suis beaucoup plus préoccupé par la quantité de vidéos d’IA qui inondent les flux des enfants, simplement parce qu’elles peuvent être beaucoup plus difficiles à surveiller pour les dad and mom.
Aujourd’hui, les enfants regardent beaucoup YouTube. Et même si ma femme et moi réglementons cela dans notre maison, la mienne aussi. C’est une partie constante de la parentalité moderne.
Mais quelque selected a changé récemment.
Une enquête récente a révélé que neuf des 100 chaînes YouTube à la croissance la plus rapide en juillet étaient entièrement exploitées par l’IA. Un autre rapport a montré que des milliers de vidéos pour enfants sont produites avec peu ou pas d’implication humaine.
Ces vidéos peuvent ressembler à première vue à du contenu regular pour enfants. Ils ont des couleurs vives et des personnages sympathiques. Les kinds d’animation sont souvent familiers.
Mais Dad and mom.com prévient que bon nombre de ces vidéos contiennent des informations confuses ou inexactes.
Certains que j’ai vus sont carrément dérangeants. Et ces vidéos sont produites à grande échelle par des systèmes génératifs capables de produire des centaines de clips par jour.
Les chercheurs ont découvert que les contenus IA de mauvaise qualité peuvent échapper aux filtres de modération automobile ils répondent techniquement aux règles de sécurité de YouTube, même si le ton émotionnel est étrange ou troublant.
C’est une raison suffisante pour que tout le monde s’inquiète.
Parce que les jouets peuvent être inspectés et que les functions sont réglementées et peuvent être restreintes par les dad and mom. Mais pour des tens of millions de familles, YouTube et d’autres flux médiatiques sont la nouvelle baby-sitter.
Et c’est une baby-sitter qui s’en type avec bien plus qu’elle ne le devrait.
Une étude liée à Harvard a révélé que les plateformes sociales ont gagné 11 milliards de {dollars} en 2022 grâce aux mineurs. YouTube à lui seul a gagné environ 959 tens of millions de {dollars} grâce aux téléspectateurs de moins de 12 ans.
Mais nous avons tous appris que la rentabilité n’est pas toujours synonyme de safety de nos enfants.
Par exemple, Disney a récemment accepté de payer un règlement de 10 tens of millions de {dollars} après que ses chaînes YouTube aient collecté des données sur des enfants sans étiquetage approprié.
Et Disney est l’une des sociétés de médias les plus importantes et les plus fiables au monde. S’ils permettaient que cela se produise, imaginez ce que font des milliers de petits créateurs d’IA. Ou pire, à quoi les mauvais acteurs peuvent-ils s’en tirer lorsque leur contenu est automatisé mais que sa surveillance ne l’est pas.
Parce que les règles qui guident les expériences numériques de nos enfants aujourd’hui ont été construites pour une autre époque.
Ils ont été écrits à l’époque où les émissions de télévision avaient des monteurs humains et où les jouets dépendaient de piles et d’creativeness. Pas lorsque les réseaux de neurones peuvent créer des heures de contenu à la vitesse d’une machine et que l’IA peut converser avec vos enfants aussi facilement qu’un ami.
Ce nouvel écosystème d’IA ne se soucie pas des barrières d’âge. Il se soucie de l’engagement.
Et les enfants sont programmés pour être extrêmement impliqués dans l’IA.
Voici mon avis
En tant que guardian, il est déjà évident que l’IA va remodeler l’enfance de nos enfants de la même manière que les smartphones ont transformé nos vies.
Mais à moins de mettre à jour les règles qui régissent la manière dont les entreprises utilisent l’IA auprès des enfants, nous pourrions revenir sur ce second de la même manière que nous regardons les premiers jours des médias sociaux.
Nous ne pouvons pas nous permettre une autre période d’innovation qui avance plus vite que la safety.
Alors à quoi ressemble l’IA responsable ?
Cela ressemble à de la transparence. Cela ressemble à une vérification. Cela ressemble à des garde-fous pour les contenus destinés aux enfants. Et cela ressemble à de réelles conséquences lorsque les entreprises franchissent la ligne.
C’est le début du plus grand changement dans la façon dont les enfants expérimentent la technologie depuis l’avènement d’Web. Et je veux m’assurer que nous y parvenons cette fois-ci.
C’est pourquoi j’entame cette dialog aujourd’hui.
Au cours des prochains mois, je pense que cela ne fera que devenir de plus en plus fort.
Salutations,
Ian KingStratège en chef, Banyan Hill Publishing
Notice de l’éditeur : nous serions ravis d’avoir de vos nouvelles !
Si vous souhaitez partager vos réflexions ou options sur le Each day Disruptor, ou s’il y a des sujets spécifiques que vous souhaiteriez que nous abordions, envoyez simplement un e-mail à dailydisruptor@banyanhill.com.
Ne vous inquiétez pas, nous ne révélerons pas votre nom complet si nous publions une réponse. Alors n’hésitez pas à commenter !
