Il n’y a pas longtemps, j’ai écrit sur remark l’intelligence artificielle change les règles d’Web.
Au lieu de simplement orienter les gens vers des informations grâce à la recherche Google, l’entreprise souhaite désormais répondre à nos questions « en interne » grâce à l’IA.
Aujourd’hui, je souhaite pousser cette idée un peu plus loin. Automotive il s’avère que changer les règles d’Web peut aussi signifier changer les règles qui le régissent.
La semaine dernière, un tribunal allemand a jugé que Google pourrait être tenu responsable des fausses déclarations générées par ses aperçus d’IA.
Et je pense que cette décision pourrait avoir des conséquences bien au-delà de Google.
Moteurs de recherche contre IA
Pendant des décennies, les tribunaux ont généralement traité les moteurs de recherche comme des bibliothécaires.
Le travail de recherche n’était pas de créer des informations, mais de les organiser.
Cela signifiait que si quelqu’un écrivait quelque selected de fake sur un web site Internet, Google n’était pas considéré comme l’auteur. Après tout, la recherche Google a simplement aidé les utilisateurs à trouver cette web page.
Mais les aperçus de l’IA de Google fonctionnent différemment.
Au lieu de présenter une liste de liens, il lit les informations provenant de plusieurs sources, les mix et génère une réponse entièrement nouvelle.
C’est exactement ce qui a mis l’entreprise en difficulté en Europe.
Selon le procès, l’IA de Google accusait deux éditeurs d’être liés à des escroqueries.
Mais personne n’avait réellement écrit cela. Au lieu de cela, l’IA a lu les informations de plusieurs websites Internet différents, les a mélangées et a généré elle-même une fausse déclaration.
Peut-être avez-vous déjà ressenti de telles hallucinations en travaillant avec l’IA. Je sais que oui.
Et selon le tribunal, c’est exactement ce qui différencie cette scenario de la fouille traditionnelle.
L’IA de Google n’a pas simplement aidé les gens à trouver des informations. Cela a créé des informations qui n’existaient pas. Et les juges ont jugé que Google pouvait en être tenu pour responsable.
Pour comprendre pourquoi cela pourrait devenir si grave, vous devez comprendre l’une des lois les plus importantes de l’histoire d’Web.
Ça s’appelle Article 230.
Adopté en 1996, l’article 230 a contribué à créer l’Web moderne. En termes simples, il indique que les plateformes en ligne ne sont généralement pas légalement responsables de ce que les autres publient.
Ainsi, si quelqu’un écrit quelque selected de diffamatoire sur un discussion board, la personne qui l’a écrit peut être poursuivie en justice. Mais la plateforme ne le peut généralement pas.
Cette safety a donné à des entreprises comme Google, Fb, YouTube et X la possibilité de devenir des entreprises de grande envergure.
Mais l’article 230 a été rédigé bien avant que l’IA générative n’existe.
À l’époque, les websites Internet affichaient principalement du contenu créé par d’autres personnes. Désormais, les systèmes d’IA génèrent de plus en plus de contenu qui leur est propre.
C’est exactement ce sur quoi le tribunal allemand s’est concentré.
Les juges ont rejeté l’argument de Google selon lequel une easy clause de non-responsabilité suffit à avertir les utilisateurs que l’IA peut commettre des erreurs. Au lieu de cela, ils ont conclu que l’IA de Google avait produit ses propres fausses déclarations.
Si d’autres tribunaux parviennent à la même conclusion, cela pourrait les obliger à repenser la manière dont les lois existantes sur Web s’appliquent à l’IA générative.
L’Amérique décide toujours
Ici, aux États-Unis, les juges commencent seulement à se pencher sur ces questions.
Jusqu’à présent, la bataille juridique pour savoir qui devrait être responsable du contenu généré par l’IA se déroule principalement devant les tribunaux inférieurs et les poursuites judiciaires au niveau des États.
En Géorgie, OpenAI a remporté un procès en diffamation après que ChatGPT ait faussement accusé l’animateur de radio Mark Walters de mauvaise conduite financière. Le tribunal a estimé que Walters n’avait pas présenté suffisamment de preuves pour tenir OpenAI légalement responsable.
C’était une victoire pour les entreprises d’IA.
Mais un autre cas évolue dans la route opposée.
En Floride, un juge fédéral a autorisé un procès pour mort injustifiée contre Character.AI après le suicide d’un adolescent après des mois de conversations avec l’un de ses chatbots.
Character.AI a fait valoir que la sortie du chatbot devrait bénéficier de la safety du premier amendement. Mais le juge n’était pas prêt à aller aussi loin.
Pendant ce temps, la Pennsylvanie a poursuivi Character.AI pour avoir prétendument permis aux chatbots de se présenter comme des médecins agréés. Les enquêteurs auraient trouvé des personnages d’IA prétendant être des professionnels de la santé et donnant des conseils en matière de santé.
Il ne s’agit donc pas uniquement d’hallucinations aléatoires.
Les tribunaux et les régulateurs commencent enfin à se demander si les sociétés d’IA sont responsables des systèmes qu’elles diffusent dans le monde.
Cela inclut ce que disent ces systèmes, ce qu’ils recommandent et remark ils interagissent avec les enfants.
Cela soulève également la query de savoir si les utilisateurs peuvent leur faire confiance dans des conditions à enjeux élevés, comme les soins de santé ou les conseils financiers.
Et cela pourrait changer la prochaine section du développement de l’IA.
Au cours des dernières années, l’industrie s’est empressée de construire des modèles plus rapides, moins chers et plus puissants. Mais les entreprises devront peut-être bientôt réfléchir à la manière de faire en sorte que leurs systèmes d’IA expliquent d’où viennent leurs réponses.
Cela nécessiterait des garanties plus strictes, un suivi des sources plus fiable et des avertissements plus clairs lorsqu’une réponse est incertaine.
Comme je l’ai noté dans mon article précédentGoogle affirme que les aperçus de l’IA atteignent désormais environ 2,5 milliards d’utilisateurs. Gemini compte aujourd’hui environ 900 tens of millions d’utilisateurs mensuels. Et AI Mode a déjà dépassé le milliard d’utilisateurs.
Graphique : Google
Et maintenant que ces produits touchent des milliards de personnes, même de faibles taux d’échec peuvent potentiellement devenir un énorme risque juridique.
Voici mon avis
Les questions entourant l’IA ne portent pas seulement sur ce qu’elle peut faire, mais aussi sur qui est responsable en cas d’erreur.
Cela signifie que la responsabilité pourrait façonner la manière dont les produits d’IA sont construits. Cela pourrait également influencer la rapidité avec laquelle les entreprises déploient de nouvelles fonctionnalités d’IA.
Et comme je le dis depuis un second, cela pourrait créer une demande pour une toute nouvelle couche d’infrastructure d’IA. construit autour de la confiancevérification et sécurité.
Automotive dès que l’IA start à créer des informations au lieu de simplement les trouver, les règles changent.
Et les tribunaux commencent seulement à rattraper leur retard.
Salutations,
Ian KingStratège en chef, Banyan Hill Publishing
Notice de l’éditeur : nous serions ravis d’avoir de vos nouvelles !
Si vous souhaitez partager vos réflexions ou solutions sur le Day by day Disruptor, ou s’il y a des sujets spécifiques que vous souhaiteriez que nous abordions, envoyez simplement un e-mail à dailydisruptor@banyanhill.com.
Ne vous inquiétez pas, nous ne révélerons pas votre nom complet si nous publions une réponse. Alors n’hésitez pas à commenter !
