métro[zen]dodo est en chantier ! Suivez la progression des travaux.

De l’attaque de la culture par déni de service

Danny Sulivan, porte-parole de Google en charge de la communication autour du moteur de recherche, The Keyword :

We know people don’t find content helpful if it seems like it was designed to attract clicks rather than inform readers. So starting next week for English users globally, we’re rolling out a series of improvements to Search to make it easier for people to find helpful content made by, and for, people. This ranking work joins a similar effort related to ranking better quality product review content over the past year, which will also receive an update. Together, these launches are part of a broader, ongoing effort to reduce low-quality content and make it easier to find content that feels authentic and useful in Search.

« Quoi que vous fassiez, les robots peuvent le faire un million de fois le temps d’un clin d’œil », dit Jaron Lanier, « les fausses personnes sont une attaque de la culture par déni de service »1. Comme j’en discutais encore cette semaine avec Arnaud dans le podcaaast, c’est bien là que réside le véritable danger des singes algorithmiques, plus que dans la peur (souvent feinte) de la singularité.

GPT-3 écrit comme un gamin de trois ans qui essaye d’imiter les successeurs ratés d’Hemingway écrit, et DALL·E dessine comme les successeurs ratés d’Hemingway imaginent qu’un gamin de trois ans dessine, mais ces modèles finiront par produire des résultats convaincants. C’est un danger mortel, certes parce qu’il deviendra possible de créer dix-mille sources de désinformation à l’heure, mais aussi et surtout parce qu’il sera possible de créer dix-mille Wikipédia à l’heure, pour reprendre les mots de l’ingénieur Philip Winston.

Or des pans entiers de Wikipédia sont déjà des œuvres de fiction, parce que l’ambition d’une encyclopédie infinie est folle, et d’autres sont vides de sens, parce que le cirque médiatique est un spectacle moins anxiogène que la destruction de notre planète2. Le mensonge est plus honnête que l’illusion de la connaissance, la célébration des biais cognitifs, et la complaisance cynique dans l’insatisfaction permanente. Le mensonge regarde la vérité en face.

Le changement d’échelle est tel qu’il convient de parler d’un changement de nature : il pourrait bien devenir impossible de consulter des contenus créés par des humains, tant les systèmes qui font écran dans notre appréhension du web valorisent l’« optimisation pour les moteurs de recherche » et l’« engagement », c’est-à-dire le conformisme d’une production sérielle. Quoi que les experts en SEO et les « producteurs de contenus » fassent, les robots peuvent le faire un million de fois le temps d’un clin d’œil.

Les créations humaines seront noyées sous les contenus synthétiques, les modèles prévoiront (et donc empêcheront) une marge de sérendipité, la culture ne sera plus que l’artéfact de machines qui parlent aux machines. Google veut faire remonter à la surface les « contenus créés par, et pour, les gens » ? Tant mieux ! Je crains que ce soit trop peu, et trop tard, surtout venant d’une entreprise qui a monétisé cette attaque par déni de service.


  1. Je traduis. ↩︎

  2. C’est le même, pourtant. ↩︎