métro[zen]dodo

Du retard des intelligences artificielles généralistes

Rodney Brooks, professeur émérite de robotique au MIT :

If we were to have AGI, Artificial General Intelligence, with human level capabilities, then certainly it ought to be able to drive a car, just like a person, if not better. Now a self driving car does not need to have general human level intelligence, but a self driving car is certainly a lower bound on human level intelligence. Urmson, a strong proponent of self driving cars says 30 to 50 years. So what does that say about predictions that AGI is just around the corner? And what does it say about it being an existential threat to humanity any time soon.

Tous les signaux industriels et scientifiques tendent à montrer que les véhicules ne rouleront pas de manière proprement autonome avant quelques décennies. Cela ne demande pas seulement des avancées en matière d’intelligence artificielle, mais aussi en matière d’infrastructures1 et de connectivité2, sans même parler des autres nécessités technologiques. Les progrès sont cumulatifs : l’intelligence nait de l’apprentissage, l’apprentissage repose sur des données, les données requièrent des capteurs.

Le parachèvement de cette intelligence artificielle spécialisée repousse, comme le dit Rodney Brooks, celle d’une intelligence artificielle généraliste (IAG). Je veux bien croire les spécialistes qui parlent d’un horizon lointain — 2200 ? 2300 ? Mais je pense qu’il s’agit d’un euphémisme : il est probable que l’IAG n’arrive jamais, parce qu’elle serait fondamentalement impossible (ou demanderait l’acquisition préalable de connaissances qui nous échappent) ou fondamentalement inutile (un système spécialisé suffisamment avancé peut-il être distingué d’un système généraliste ?), voire fondamentalement indésirable (et donc abandonnée, voire interdite).


  1. Nous allons transformer nos villes et nos voies de communication sans attendre les voitures autonomes, mais les solutions adaptées aux piétons et aux transports collectifs sont probablement favorables au développement des véhicules autonomes.
  2. L’intelligence d’une voiture n’est rien face à l’intelligence d’une flotte de véhicules connectés entre eux et aux infrastructures, formant une grande grille de collecte des données et de calcul partagé. De la même manière que les automobilistes ne sont pas laissés à leurs seules pulsions suicidaires, et doivent respecter un code de la route, les transports autonomes ne seront pas laissés à leurs seuls algorithmes, mais devront respecter les ordres de l’intelligence artificielle urbaine.