Que se passera-t-il quand les machines surpasseront l’intelligence humaine ? Les robots vont-ils nous sauver ou nous détruire ? Nick Bostrom nous révèle les difficultés que la recherche d’une intelligence supérieure va nous poser et comment les résoudre.
S’il nous arrive un jour de construire une machine dotée d’une intelligence générale qui surpassera celle de l’être humain, cette superintelligence pourrait bien alors devenir très puissante. Et, de la même manière que le sort des gorilles dépend aujourd’hui plus des êtres humains que d’eux-mêmes, le sort réservé à notre espèce dépendra des activités-mêmes de cette machine.
Nous avons, c’est vrai, un avantage : c’est nous qui construisons le truc.
En principe, on devrait pouvoir mettre au point une superintelligence qui protègerait les valeurs humaines. Et nous aurions bien entendu de très bonnes raisons de le faire. Mais en pratique, ce « problème du contrôle » se révèle bien délicat. Tout se passe comme si nous n’avions qu’une seule chance : une fois construite une machine hostile, elle nous empêcherait de la remplacer ou de modifier ses préférences. Notre destin serait scellé.
Dans ce livre, j’essaie de comprendre les menaces éventuelles que représente une telle machine superintelligente et de voir comment on pourrait y répondre. Il se peut qu’il s’agisse là du défi le plus important et le plus redoutable auquel l’humanité se soit jamais trouvée confrontée.
« À lire absolument… Nous devons être très prudents avec l’intelligence artificielle. »
Elon Musk
« Je recommande vivement cet ouvrage. »
Bill Gates