La technologie nous mènera-t-elle vers un paradis pour les fous
Le dernier livre de Nick Bostrom, « Deep Utopia » (Utopie profonde), aborde la question de la trajectoire de notre civilisation. Dans un entretien exclusif, l’auteur évoque l’urgence de son travail, le concept de vie dans un paradis pour les fous et l’impact transformateur de l’intelligence artificielle générale (AGI).
Bonjour Nick, pourquoi avez-vous écrit ce livre… maintenant ?
Nick Bostrom : Il semblait gênant que notre réflexion sur l’avenir de notre civilisation technologique soit si superficielle.
Quant à savoir pourquoi maintenant, eh bien, cela fait des années que j’y travaille. Je voulais le sortir avant la singularité, idéalement avec un peu de temps pour que les gens aient une chance de le lire.
Quel est l’extrait de votre livre qui vous représente le mieux ?
Sur les fous et les paradis
Les gens minimisent l’idée de vivre dans un paradis pour les fous.
Mais si l’on considère la nature de l’humanité, ne peut-on pas penser qu’une telle destination nous conviendrait parfaitement et serait souhaitable pour nous ?
Je veux dire par là que si nous sommes des imbéciles, une telle destination nous conviendrait parfaitement.
Bien sûr, en tant qu’idiots, nous ne sommes pas susceptibles de reconnaître ce qui est bon pour nous. Nous serions plus enclins à essayer de grimper dans un nid d’aigle ou sur une sorte de pinacle glacé de la vérité et de gloire, parce que c’est « plus haut ». Et alors, nous resterions assis là à nous geler les fesses jusqu’à la fin de nos jours. C’est le genre de choses que l’on attendrait d’un imbécile qui aurait pu vivre heureux dans le paradis des fous.
Quelles sont les tendances qui émergent et auxquelles vous croyez le plus ?
Je pense que la plupart des tendances sont éclipsées par les progrès rapides que nous observons actuellement vers l’AGI. Cependant, je ne dirais pas que cette tendance « émerge ». Elle existe depuis au moins une décennie, et elle était à peu près prévisible bien avant cela – mais on pourrait peut-être dire qu’elle n’est apparue que récemment dans l’agenda mondial et dans la conscience du grand public. Dans cette catégorie, on pourrait mettre en évidence des tendances spécifiques, telles que la demande de quantités toujours plus importantes de calcul pour former et faire fonctionner des modèles toujours plus grands.
En un mot, quels sont les prochains sujets qui vous passionneront ?
J’ai quelques idées provisoires sur la nature de l’éthique et son rapport avec les perspectives de la superintelligence des machines, auxquelles j’aimerais réfléchir davantage. Je ne suis pas sûr que cela me passionnera – en général, on réfléchit plus clairement lorsqu’on est dépassionné. Comme je viens d’achever un projet de livre qui a duré six ans, j’ai également l’intention d’ouvrir un peu les ouvertures de mon esprit et de réfléchir et d’étudier sans objectif défini au départ.
Merci Nick Bostrom
Merci à Bertrand Jouvenot
Le livre : Deep Utopia : Life and Meaning in a Solved World, Nick Bostrom, Ideapress Publishing, 2024