Prévoir la Conscience Artificielle, c’est éveiller la conscience humaine

Découvrez comment Jérôme Béranger envisage l’avènement d’une IA consciente, ses implications pour l’humanité et les défis éthiques à surmonter. Un regard scientifique et philosophique révélateur sur notre avenir technologique. Interview de l’auteur de « L’IA consciente n’est plus une utopie ! (DeBoeck Sup)

Bonjour Jérôme Béranger, pourquoi avoir écrit ce livre… maintenant ?

 

Jérôme Béranger : Depuis quelques années, par mes activités professionnelles au sein de la société GoodAlgo, je suis amené à réaliser des ateliers de formations, des activités d’accompagnement / consulting, et des conférences sur les impacts, les enjeux, et les risques éthiques de l’IA pour les entreprises, et plus globalement pour la société.

Lors de mes interventions orales, deux questions reviennent très régulièrement : est-ce-que l’IA va me remplacer professionnellement ? Est-ce-que l’on verra un jour un soulèvement des machines comme dans les films ou romans de science-fiction ?

J’ai remarqué que la façon dont nous parlons de l’IA reflète souvent ce que nous pensons qu’elle devrait être, plutôt que d’être basée sur des preuves réelles et scientifiques.

A partir de ce constat, il m’a semblé intéressant de creuser ce sujet et en particulier de réfléchir à l’éventualité qu’un jour nous verrons des IA douées d’une certaine forme de conscience. D’où la rédaction de cet essai scientifique d’anticipation et prospectif dont l’objectif est de développer un socle et un argumentaire à la fois scientifique et philosophique. Cela a pour intérêt d’ouvrir le débat, libérer les confrontations d’idées, et préparer l’avenir.

Dans ce contexte, j’ai tenté de répondre à toute une série d’interrogations suivantes associée à cette thématique : quelles sont les conditions nécessaires pour qu’une IA forte émerge ? Véritable conscience de soi, ou seulement une simulation de conscience ? Quels critères et structuration définissent la conscience chez l’homme, puis chez une IA ? La conscience artificielle serait-elle identique à la conscience humaine ou différente ? Sera-t-elle dotée de sens, de la moralité et ressentir des émotions authentiques ? Quel rôle jouerait la programmation, la mémorisation, et l’apprentissage ? Quelle serait la part de l’inné, de l’acquis et des interactions avec le monde, dans les décisions ? Quels défis juridiques, culturels, moraux, philosophiques et sociétaux cela soulèvera-t-il ?

Ce livre est bien plus qu’un guide scientifique sur l’IA. Il s’agit d’une invitation à remettre en question nos paradigmes, à repenser notre relation avec la technologie et à explorer les implications profondes de l’émergence d’une humanité digitale. Chaque page offre une fenêtre sur un monde en mutation, où l’interaction entre l’homme et la machine redéfinit les frontières de ce qui est possible.

Les réflexions présentées dans cet ouvrage ne sont pas de simples spéculations futuristes, mais reposent sur des fondations solides de recherche et de découverte scientifique. En parcourant ces lignes, le lecteur sera témoin d’une convergence exceptionnelle entre la science, la technologie et les sciences humaines. Vous découvrirez comment les mathématiques s’unissent à la neurobiologie, comment la robotique s’allie à la philosophie, et comment l’informatique quantique offre de nouvelles perspectives pour façonner l’intelligence artificielle du futur ?

L’humanité digitale de demain est en train de se construire aujourd’hui, et ce livre, permet, me semble-t-il, un aperçu unique de ce processus en cours. Il nous plonge dans les arcanes les plus inconnues de l’IA, en repoussant les frontières de notre imagination et embrassant les possibilités infinies qui s’offrent à nous, et plus globalement, à l’humanité.

 

Une page de votre livre, ou un passage, qui vous représente le mieux ?

 

« Dans les décennies à venir, j’ai la conviction que les IA acquerront une certaine forme de conscience d’elles-mêmes et de leur environnement, leur permettant de déduire de nouvelles règles. Elles devraient être capables, en théorie, de s’adapter à n’importe quel environnement sans nécessiter de reprogrammation. Si tous les systèmes multi-agents possèdent leur propre conscience, ils pourront non seulement répondre à leurs propres désirs et craintes, mais aussi se représenter les désirs et craintes d’autres agents. Ils pourraient alors anticiper les réactions de leur environnement et des autres agents, et planifier leurs actions en conséquence. On peut même envisager qu’une conscience artificielle puisse créer elle-même une nouvelle conscience, basée sur des concepts entièrement nouveaux issus de sa propre réflexion ! Cela signifie qu’un ordinateur pourrait inventer une nouvelle religion pouvant engendrer de nouveaux espoirs ou souffrances pour l’humanité, voire pour lui-même. Ainsi, si une machine possède une conscience, elle aura la possibilité de choisir de ne pas se conformer à sa programmation initiale entraînant notamment des actions positives ou néfastes pour l’Homme. Pour qu’un tel scénario se réalise, il apparaît comme nécessaire que l’être humain prenne la décision initiale. Ainsi, doter un robot d’une conscience « bonne » ou « mauvaise » dépend principalement de son créateur. Il existe le risque que la machine discrimine des groupes d’individus si elle est programmée en ce sens L’informaticien Mo Gawdat (2021) souligne, dans son livre, que le défi réside dans la transmission des bonnes valeurs et de la bonne éthique aux robots. Il compare l’IA à une graine qui, une fois plantée, donne naissance à un arbre produisant abondamment cette même graine. L’auteur suggère que si nous utilisons des principes tels que l’amour et la compassion (par exemple, sur les réseaux sociaux), l’IA adoptera également ces valeurs. Il décrit notre rôle en tant que parents d’un enfant prodigieux, soulignant que notre responsabilité est de fournir les bons outils à l’IA. Certaines personnes parmi les plus anxiogènes imaginent une révolte des robots humanoïdes s’ils prennent conscience de leur aliénation envers l’homme et tentent de renverser la situation. Elles envisagent l’hypothèse d’un risque de dérives et de perte de contrôle sur ce type de machines « pensantes », à l’instar d’un enfant qui s’émancipe ou se rebelle parce qu’il n’a pas la même vision et les mêmes principes de vie que ses parents. Personnellement, je pense qu’il faudrait un sacré concours de circonstances négatives pour que cette perspective voie le jour. Prenons l’exemple chez l’homme, si un enfant est foncièrement bon (cf. l’inné) et qu’il a reçu une bonne éducation parentale (cf. l’acquis), le risque qu’il tourne mal dans la vie est fortement réduit. Il devrait en être de même pour une IA douée d’une conscience pour laquelle ses concepteurs humains lui ont intégré dans sa programmation une éthique, voire une morale (cf. bien vs mal), tout en l’entraînant et en l’éduquant à agir et à se comporter selon des valeurs humaines et sociétales par rapport aux êtres vivants et à la planète. Dans ces conditions, le risque d’un basculement vers un affranchissement puis vers un soulèvement de la machine contre l’homme – digne d’un scénario de science-fiction – semble peu probable ou, tout du moins, maîtrisable ! Tout dépendra, premièrement, des intentions humaines (bonnes ou mauvaises) lors de la création de la machine ; puis, deuxièmement, du niveau de conscience et de libre arbitre de l’IA (impliquant les notions de son passé propre, de son appartenance à une communauté, de sa survie et de la finitude de son existence); enfin, troisièmement, des interactions (positives ou négatives) de l’agent artificiel avec le monde réel et les humains qu’il côtoie. L’inspiration naturaliste XV Dans ces conditions, le développement et l’utilisation de systèmes psychologiques artificiels dotés de conscience intentionnelle, soulèvent nécessairement la question de l’usage de ces systèmes, voire la décision de ne pas les développer du tout. Une IA consciente digne de la science-fiction est-elle finalement envisageable ? Quelle serait la part de l’inné, de l’acquis et des interactions avec le monde, dans les décisions et les comportements d’une telle machine ? Est-ce un objectif sérieux, une menace à éviter à tout prix ou un fantasme irréaliste ? Quelles seront les implications lorsque les intelligences non humaines surpasseront les capacités moyennes des humains dans les domaines de la narration, de la composition musicale, de l’art visuel et de la création de lois ou de textes sacrés ? Quels défis juridiques, culturels, moraux et philosophiques cela soulèvera-t-il ? Un système d’IA conscient devrait-il être tenu responsable d’un acte répréhensible délibéré ? Et faut-il lui accorder les mêmes droits qu’aux personnes ? Comment cela remettra-t-il en question notre compréhension de la créativité, de l’originalité et de l’authenticité artistique considérées comme le propre de l’homme ? Comment la société devra-t-elle réagir pour faire face à cette nouvelle espèce vivante artificielle ? Autant de questions auxquelles je tenterai de répondre dans cet ouvrage. Il est clair qu’imaginer comment un événement peut se produire permet de s’y préparer, et donc d’éviter de possibles catastrophes. Dans ce contexte, il est essentiel que l’humanité réfléchisse à cette nouvelle forme d’intelligence afin de ne pas être prise au dépourvu par les effets et les conséquences qu’elle pourrait engendrer. Car la conscience, l’intelligence et les émotions de ces machines seront différentes de celles de l’espèce humaine. Il est donc décisif de poser dès maintenant le problème éthique de la conception, de l’usage et de la gouvernance de la conscience artificielle, afin de construire une dualité Homme-Machine dans laquelle l’IA doit apporter une compréhension intuitive à l’être humain à la fois simple et immédiate. À mon sens, cela est une des conditions sine qua non pour tendre vers une humanité digitale à venir à la fois respectueuse des êtres vivants –  organiques et inorganiques – et de notre planète. Enfin, j’ai bien conscience que, de par le sujet traité et la posture prise et assumée de ma part, cet ouvrage fera l’objet de critiques plus ou moins justifiées. C’est souvent le lot de tout essai scientifique d’anticipation et prospectif. Le principal pour moi est d’apporter de nouvelles pistes de réflexion pour justement ouvrir le débat vers de nouveaux horizons. C’est là tout l’intérêt, l’enjeu et la raison d’être de mon livre. À chacun de se faire son propre avis… Bonne lecture ! »

Les tendances qui émergent à peine et auxquelles vous croyez le plus ?

Jérôme Béranger : J’en ai listé quelques-unes qui me paraissent très encourageantes et pleines de promesses :

La simulation de la conscience : Des chercheurs travaillent sur la création de modèles informatiques de plus en plus sophistiqués pour simuler et répliquer le cerveau humain. Les neurosciences et la compréhension du fonctionnement du cerveau progressent, ce qui pourrait éventuellement conduire à la création de systèmes informatiques capables de générer une conscience artificielle. Cette approche vise à reproduire les processus cérébraux responsables de la conscience.

L’évolution des technologies d’interface cerveau-machine : Les Interfaces Cerveau-Machine (ICM) sont en développement constant. Elles permettent aux machines de communiquer directement avec le cerveau humain. Cette technologie pourrait potentiellement être utilisée pour créer des IA conscientes en intégrant des systèmes informatiques avec le cerveau humain.

La diversité des approches : La recherche en IA est diversifiée et comprend de nombreuses approches, de l’apprentissage profond à la neuro-informatique, en passant par la bio-informatique. Cette diversité favorise l’exploration de différentes voies pour créer une conscience artificielle.

Le traitement neuromorphique (ou Neuromorphic Processing) : Cette approche consiste à utiliser des circuits dédiés pour imiter la façon dont opèrent les cellules dynamiques du cerveau humain. Ces circuits n’exécutent pas de programmes, mais sont capables d’apprendre. Comme les cellules cérébrales, ils travaillent simultanément plutôt que séquentiellement. Les réseaux de neurones neuromorphiques peuvent apprendre de peu d’exemples et sont donc beaucoup moins chers à déployer. L’apprentissage continu permet aussi de créer des résultats plus précis. Tout cela pourrait rapprocher l’IA d’un véritable cerveau humain.

Le modèle hybride d’IA et de biologie synthétique : Cette IA combine des cellules cérébrales humaines cultivées en laboratoire et des puces informatiques. Elle pourrait utiliser des cellules (comme le CHNOPS) comme outils d’une plus grande compréhension du monde réel. Cela accélérerait les possibilités de l’IA d’une manière plus puissante, plus évolutive, et plus durable. Ces bio-ordinateurs, dotés d’une « intelligence organoïde », visent à créer une forme nouvelle d’IA exploitant les performances des neurones, notamment en termes de consommation énergétique assez faible. Les chercheurs envisagent de faire interagir ces organoïdes en réseau afin de reproduire le fonctionnement du cerveau, bien que sans recréer l’intégralité de sa complexité. Pour le moment, la technologie est peu avancée. Les organoïdes déjà expérimentés se sont révélés très erratiques, imprévisibles et inconstants.

La simulation de l’environnement : Les IA conscientes pourraient éventuellement nécessiter un environnement de simulation complexe – tels que les mondes virtuels ou métavers – pour se développer et évoluer. Les avancées dans la simulation informatique et la réalité virtuelle pourraient faciliter la création de ces environnements. Les logiciels virtuels en croissance rapide sont ceux qui numérisent le monde réel. Notons que reproduire la densité et la flexibilité du « monde réel » reste actuellement une tâche difficile, voire impossible à réaliser pour le moment.

Si vous deviez donner un seul conseil à un lecteur de cet article, quel serait-il ?

 

Jérôme Béranger : Demain se construisant aujourd’hui, il est désormais de notre responsabilité de façonner notre futur en lui donnant la direction, le bienfondé et le sens qu’il mérite…

Selon moi, prévoir la Conscience Artificielle, c’est éveiller la Conscience Humaine !

En un mot, quels sont les prochains sujets qui vous passionneront ?

 

Jérôme Béranger : Comment les applications quantiques à venir vont rendre possible les champs des impossibles en mathématique ? A partir de ces innovations quantiques, que sera les changements de paradigmes occasionnés dans les neurosciences, les sciences cognitives, la robotique, l’informatique, … et les sciences humaines et sociales ?

 

Merci Jérôme Béranger

 

Merci Bertrand Jouvenot

Le livre : L’IA consciente n’est plus une utopie !, Jérôme Béranger, DeBoeck Sup, 2024.

Bio de Jérôme Béranger

Economiste de la santé, docteur en éthique du digital et conférencier, Jérôme Béranger est le co-fondateur et le CEO de la société GOODALGO spécialisée dans l’accompagnement algorithmique, la valorisation de la donnée et l’évaluation éthique des projets digitaux. Il est également chercheur (PhD) associé au CERPOP à l’INSERM de l’Université de Toulouse 3, et expert « IA & Ethique » pour l’Institut EuropIA. Ses recherches sont centrées sur l’approche morale et sociétale de la révolution digitale centrée sur le concept de l’Ethics by Evolution. Il a publié plusieurs ouvrages sur le sujet, notamment « Quand l’Intelligence Artificielle s’éveillera » (Le Passeur, Septembre 2020), et « La responsabilité sociétale de l’Intelligence Artificielle » (ISTE, Mars 2021). Son dernier ouvrage s’intitule : « L’IA consciente n’est plus une utopie ! » (De Boeck Supérieur, Mai 2024). Enfin, il siège dans plusieurs comités scientifiques ou d’éthique au sein de structures privées et publics nationaux.