La question qui tue à Louis de Diesbach
ChatGPT est une intelligence artificielle. Puisque le mot intelligence est féminin, nous devrions donc parler d’elle au féminin. Pourtant, tout le monde dit « il » en parlant de ChatGPT. Pourquoi ? Pour comprendre, nous avons posé notre question qui tue à Louis de Diesbach : Pourquoi parlons-nous de ChatGPT au masculin alors qu’il/elle est une intelligence artificielle ?
Louis de Diesbach : Il y a une réponse courte dont on pourrait aisément se satisfaire : notre façon de parler avec ChatGPT n’est que le reflet des biais de notre société.
Cela est exact mais pourrait en laisser certains sur leur faim, à juste titre. Plongeons dès lors davantage dans cette question du genre de ChatGPT en divisant l’interrogation de deux façons : pourquoi nous lui donnons le genre masculin, et pourquoi est-ce que ChatGPT se donne le genre masculin ?
Pour la première partie de la question, nous pouvons d’abord analyser la société dont nous faisons partie et les croyances qui la gouvernent. L’une d’entre elle est, malheureusement, celle qui dit que « le masculin l’emporte » – dès lors, quand on hésite sur le genre, on démarre sur le masculin qui serait supposément un « genre neutre ». Un autre élément de réponse reviendrait à penser la conception du chatbot et dès lors les caractéristiques qui y seraient attachées. On le sait, les ingénieurs qui ont développé Siri ou Alexa les ont conçues comme des servantes, en leur donnant un genre féminin (à ce propos, voir « Les robots émotionnels », Laurence Devillers, L’Observatoire). Répliquant une dialectique nauséabonde d’une femme servante et d’un mâle alpha, ces premières assistantes personnelles auraient donc été reléguées à un second rang sous la domination de leurs créateurs masculins. En ce qui concerne ChatGPT, la logique est tout autre car ChatGPT n’est pas un « assistant personnel », il n’a pas été conçu pour être une servante répondant au moindre désir de ses concepteurs : ChatGPT est plutôt une sorte de génie, de grand savant capable de tout connaître et de tout créer – on lui donne dès lors le genre masculin. Derrière cette attribution du genre se trouve en réalité toute notre conception du genre et de « caractéristiques innées » qui seraient associées à l’homme ou à la femme : le génie reviendrait à l’homme quant à la soumission, elle serait l’apanage des femmes. En nous adressant à la machine de la sorte, c’est tous ces préjugés que nous transportons.
Mais pourquoi diable est-ce que ChatGPT se donne le genre masculin ? On pourrait se dire simplement que la machine n’a pas de préjugés, qu’elle ne peut pas avoir d’avis préconçu sur le genre masculin ou le genre féminin – c’est en réalité tout l’inverse qui se produit ! ChatGPT, en se nourrissant de ce qu’il trouve sur Internet, ne peut essentiellement que répliquer ce qu’il y trouve – en ce compris les biais ! Loin de toute intention machiste ou maladroite, l’outil d’OpenAI régurgite ce qu’il a ingéré lors de son entraînement et ne peut donc que répliquer les idéologies dominantes, c’est-à-dire celles que nous venons d’étayer ci-dessus.
Maintenant que le constat est posé, que devons-nous en faire ? Devons-nous nous flageller de ce que nous portons toute la violence faite envers les femmes à chaque fois que nous écrivons « il » pour ChatGP ? Non – mais ce pronom, qui semble tout anodin, peut nous rappeler que la technologie est avant tout idéologie et politique. La neutralité n’existe pas quand il s’agit de conception technique. Dès lors, quand nous nous adressons à la machine, nous pouvons penser, ou repenser, l’histoire sociale, sociétale ou culturelle qui nous a amenés à lui parler de telle ou telle façon. Et, ce faisant, nous pouvons ouvrir les yeux sur de nouvelles problématiques qui sont, inévitablement, portées par la tech’.
Merci Louis de Diesbach
Merci Bertrand Jouvenot
Commandez le nouveau livre de Louis de Diesbach : Bonjour ChatGPT.
Le principe de la Question qui tue et les règles du jeu sont simples :
1 – L’interview est composée d’une seule et unique question.
2 – Celui ou celle qui répond, doit le faire exclusivement par écrit, via e-mail.
3 – L’interviewé a carte blanche et je n’interviens aucunement sur sa réponse.
4 – La réponse doit contenir à minima une dizaine de lignes, mais peut faire plusieurs pages et pourquoi pas, devenir le point de départ d’un prochain livre de l’interviewé.
5 – Toutes les photos, tous les liens hypertextes, toutes les vidéos, sont les bienvenues.
6 – L’interview est publiée sur le blog de Bertrand Jouvenot et sur Linkedin
7 – L’interviewé fera de son mieux pour répondre aux commentaires laissés sur Linkedin et Twitter notamment.