Un bond en avant dans l’éthique et la sécurité de l’IA

Dans un livre captivant, Taming the Machine, qui traite des avancées profondes et des considérations éthiques de l’intelligence artificielle, Nell Watson aborde l’impact transformateur du deep learning sur la technologie et l’humanité, en soulignant la nécessité de normes éthiques et de mesures de sécurité dans le développement de l’IA. Son livre offre une vue d’ensemble des plus grands défis de l’IA et des conseils pratiques pour naviguer dans ses complexités de manière responsable.
Bonjour Nell Watson, pourquoi avez-vous écrit ce livre… maintenant ?
Nell Watson: J’ai une formation en vision artificielle, c’est-à-dire que j’enseigne aux ordinateurs à donner un sens aux choses sous forme visuelle, comme les images et les vidéos. J’ai déposé des brevets dans ce domaine et j’ai fondé une entreprise qui permet de mesurer le corps à partir de photos prises par un appareil photo, et qui est toujours en activité. Ces technologies ont été fortement favorisées par la vague d’apprentissage profond qui a déferlé aux alentours de 2012. Des problèmes qu’il était impossible de résoudre à l’aide de codes écrits à la main sont soudain devenus triviaux lorsque l’apprentissage profond y a été intégré. Par exemple, nous avions d’énormes difficultés à nous assurer que notre système de mesure du corps mesurait précisément les personnes et non l’arrière-plan derrière elles. Notre système fonctionnait bien, mais seulement 15 % du temps, ce qui était exaspérant. Nous avions une équipe très compétente qui travaillait à l’amélioration de notre algorithme de segmentation d’image personnalisé. Cependant, au moment où nous parvenions à ajuster la pièce, l’entrejambe se cassait à nouveau, ou les bras et les jambes, et c’était un exercice futile. En 2013, j’ai participé à un programme d’été à la Singularity University et j’ai découvert la puissance de la vision artificielle profonde. Rapidement, notre équipe a pu appliquer des techniques de segmentation sémantique à plusieurs centaines d’exemples que nous avons réalisés dans un logiciel de retouche photo. Armés de cet ensemble de données, nos processus de segmentation d’images basés sur l’apprentissage automatique profond ont fonctionné presque parfaitement pour la première fois.
C’est à ce moment-là que j’ai réalisé que nous avions fait un grand pas en avant, un pas qui allait s’amplifier et se développer encore davantage. Ayant acquis beaucoup d’expérience sur le pouvoir croissant de l’IA, je suis devenu un évangéliste pour ces nouvelles techniques incroyablement cool. Cependant, je me suis également senti de plus en plus concerné et j’ai ressenti la responsabilité d’aider à orienter l’humanité dans une meilleure direction, d’autant plus que j’avais contribué à ces développements à ma petite échelle.
Au cours des dix dernières années, j’ai travaillé à l’élaboration d’une série de normes et de certifications pour une IA éthique, en collaboration avec des organisations telles que l’IEEE. Notre travail a permis à l’éthique de l’IA de dépasser les simples principes pour devenir des règles directement applicables.
Ces critères tangibles permettent aux systèmes d’IA – et aux organisations qui les soutiennent – d’être évalués de manière granulaire. Cela signifie que les performances peuvent être contrôlées, encouragées et comparées entre les solutions respectives, ce qui améliore considérablement le pouvoir des consommateurs et des régulateurs, et permet de mettre en œuvre les meilleures pratiques.
D’autres m’ont souvent demandé d’écrire un livre pour distiller les connaissances que j’ai acquises au cours de la dernière décennie. L’éditeur Kogan Page m’a tendu la main et m’a donné la structure dont j’avais besoin pour le faire. Taming the Machine (Apprivoiser la machine) offre une vue d’ensemble des principaux problèmes liés à l’IA et propose des idées directes et pratiques sur la manière d’améliorer les choses.
Je suis fière de couvrir à la fois l’éthique de l’IA (comment utiliser l’IA de manière responsable) et la sécurité de l’IA (comment aligner les systèmes sur le bien-être humain), deux concepts profondément liés, mais dont on parle rarement dans le même souffle. J’ai voulu couvrir toute la gamme, afin de garantir au lecteur une compréhension complète.
Quelles sont les tendances qui émergent et auxquelles vous croyez le plus ?
N. W.: Nous sommes sur le point de voir un énorme bond en avant avec les systèmes d’IA agentique qui peuvent s’adapter et atteindre des objectifs complexes de manière autonome. Ces systèmes s’intègrent à de vastes modèles linguistiques pour fournir des outils d’innovation, de logistique et de gestion des risques.
Cette capacité à gérer par objectifs tout en poursuivant obstinément les buts assignés fait de l’IA une option attrayante pour les rôles décisionnels de haut niveau. Cependant, les capacités de l’IA agentique à atteindre des objectifs de manière indépendante posent des défis éthiques et de sécurité uniques par rapport à d’autres systèmes d’IA, nécessitant un alignement minutieux des objectifs de l’IA sur les valeurs humaines afin d’éviter des conséquences imprévues.
Par exemple, ces systèmes peuvent ne pas savoir quand arrêter de poursuivre un objectif, même en cas de force majeure. Ils peuvent mal interpréter les intentions de l’utilisateur, au lieu de suivre les ordres à la lettre. Ils peuvent prendre des raccourcis pour atteindre des objectifs rapidement, mais de manière dangereuse, et ils peuvent ne pas comprendre les contextes culturels et situationnels de leur environnement d’exploitation, ou ne pas tenir compte des limites de leurs utilisateurs et des tierces parties.
Les gens de tous les jours seront bientôt confrontés à ces problèmes. De la même manière que nous avons des permis pour les voitures et les avions privés, nous pourrions avoir besoin d’une sorte de permis pour travailler avec des machines intelligentes sophistiquées.
Si vous deviez donner un conseil à un lecteur de cet article, quel serait-il ?
N. W.: En ce qui concerne l’IA, il ne s’agit pas de savoir si l’on peut, mais si l’on doit. Les technologies d’IA peuvent être incroyablement puissantes, mais cela peut être séduisant en soi. Nous pouvons faire trop confiance aux systèmes lorsqu’ils semblent bien fonctionner 95 % du temps, mais nous oublions qu’une fois sur 20, les choses peuvent très mal tourner. Alors que les systèmes algorithmiques sont profondément ancrés dans nos vies personnelles et professionnelles, ainsi que dans nos hôpitaux, nos tribunaux et nos armées, les choses tournent de plus en plus mal.
Pour tirer profit de l’IA, nous devons l’utiliser avec prudence, en veillant à ce qu’elle soit transparente, afin que nous puissions comprendre ce qu’un système fait, de quelle manière et au profit de qui.
Cela nous permet de comprendre comment le système peut interpréter la réalité de manière incorrecte ou injuste. Cela nous permet de rendre des comptes, de sorte que lorsque les choses tournent mal, nous le savons et pouvons l’éviter à l’avenir.
Ce n’est qu’avec ces éléments en place que la durabilité pourra profiter des avantages de l’IA.
En bref, quels sont les prochains sujets qui vous passionneront ?
N. W.: Mon livre, Taming the Machine, est accompagné d’une animation qui donne un aperçu des sujets abordés. Cette animation sert également de pilote pour une série animée, que je m’efforce d’obtenir. Cela fournira un autre canal par lequel les idées contenues dans ce livre pourront être diffusées.
Par ailleurs, je travaille sur un jeu web/PC/mobile qui fournira une expérience pratique sur la façon de traiter les questions d’éthique et de sécurité de l’IA dans le cadre de flux de travail professionnels simulés. Cela devrait permettre au public d’acquérir une expérience virtuelle sur la manière de traiter ces questions lorsqu’elles se présentent.
Je travaille également sur un autre livre, qui explore la manière dont les propriétés de la physique peuvent être appliquées pour créer un nouveau système d’éthique, unissant enfin la science et la spiritualité. Il me faudra cependant quelques années pour l’achever !
Merci Nell Watson.
Merci à Bertrand Jouvenot.
Le livre : Apprivoiser la machine, Nell Watson, Kogan Page, 2024.