Cher Cédric,
J’aimerais vous inviter à rejoindre et présider le comité de dopage des imaginaires de l’intelligence artificielle.

Dans l’introduction de votre rapport (page 9), on peut lire :

C’est probablement l’alliance entre des projections fictionnelles et la recherche scientifique qui constitue l’essence de ce qu’on appelle l’IA. Les imaginaires, souvent ethno-centrés et organisés autour d’idéologies politiques sous-jacentes, jouent un rôle majeur, bien que souvent négligé, dans la direction que prend le développement de cette discipline. 

Cette importance accordée à l’imaginaire est illustrée par des fictions d’Olivier Paquet et de moi-même proposées dans les pages bleues du rapport… Même si du fait de la couleur et du mélange des textes, ces histoires sont peu lisibles, elles marquent le désir d’accorder de la place à l’imaginaire.

Je vous remercie d’autant pour ces publications que les imaginaires autour de l’intelligence artificielle ont une focale très réduite.

Quand on parle d’intelligence artificielle à d’autres personnes que les « bacs plus 52 » qui ont assisté à la présentation de votre rapport, l’ambiance est binaire. On a d’un côté les paranoïaques (la machine va voler nos boulots et prendre le pouvoir). De l’autre, les solutionnistes : (l’IA va résoudre tous les problèmes). Cette polarisation ferme le champ de réflexion et empêche d’imaginer et de discuter de futurs usages de l’IA.

Les références sont limitées. La première est la série Black Mirror. Le scénariste Charlie Booker s’attaque à toutes les déviances possibles des technos en posant une interrogation : « Si la technologie est une drogue, alors quels en sont les effets secondaires ? ». Les réponses assez noires font parfois frémir, mais permettent aussi de débattre. Cap Digital a, par exemple, organisé un cycle de conférences sur Black Mirror. La deuxième est Her. Dans ce film où un homme tombe amoureux d’une intelligence artificielle, Spike Jonze explore les rapports affectifs entre un humain et une machine. On ajoute à cela Minority Report, systématiquement cité lorsqu’on parle de police ou justice prédictive.

Devant la pauvreté de ce référentiel, il est urgent de construire un solide socle imaginatif. Cette construction s’impose d’autant qu’elle ouvrirait et enrichirait le débat sur l’intelligence artificielle et permettrait d’imaginer des usages inédits. En faisant ce pas de côté, on joue donc gagnant tant du côté de la réflexion éthique que de la création de nouveaux usages. Pour illustrer les atouts d’un dopage de l’imaginaire, je vous propose quelques réflexions autour des fictions publiées dans votre rapport.

Perte de commande raconte l’histoire d’une commande de pizza demain avec un chatbot-commerçant disposant des données personnelles des clients. Taux de cholestérol élevé, activité physique insuffisante… La machine repère et oriente le choix du client. Lors d’une lecture débat dans un atelier en entreprise, un participant a dit : « Ça ne me plaisait pas l’intelligence artificielle, maintenant je sais pourquoi. » Après cette prise de conscience, l’homme a imaginé un chatbot défenseur de ses droits qui discuterait avec le chatbot du vendeur.  Avec de la vulgarisation et une once d’humour, on passe donc de la formalisation d’une réticence inconsciente à une réponse créative.

J’ai travaillé avec les enfants de CM2 sur Questions qui tuent. L’idée était de parler d’éthique. L’histoire est riche en la matière. Il y a un sujet sur les nouvelles formes de procréation et un autre sur la programmation des voitures autonomes. Si les discussions furent animées sur le choix que devraient faire les voitures autonomes (en cas de souci l’engin doit-il tuer un patron d’une grande boîte ou trois migrants ?), j’ai surtout retenu la remarque de Lila : « Moi, je n’aime pas les intelligences artificielles, car elles tuent les noirs. C’est normal, car elles croient que nous sommes des singes ». Après interrogation, Lila faisait référence à l’application de reconnaissance d’images de Google qui a identifié deux Afro-américains comme des gorilles. Vu la subtilité de la gamine, on peut imaginer que de tels amalgames sont fréquents et qu’ils vont freiner l’acceptation de l’IA.

Dans Dérapages contrôlés, nous sommes aussi dans une voiture autonome. Mais là, on s’intéresse plus aux occupants de l’engin : un producteur ayant des gestes plus que déplacés et une jeune comédienne. L’histoire a été co-imaginée dans un atelier. La construction d’une fiction a fait ressortir qu’on ne pensait pas à tous les aspects des rapports personne-machine. On oubliait par exemple, celui où l’humain se sert de la machine pour cacher ses crimes et malversations.

On constate aussi que la construction d’un imaginaire autour de l’IA répond à un besoin de réfléchir à un futur positif. Le cabinet de conseil Bluenove a lancé un projet d’écriture collaborative ouvert à tous autour de l’intelligence artificielle. Les deux ateliers ont affiché complet. Ils ont permis de produire une cinquantaine de micro-fictions. Antoine Brachet pense que toutes donnent matière à réfléchir : « Il y a des pépites d’innovation dissimulées dans chaque récit », affirme l’initiateur du projet intitulé Bright Mirror.

Si l’on en croit un de votre illustre prédécesseur Albert Einstein, « On ne résout pas un problème avec les modes de pensées qui l’ont engendré ». J’en déduis, le pari de l’IA ne peut être gagné que si l’on adopte des méthodes disruptives et inédites pour résoudre les problèmes et surmonter ses handicaps. Comme nombreuses solutions préconisées dans le rapport sont de l’ordre du « plus de » (plus d’argent pour les chercheurs, plus d’ouverture des données, plus de transparence, plus de labs, plus de femmes dans l’IA…), il convient  d’ajouter des perfusions d’imaginaire pour sortir des rails et réinventer l’existant.

Futurs Intelligents veut œuvrer dans le sens de la création d’un imaginaire augmenté (IA+) de l’intelligence artificielle. L’idée est de créer un comité de dopage (des imaginaires) qui va recenser et promouvoir des projets et propositions favorisant un dopage créatif et inciter les pouvoirs publics et les entreprises à financer les meilleurs projets.

Dans un élan fleur bleue, j’ai l’outrecuidance de penser que, d’une part, vous allez être ravi d’accepter mon invitation à présider ce comité de dopage et que, d’autre part, vous aurez à coeur d’influencer les rédacteurs des futurs appels à projets pour que le dopage des imaginaires de l’IA trouve des financements.

Anne-Caroline Paucot, les Propulseurs