L'IA, un apprenti sorcier moderne : responsabilités et défis à l'ère numérique
Le poème "Der Zauberlehrling" (L'Apprenti sorcier) de Johann Wolfgang von Goethe, écrit en 1797, raconte l'histoire d'un jeune assistant qui, en l'absence de son maître, tente d'utiliser la magie pour alléger ses corvées. Cette histoire, popularisée par son adaptation dans le film d'animation Fantasia de Disney en 1940, offre une métaphore étonnamment pertinente des défis que nous rencontrons aujourd'hui avec l'intelligence artificielle (IA).
Dans le poème de Goethe, l'apprenti anime un balai pour qu'il effectue ses tâches ménagères. De manière similaire, nous développons des algorithmes d'IA pour automatiser et optimiser nos processus. L'objectif est louable : accroître l'efficacité, libérer du temps pour des tâches plus créatives, et repousser les limites de nos capacités. Cependant, comme dans le poème, le risque de perte de contrôle est bien réel.
Lire le poème originel
J.W. Goethe : L’élève sorcier
Le vieux maître est enfin sorti, et je prétends que ses génies fassent aussi ma volonté. J’ai bien remarqué les signes et les paroles qu’il emploie, et j’aurai bien la hardiesse de faire comme lui des miracles.
« Allons ! allons ! vite à l’ouvrage : que l’eau coule dans ce bassin, et qu’on me l’emplisse jusqu’aux bords ! »
« Approche donc, vieux balai : prends-moi ces haillons ; depuis longtemps, tu es fait au service, et tu te soumettras aisément à devenir mon valet. Tiens-toi debout sur deux jambes, lève la tête, et va vite, va donc ! me chercher de l’eau dans ce vase. »
« Allons ! allons ! vite à l’ouvrage : que l’eau coule dans ce bassin, et qu’on me l’emplisse jusqu’aux bords ! »
Tiens ! le voilà qui court au rivage !… Vraiment, il est au bord de l’eau !… Et puis il revient accomplir mon ordre avec la vitesse de l’éclair !… Une seconde fois ! Comme le bassin se remplit ! comme les vases vont et viennent bien sans répandre !
« Attends donc ! attends donc ! ta tâche est accomplie ! » Hélas ! mon Dieu ! mon Dieu !… j’ai oublié les paroles magiques ! »
Ah ! ce mot, il était à la fin, je crois ; mais quel était-il ? Le voilà qui revient de nouveau ! « Cesseras-tu, vieux balai ?… » Toujours de nouvelle eau qu’il apporte plus vite encore !… Hélas ! quelle inondation me menace !
Non, je ne puis plus y tenir… Il faut que je l’arrête… Ah ! l’effroi me gagne !… Mais quel geste, quel regard me faut-il employer ?
« Envoyé de l’enfer, veux-tu donc noyer toute la maison ? Ne vois-tu pas que l’eau se répand partout à grands flots ? » Un imbécile de balai qui ne comprend rien ! « Mais, bâton que tu es, demeure donc en repos ! »
« Tu ne veux pas t’arrêter, à la fin !… Je vais, pour t’apprendre, saisir une hache, et te fendre en deux ! »
Voyez-vous qu’il y revient encore ! « Comme je vais me jeter sur toi, et te faire tenir tranquille !… « Oh ! oh ! ce vieux bâton se fend en craquant !… C’est vraiment bien fait : le voici en deux, et, maintenant, je puis espérer qu’il me laissera tranquille.
Mon Dieu ! mon Dieu ! les deux morceaux se transforment en valets droits et agiles !… Au secours, puissance divine !
Comme ils courent ! Salle, escaliers, tout est submergé ! Quelle inondation !… Ô mon seigneur et maître, venez donc à mon aide !… Ah ! le voilà qui vient ! « Maître, sauvez-moi du danger : j’ai osé évoquer vos esprits, et je ne puis plus les retenir ».
« Balai ! balai ! à ton coin ! et vous, esprits, n’obéissez désormais qu’au maître habile, qui vous fait servir à ses vastes desseins. »
Traduction par Gérard de Nerval dans Faust et le Second Faust suivi d’un choix de Poésies allemandes, Garnier frères, 1877 (pp. 327-328).
Prenons l'exemple des algorithmes de trading haute fréquence. Ces systèmes, conçus pour prendre des décisions d'achat et de vente en millisecondes, ont parfois conduit à des "flash crashes" boursiers, comme celui du 6 mai 2010 où l'indice Dow Jones a chuté de 9% en quelques minutes avant de se redresser : https://onlinelibrary.wiley.com/doi/abs/10.1111/jofi.12498
Un autre exemple frappant est celui des chatbots sur les réseaux sociaux.
L'expérience de Microsoft avec Tay, un chatbot Twitter qui a rapidement appris à tenir des propos offensants, illustre comment l'IA peut mal interpréter sa tâche et produire des résultats indésirables : https://www.sciencedirect.com/science/article/pii/S2515856220300493
Dans le film Fantasia, la scène où Mickey se trouve submergé par une armée de balais déchaînés évoque de manière frappante nos craintes actuelles concernant une IA qui échapperait à notre contrôle. Les systèmes d'IA, comme les balais ensorcelés, peuvent interpréter nos instructions de manière littérale, sans nuance, conduisant à des résultats imprévus et potentiellement dangereux.
Dans le poème de Goethe, l'apprenti connaît la formule pour animer le balai, mais ignore celle qui permettrait de l'arrêter. Cette situation reflète notre rapport actuel à l'IA : nous savons la mettre en marche, mais en maîtrisons-nous vraiment tous les aspects ?
Ce défi se manifeste concrètement dans les biais algorithmiques. Des systèmes d'IA utilisés dans le recrutement ou l'évaluation des risques de crédit ont montré des biais discriminatoires, reflétant et amplifiant les préjugés présents dans leurs données d'entraînement : https://dl.acm.org/doi/10.1145/3457607
Un autre défi majeur est le problème de l'alignement en IA : comment s'assurer que les objectifs d'un système d'IA avancé restent alignés avec les valeurs humaines, même lorsque ce système devient plus capable que ses créateurs ?
C'est une question centrale de la recherche en IA, sans réponse définitive à ce jour : https://amzn.to/4h4SwHN
Dans l'histoire de Goethe, c'est le retour du sorcier qui met fin au chaos. Cette intervention rappelle l'importance cruciale de maintenir un contrôle humain sur les systèmes d'IA. Nous devons rester les maîtres sorciers de nos créations, capables d'intervenir, de corriger le tir, voire d'arrêter le processus si nécessaire.
Cette nécessité se reflète dans de nombreux domaines. Par exemple, bien que les systèmes d'IA puissent surpasser les humains dans certaines tâches de diagnostic médical, la décision finale et la responsabilité restent entre les mains des médecins. De même, dans le domaine des véhicules autonomes, la plupart des systèmes actuels prévoient la possibilité d'une reprise en main par un conducteur humain en cas de situation imprévue.
Contrairement à l'histoire de Goethe ou à la scène de Fantasia, nous ne pouvons pas compter sur un magicien tout-puissant pour résoudre les problèmes que nous créons avec l'IA.
Nous sommes collectivement responsables des systèmes que nous développons et déployons.
Cette responsabilité s'articule autour de plusieurs axes :
- L'éducation et la sensibilisation du grand public aux bases de l'IA, ses possibilités et ses limites, sont cruciales pour permettre un débat sociétal éclairé sur son utilisation.
- Une régulation proactive est nécessaire. Les gouvernements et les organisations internationales doivent travailler à l'élaboration de cadres réglementaires qui encouragent l'innovation tout en protégeant contre les risques potentiels.
- L'éthique doit être intégrée dès la conception des systèmes d'IA. Les développeurs ont la responsabilité de prendre en compte les implications éthiques de leurs créations dès les premières étapes de la conception.
- La recherche interdisciplinaire doit être encouragée. La collaboration entre experts en IA, éthiciens, sociologues et décideurs politiques est essentielle pour anticiper et gérer les implications sociétales de l'IA.
En fin de compte, l'histoire de l'apprenti sorcier nous rappelle que la vraie maîtrise ne réside pas seulement dans le pouvoir de créer, mais aussi dans la sagesse de savoir quand et comment utiliser ce pouvoir.
Dans notre quête d'une IA toujours plus puissante, n'oublions pas cette leçon essentielle.
Nous sommes tous des apprentis face à la puissance de l'IA, et c'est notre responsabilité collective d'apprendre à la maîtriser de manière éthique et bénéfique pour l'humanité.