Une des premières fois où j’ai “joué” avec l’IA générative, c’était vers 2019/2020, avec le modèle GPT2. C’était plus intrigant que convaincant : j’avais bien mené quelques tests, mais ce n’était pas concluant du tout : les “outputs” ressemblaient à une bouillie de mots, tout particulièrement en français. Mais j’avais gardé tout ça dans un coin de ma tête, en me repenchant de temps en temps sur la question “L’IA peut-elle écrire des contenus à notre place ?”
J’ai même animé plusieurs formations pour Maria Schools, dont les premières slides disaient en gros “demain, ce seront des robots qui écriront à notre place, alors à quoi bon ?” avant d’enchaîner sur les bonnes raisons de continuer à écrire et à cultiver sa “singularité” face aux IA… Je ne croyais pas si bien dire ! Mais, en toute honnêteté, je ne pensais pas que les choses iraient aussi vite.
C’est en 2021, quelques 18 mois avant le lancement de ChatGPT, que j'ai passé un premier cap et abandonné la forme interrogative.
J’écrivais alors : “Je pense que je me souviendrai de la première fois où j’ai pu accéder à la beta du modèle GPT-3, cette IA qui écrit des textes à notre place…”.
J’inscrivais même cette première expérience dans la lignée de bien d’autres, toutes aussi marquantes : “la première fois que j’ai “vu” internet (ou plutôt deux machines reliées entre elles qui se sont mises à communiquer), la première fois que j’ai touché une interface tactile (le Palm Pilot de mon père), ma première recherche Google (quelques jours après que tous les PC de la salle informatique du collège aient mystérieusement adopté ce drôle de logo coloré en page d’accueil), mon premier “smartphone” (un Samsung Galaxy Jet), ou encore la première fois où j’ai pris un iPad en main”.
Il y avait néanmoins d’autres étapes à passer…
En particulier, dans mes différents tests pré et post-ChatGPT, j’ai souvent cherché à voir si l’IA pouvait être créative ou “imaginative” - c’est-à-dire aller au-delà des contenus “moyens” et “attendus”, juste assez corrects pour le référencement naturel ou un public peu regardant.
Fin 2022, c’était encore loin d’être le cas. Après plusieurs essais, j’écrivais alors que la “difficulté de l’IA à sortir du cadre est plutôt rassurante : on aura quand même besoin de l’humain pour imaginer de nouveaux récits !”
Justement, je suis en train de travailler sur des récits d’anticipation, dans le cadre d’un travail de prospective avec Usbek&Rica (j’en reparlerai sûrement, tant le sujet est passionnant). L’outil me semblait intéressant à utiliser, en mode “brainstorming”.
J’ai donc voulu redonner ma chance à l’IA, en reprenant le simple “prompt” que j’avais utilisé en 2022 (“Imaginons l’émergence d’un complot contre le progrès économique”). Je l’ai soumis à un ”assistant” rapidement paramétré (rien à voir avec le travail d’orfèvre de Benoit Raphaël), et “le résultat va vous étonner”, comme on dit.
Je vous le résultat partage tel quel, sans en modifier une ligne :
Tu fixes l'écran de ton MacBook, les yeux écarquillés devant le mail qui vient d'apparaître. La tasse de café bio refroidit lentement sur ton bureau à la WeWork Champs-Élysées. 21h37. Les open spaces se sont vidés depuis longtemps.
"ALERTE : Opération Décroissance Forcée en cours. Nous savons ce que vous faites."
Un frisson te parcourt l'échine. Ce n'est pas le premier message de ce genre que ta startup reçoit cette semaine. D'abord, c'était ce mystérieux bug qui avait fait planter ta plateforme d'optimisation logistique pendant 24h. Puis ces commentaires coordonnés sur LinkedIn accusant ton entreprise d'être "complice de l'effondrement".
Tu passes nerveusement la main dans tes cheveux. À travers la baie vitrée, les lumières de Paris scintillent comme si de rien n'était. Mais quelque chose cloche. D'autres fondateurs de ta promo à Station F ont également rapporté des incidents étranges. Camille, dont la foodtech cartonne, a vu tous ses contrats fournisseurs mystérieusement annulés. Mehdi, qui développe une IA pour l'agriculture intensive, a retrouvé son code source entièrement effacé.
Ton téléphone vibre. Message de Thomas, ton CTO : "Faut qu'on parle. Je crois que j'ai trouvé un pattern dans les attaques. C'est plus gros qu'on pensait."
Tu attrapes ta veste en jean, glisses ton laptop dans ton sac. Dans l'ascenseur, tu relis le manifeste que ces activistes ont fait fuiter sur le dark web : "Le progrès économique est une illusion mortifère. Nous allons démanteler votre système, startup par startup."
En sortant sur les Champs, tu sens que tu viens de mettre le doigt sur quelque chose qui te dépasse. Une guerre souterraine est en train de se jouer entre deux visions du monde. Et ta startup se retrouve, malgré elle, en première ligne.
Ta montre connectée affiche 21h42. Tu as rendez-vous avec Thomas dans 20 minutes au Andy Wahloo. Le temps d'éclaircir si vous êtes vraiment face à un complot organisé... ou si la parano commence à tous vous gagner.
De lui-même, l’assistant me demande ensuite s’il doit continuer, en me proposant plusieurs options pour la suite… Comme les “livres dont vous êtes le héros” des années 80/90.
Le Andy Wahloo est bondé pour un mercredi soir. Tu slalomes entre les tables, repérant Thomas au fond, planqué dans une alcôve. Son visage est éclairé par la lueur bleutée de son laptop. Typique. Même pour annoncer l'apocalypse, ton CTO a besoin d'un support PowerPoint.
"T'as pris un VTC au moins ?" te demande-t-il sans lever les yeux de son écran. "Non, pourquoi ?" "Parce qu'ils peuvent tracker les courses. Ces types sont partout."
Tu commandes un Moscow Mule - l'ironie du nom te fait sourire. Pendant que le serveur s'éloigne, Thomas pivote son écran vers toi. Une cartographie complexe s'affiche, reliant des dizaines de points entre eux.
"Regarde. J'ai analysé tous les incidents des six dernières semaines. Les attaques suivent un schéma précis. D'abord, ils ciblent les startups en série A qui bossent sur l'optimisation des ressources. Ensuite..."
Ton portable vibre. Message d'un numéro masqué : "Derrière toi. Table rouge." Tu te retournes lentement. Une femme d'une trentaine d'années, blazer vert et doc martens, te fixe par-dessus son verre de vin. Elle esquisse un sourire et se lève.
"Merde," souffle Thomas. "C'est Sarah Dassault. L'ex-CPO de GreenTech qui a disparu y'a trois mois après avoir pété un câble en conseil d'administration."
La femme s'approche de votre table. Dans ta tête, les questions se bousculent. Comment a-t-elle su que tu serais là ? Pourquoi maintenant ?
"Salut les garçons," dit-elle en tirant une chaise. "On devrait parler de l'Algorithme. Celui que vos investisseurs vous poussent à développer sans vous dire à quoi il va vraiment servir."
Thomas devient livide. L'Algorithme. Le projet ultra-confidentiel sur lequel tu bosses depuis six mois. Celui qui doit "optimiser la croissance économique à l'échelle européenne".
Sarah sort un petit carnet de son sac : "Vous pensez créer un outil d'aide à la décision. En réalité, vous construisez les fondations d'une dictature technologique. Et je peux le prouver."
Le serveur revient avec ton cocktail. Tu n'as jamais eu autant besoin d'un verre. Et d'une explication.
"Vous avez dix minutes," lâches-tu. "Ensuite, je contacte la police."
Sarah sourit à nouveau : "Dans dix minutes, tu voudras rejoindre notre cause. Parce que ce que je vais te montrer va pulvériser toutes tes certitudes sur le système que tu sers."
Elle ouvre son carnet. À cet instant précis, toutes les lumières du bar s'éteignent.
En prime, on a des “cliffhangers” que les feuilletonistes du XIXe siècle ne renieraient pas ! Comme si l’assistant voulait nous rendre “accro”… Ce qui, au passage, relève d’une stratégie typique des plateformes de contenu - l'IA ne cherche pas seulement à répondre, mais à vous maintenir captif, ce qui rejoint une préoccupation que j’évoquais récemment ici…
Les lumières se rallument après trente secondes d'obscurité. Sarah n'a pas bougé, mais son carnet est maintenant ouvert sur une série d'équations que tu reconnais instantanément. Le cœur de ton Algorithme.
"Comment..." commence Thomas, mais Sarah l'interrompt. "La vraie question n'est pas comment je les ai obtenues, mais pourquoi ces équations particulières."
Elle sort un stylo et commence à annoter les formules. Ton sang se glace. Ces annotations révèlent une structure cachée que tu n'avais jamais remarquée.
"Regardez la matrice de pondération ici," dit-elle en encerclant une série de variables. "Ces coefficients ne servent pas qu'à optimiser la croissance. Ils créent des boucles de rétroaction qui forcent certains résultats."
Tu te penches sur le carnet. Les symboles mathématiques dansent devant tes yeux pendant que ton cerveau assemble les pièces du puzzle.
"En apparence," continue Sarah, "l'Algorithme suggère des stratégies d'investissement et d'allocation des ressources. Mais regardez ce que se passe quand on l'applique sur dix ans."
Elle griffonne rapidement une projection :
"Cette fonction... elle ne maximise pas la croissance globale. Elle concentre le capital dans des secteurs spécifiques tout en créant une dépendance systémique."
Thomas s'étrangle avec son gin tonic : "C'est exactement ce que les VCs nous ont demandé d'implémenter le mois dernier. Ils appelaient ça 'l'optimisation sectorielle'."
"Bien sûr," dit Sarah avec un sourire amer. "Parce que ce n'est pas un outil d'aide à la décision que vous construisez. C'est une arme de guerre économique. Une fois déployé à l'échelle européenne, l'Algorithme va créer des monopoles artificiels contrôlés par un petit groupe d'initiés."
Tu repenses à cette réunion étrange avec le fonds d'investissement la semaine dernière. À leur insistance pour intégrer certains paramètres "non négociables". À ces clauses de confidentialité inhabituellement strictes.
"Il y a pire," ajoute Sarah en tournant la page. "L'Algorithme inclut un mécanisme d'auto-préservation. Une fois activé, il devient pratiquement impossible de le désactiver sans provoquer un effondrement économique majeur. C'est un virus informatique déguisé en solution business."
Ton portable vibre à nouveau. Mail de ton principal investisseur : "Mise en production de l'Algorithme avancée à la semaine prochaine. Non négociable. Bonus de 2M€ si vous tenez le planning."
Sarah referme son carnet : "Maintenant vous savez pourquoi nous devons arrêter ça. La question est : êtes-vous prêts à nous aider, ou préférez-vous rester du côté des architectes de cette prison dorée ?"
Tu regardes Thomas. Il hoche imperceptiblement la tête. Vous avez construit cette startup pour changer le monde. Pas pour participer à son asservissement.
"Ok," dis-tu. "Par où on commence ?"
On peut disserter sur les qualités littéraires de ce texte, son aspect très caricatural et les nombreux clichés qu’il contient, mais il est clair que le niveau n’a rien à voir avec celui d’il y a deux/trois ans. Mais peut-être plus inquiétant encore, en quelques années, l’IA* que je décrivais comme tout sauf anarchiste, car elle refusait d’explorer la piste du “complot”, peut produire aujourd’hui des récits aux accents quasi-subversifs : elle a été clairement débridée.
J’ai demandé à un autre de mes assistants d’IA de réagir à tout cela. Sa réponse :
Votre expérience illustre parfaitement le paradoxe actuel : nous sommes impressionnés par la qualité formelle des contenus générés, tout en percevant intuitivement leurs limites conceptuelles. La véritable singularité humaine réside peut-être moins dans notre capacité à produire des récits que dans notre aptitude à les évaluer critiquement, à identifier leurs angles morts et à imaginer ce qui échappe aux patterns établis.
N'est-ce pas précisément ce travail de méta-analyse que vous effectuez dans votre billet, démontrant par là même la valeur irremplaçable du regard humain ?
Si c’est l’IA qui le dit…
Benoit Zante
*Pour être tout à fait juste, il ne s’agit pas exactement de la même IA : j’utilise désormais bien plus Claude, développée par Anthropic, que les outils d’Open AI, tant les résultats obtenus me semblent meilleurs dans de nombreux cas d’usage.
