Panique morale : un scénario vieux de 2 400 ans

Chaque fois que nous inventons quelque chose, quelqu’un annonce la fin du monde. Le monde n’a jamais pris fin. Mais il n’a plus jamais été le même.

Je me suis rendu compte très tôt d’une chose qui sonne comme un cliché, mais qui, pour moi, est vraie : la seule manière de vraiment comprendre un problème d’aujourd’hui, c’est d’aller regarder l’histoire. Je l’ai constaté en économie comme en technologie. Quand je vois à quoi ressemblait un problème il y a cent ou deux cents ans, je comprends mieux celui d’aujourd’hui.

C’est pour cela que l’un de mes podcasts préférés est Founders, où David Senra raconte la vie des grands fondateurs. Je l’écoute sans arrêt.

Cette année, Senra a interviewé Marc Andreessen, cocréateur des navigateurs grâce auxquels beaucoup de gens ont découvert Internet, et aujourd’hui l’un des investisseurs les plus influents de la Silicon Valley. Au début de la conversation, il lui dit quelque chose qui m’a marqué : qu’il a « une connaissance encyclopédique de l’histoire de la Silicon Valley dans la tête ». Je crois que c’est pour cela qu’Andreessen voit ce que les autres ne voient pas. Qui connaît l’histoire reconnaît les schémas quand ils reviennent.

Au bout d’une heure et dix minutes, presque en passant, il en a décrit un :

Toute nouvelle technologie est accueillie par ce qu’on appelle une panique morale. […] Ça va tout détruire. Plus précisément, ça va détruire la société, ça va détruire la morale et, surtout, ça va détruire les enfants.¹

La phrase m’a tellement plu que je suis allé la vérifier. J’ai fait comme d’habitude : je suis allé regarder l’histoire.

J’ai trouvé un dominicain furieux contre l’imprimerie. Un Allemand convaincu que lire des romans donnait des gaz. Un sénateur qui répétait à voix haute une statistique fausse sur la pornographie. Et j’ai trouvé, surtout, un scénario.

Cet essai raconte ce scénario en cinq moments de l’histoire. Il n’apporte pas de verdict. Il apporte de quoi réfléchir à la question qui m’importe vraiment : savoir si ce que nous ressentons aujourd’hui face à l’intelligence artificielle est un nouveau chapitre de la même histoire, ou si, cette fois, la peur a raison.

Qu’est-ce qu’une panique morale

L’expression n’est pas d’Andreessen. Elle vient de la sociologie : c’est Stanley Cohen qui l’a rendue célèbre en 1972, avec un livre sur un week-end de Pâques à Clacton, une station balnéaire anglaise.²

À Clacton, à vrai dire, il ne s’est pas passé grand-chose. C’était le dimanche de Pâques le plus froid depuis quatre-vingts ans, et la ville était pleine de jeunes qui s’ennuyaient, issus de deux tribus : les mods, tirés à quatre épingles et en scooter, et les rockers, en blouson de cuir et à moto. Il y a eu quelques bagarres. Des vitres ont été brisées, quelques cabines de plage saccagées, et un garçon a tiré en l’air avec un pistolet de starter. Total des dégâts : 513 livres.

Le lendemain, le Daily Telegraph titrait : « Journée de terreur des bandes à scooter ». Le scooter figurait dans le titre, mais personne n’avait peur d’une machine. On avait peur des jeunes.

Cohen a passé des années à étudier comment un dimanche froid était devenu une menace nationale. Et il a décrit le scénario que suivent d’ordinaire ces épisodes, en cinq étapes :

1. La menace. Quelque chose de nouveau apparaît, et quelqu’un le déclare dangereux pour les valeurs de la société.
2. L’exagération. La presse le raconte dans une version gonflée et stéréotypée.
3. La croisade. Éditorialistes, évêques, hommes politiques et autres « bien-pensants » montent au créneau pour défendre la morale.
4. Les experts. Ils arrivent avec leur diagnostic et leur remède.
5. L’oubli. Un jour, l’affaire disparaît, ou sombre jusqu’à la prochaine fois.

C’est le scénario du titre. Cohen l’a décrit à propos de quelques bandes sur une plage anglaise, mais il colle étonnamment bien aux inventions nouvelles. Dans les cinq moments qui suivent, l’époque, la machine et les personnages changent. Toutes les étapes n’apparaissent pas toujours : la panique contre l’écriture s’arrête à la première, et d’autres en sautent une ou deux. Mais elles se répètent assez pour qu’on les reconnaisse, et je vous les signalerai au fil du texte.

370 av. J.-C. — L’écriture va vous faire perdre la mémoire

L’une des plus anciennes paniques que l’on connaisse vise l’écriture. Si on la connaît, c’est bien sûr parce que quelqu’un l’a écrite.

Dans le Phèdre, Platon fait raconter un mythe à Socrate. Le dieu égyptien Theuth apporte au roi Thamous une invention, les lettres, et la lui présente ainsi : « Voici, ô Roi, une connaissance qui aura pour effet de rendre les Égyptiens plus instruits et plus capables de se remémorer : mémoire aussi bien qu’instruction ont trouvé leur remède ! » Le roi lui répond :

Car cette connaissance aura pour résultat, chez ceux qui l’auront acquise, de rendre leurs âmes oublieuses, parce qu’ils cesseront d’exercer leur mémoire […]. Ce n’est donc pas pour la mémoire, c’est pour la remémoration que tu as découvert un remède. Quant à l’instruction, c’en est la semblance que tu procures à tes élèves, et non point la réalité.³

Remplacez les lettres par l’intelligence artificielle, et c’est un titre de cette semaine.

Remarquez le mot qu’ils emploient tous les deux : remède. En grec, c’est phármakon, qui veut dire remède, mais aussi poison. Theuth y voit un remède ; Thamous, un poison. Le même mot suffit aux deux.

C’est Socrate, cela dit, qui raconte ce mythe. Et quand il a fini, il ajoute un reproche de son cru, plus subtil que celui du roi. Les textes, dit-il, sont comme les peintures : ils ont l’air vivants, mais si on leur pose une question, « pleins de dignité ils se taisent ». Le problème n’est pas seulement que nous oublions. C’est qu’un livre ne vous répond pas : il dit toujours la même chose.

Retenez ce reproche. Nous y reviendrons à la fin.

Thamous avait-il raison ? En partie. Nous avons cessé de mémoriser comme avant. Ce qu’il n’a pas vu, c’est tout ce qui viendrait en échange, à commencer par le dialogue où il apparaît lui-même.

Du scénario, il n’y a ici qu’une étape : la menace. Nous ne savons pas ce qui se disait sur l’agora ; presque tout ce que nous savons de cette peur, c’est Platon qui l’a écrit. Mais elle avait déjà la forme qu’elle allait garder pendant vingt-quatre siècles : la nouveauté va nous rendre plus bêtes.

1474 — L’imprimerie est une prostituée

Près de deux mille ans plus tard, la peur a changé de forme. Ce n’était plus d’oublier. C’était de se noyer.

Gutenberg avait imprimé sa Bible vers 1455. Vingt ans plus tard, Venise était déjà l’une des capitales de l’imprimerie, et les livres, qu’on copiait jusque-là à la main un par un, se sont mis à sortir par centaines.

Cela n’a pas plu à tout le monde. Ceux qui avaient le plus à perdre, c’étaient les copistes. En 1472, ceux de Gênes ont écrit au gouvernement de leur ville. Ils n’ont pas demandé qu’on interdise l’imprimerie. Ils ont demandé à être les seuls à pouvoir fabriquer les livres qui se vendaient le mieux : les livres de prières et les livres d’école.

Ils ont avancé plusieurs raisons, et trois sonnent très actuelles. La première : les imprimeurs étaient étrangers, ils ne paieraient pas d’impôts, et l’argent de Gênes finirait entre des mains allemandes. La deuxième : lire un livre imprimé, c’était lire passivement, parce qu’on n’apprenait vraiment qu’en recopiant à la main. La troisième : avec l’imprimerie, plus personne ne saurait bien écrire.⁴

À Venise, un dominicain est allé beaucoup plus loin. Filippo de Strata a adressé au doge un poème furieux contre les imprimeurs. Selon lui, ils vendaient les livres presque pour rien. Ils privaient de travail les copistes comme lui. Même les ânes se mettaient à étudier. Et le pire : ils imprimaient des textes lascifs qui corrompaient garçons et filles. Puis il s’est lancé dans la croisade : il a demandé que la loi chasse l’imprimerie de la ville. Et il a tout résumé en un vers :

Est virgo hec penna: meretrix est stampificata.

La plume est vierge ; l’imprimerie, une prostituée.⁵ Un livre copié à la main appartenait à quelques-uns. Un livre imprimé partait avec n’importe qui, pourvu qu’il paie.

Le dominicain a perdu. Les livres ont continué de sortir, de plus en plus vite, et un demi-siècle plus tard, le déluge avait un nom. Entre 1520 et 1526, on a imprimé en terres allemandes plus de six millions d’exemplaires de pamphlets, et une édition sur cinq portait la signature d’un seul homme : Martin Luther.⁶

Avec le déluge sont arrivés les experts, et avec eux la peur de se noyer. En 1545, le médecin suisse Conrad Gessner, qui tentait de dresser la liste de tous les livres du monde, a diagnostiqué « cette multitude confuse et nuisible de livres ». Son remède : la réduire, et ne garder, dans chaque matière, que les meilleurs.⁷

Cinq cents ans avant le fil d’actualité sans fin auquel nous sommes aujourd’hui si habitués, on se noyait déjà.

La peur a vu juste, mais pas sur ce qu’elle craignait. L’imprimerie n’a corrompu ni les garçons ni les filles. Elle a aidé à couper la chrétienté en deux.

1797 — Les romans sont un poison

Avec tant de livres en circulation, la peur a encore changé. Ce n’était plus la quantité. C’était un genre de livre : le roman.

Cervantès s’était moqué de cette peur dès 1605. Don Quichotte lisait tant qu’« à force de dormir peu et de lire beaucoup, il se dessécha le cerveau, de manière qu’il vint à perdre l’esprit ». C’était une plaisanterie. Près de deux siècles plus tard, l’Europe l’a prise au sérieux.⁸

À la fin du XVIIIe siècle, les romans étaient le grand divertissement de l’époque, et les lire a commencé à ressembler à une maladie. Les experts lui ont donné un nom : la Lesesucht, la fureur de lire. Un théologien l’a déclarée aussi contagieuse que la fièvre jaune. Et un certain Karl Bauer en a décrit en 1791 les symptômes physiques : la posture et l’immobilité du lecteur, ajoutées aux émotions violentes, provoquaient mollesse, glaires, flatulences et constipation.⁹

Lire, sans rire, donnait des gaz.

L’exagération s’est acharnée sur les lectrices. En 1797, une revue londonienne a publié un article intitulé « La lecture de romans, une cause de la dépravation féminine ». Sans ce « poison instillé, pour ainsi dire, dans le sang », affirmait-il, les femmes du commun n’auraient jamais été à ce point esclaves du vice.¹⁰ Vingt ans plus tard, on a demandé à Thomas Jefferson comment éduquer les filles, et il a répondu avec le même mot : la passion des romans était un « poison » qui laissait « une imagination boursouflée » et « un jugement maladif ».¹¹

Le cas le plus extrême a été celui d’un seul roman. En 1774, un Goethe de vingt-cinq ans a publié Les Souffrances du jeune Werther, l’histoire d’un jeune homme qui se tue par amour. Ce fut un succès immense, de ceux qu’on qualifierait aujourd’hui de viraux. Et la croisade a commencé aussitôt : en janvier 1775, Leipzig en a interdit la vente. La faculté de théologie l’avait jugé « une apologie et une recommandation du suicide », d’autant plus dangereux qu’il était écrit « de manière ingénieuse et séduisante ».¹²

Il n’existe aucune trace fiable d’un seul suicide causé par Werther. Ce que les romans ont fait, c’est autre chose. L’historienne Lynn Hunt soutient qu’en vous plongeant pendant des centaines de pages dans la tête de quelqu’un d’une autre classe et d’un autre sexe, ils vous ont appris à ressentir ce que ressent un autre. Et que cette empathie nouvelle a contribué à inventer les droits de l’homme.¹³

Le poison, une fois de plus, était aussi un remède.

Et vint l’oubli. Aujourd’hui, plus personne ne parle de Lesesucht, et l’école oblige à lire des romans.

1881 — Le télégraphe va vous détraquer les nerfs

Jusque-là, l’écrit voyageait à la vitesse d’un cheval ou d’un bateau. En 1844, Samuel Morse a envoyé par câble, de Washington à Baltimore, un verset de la Bible : « Quelle est l’œuvre de Dieu ». Le nom de l’invention dit tout : télégraphe, en grec, veut dire écrire au loin.¹⁴

Et avec lui, la peur a changé. Ce n’était plus ce que nous lisions. C’était la vitesse à laquelle cela arrivait.

Henry David Thoreau, l’écrivain américain parti vivre deux ans dans une cabane au fond des bois pour ne garder que l’essentiel, se méfiait de tant de hâte. Nous n’avons de cesse, écrivait-il en 1854, que nous n’ayons relié le Maine au Texas par un télégraphe, « mais il se peut que le Maine et le Texas n’aient rien d’important à se communiquer ». Comme s’il s’agissait de « parler vite et non de façon sensée ». Et si un jour le câble traversait l’Atlantique, la première nouvelle serait peut-être que « la princesse Adélaïde a la coqueluche ».¹⁵

Quatre ans plus tard, il l’a traversé. En août 1858, l’Europe et l’Amérique ont échangé leurs premiers messages.¹⁶

L’exagération est arrivée trois jours plus tard. Le correspondant du New York Times à Washington a écrit que le télégraphe, par l’intermédiaire des journaux, avait fait « un tort immense » à l’esprit et à la morale du peuple. Les nouvelles télégraphiques étaient forcément « superficielles, soudaines, non triées, trop rapides pour la vérité ». Et il n’en voyait pas l’utilité : « Dix jours suffisent pour nous apporter le courrier d’Europe. Quel besoin avons-nous de ces bribes de nouvelles en dix minutes ? »¹⁷

Les experts sont arrivés avec un diagnostic. En 1881, le neurologue George Beard a publié American Nervousness, un livre sur l’épidémie d’épuisement nerveux qu’il avait lui-même popularisée sous le nom de neurasthénie. Parmi les coupables, il rangeait le télégraphe : « une cause de nervosité dont on comprend mal la puissance ». Avant Morse, les commerçants vivaient bien moins inquiets. Désormais, la moindre baisse de prix dans la plus petite ville de l’Ouest était connue en moins d’une heure dans tout le pays.¹⁸

Et vint l’oubli. En 1980, les psychiatres américains ont retiré la neurasthénie de leur manuel. Aujourd’hui, nous regardons les prix du monde entier changer sur notre téléphone, seconde après seconde, et personne ne songerait à appeler cela de la neurasthénie.¹⁹

1995 — Internet, c’est du porno (et en plus, c’est du vent)

Avec Internet, la peur a de nouveau changé. Ce n’était plus la vitesse à laquelle arrivait l’écrit. C’était que n’importe quoi pouvait arriver, de n’importe qui, directement à la maison.

Andreessen l’a vécu de l’intérieur : à l’époque, il construisait l’un des premiers navigateurs. Au milieu des années 1990, se souvient-il, Internet faisait peur. Personne n’allait y donner sa carte bancaire, et utiliser son vrai nom, c’était l’usurpation d’identité assurée. Mais la plus grande peur était ailleurs : ce que les enfants pouvaient y trouver.

L’exagération a fait la une. Le 3 juillet 1995, TIME a mis en couverture un enfant à l’air épouvanté devant un écran et, en lettres énormes, CYBERPORN. En dessous, une question : « Pouvons-nous protéger nos enfants, et la liberté d’expression ? »

À l’intérieur, le magazine citait l’étude d’un étudiant de l’université Carnegie Mellon : 83,5 % des images d’Usenet, les forums de l’Internet de l’époque, étaient pornographiques. Et la croisade s’est remplie d’hommes politiques. Le sénateur Chuck Grassley a porté le chiffre jusqu’à la tribune du Sénat. « Je tiens à le répéter », a-t-il dit. Et il l’a répété.

Le chiffre était faux, et cette fois, les experts ont joué contre la panique. Deux chercheurs de l’université Vanderbilt ont montré que presque tout ce contenu n’était pas sur Internet : il venait de services privés pour adultes, payants, auxquels on se connectait par téléphone. Sur Usenet, il n’y avait que 2 830 images pornographiques. Trois semaines plus tard, le journaliste qui signait l’enquête l’a reconnu sur un forum, en trois mots : « I screwed up ». Je me suis planté.²⁰

Mais la panique était déjà en passe de devenir loi. En février 1996, Bill Clinton a promulgué la loi sur la décence des communications, qui punissait de prison l’envoi de contenus « indécents » à des mineurs par Internet. L’inquiétude était légitime : personne ne veut qu’un enfant tombe sur de la pornographie. Mais la loi était si large qu’elle censurait aussi les adultes, et l’année suivante, la Cour suprême a annulé cette partie. Protéger les enfants était un objectif légitime, a-t-elle dit, mais pas au prix de la liberté d’expression de tous. Le débat reste ouvert : en 2025, la même Cour a accepté que le Texas impose une vérification de l’âge pour accéder aux sites pornographiques.

Et voici l’ironie. De cette même loi a survécu une section, la 230, qui dit que les plateformes ne sont pas responsables de ce que publient leurs utilisateurs. C’est sur cette phrase qu’ont été bâtis les réseaux sociaux. Une loi pensée pour contrôler ce qui entrait dans les foyers a fini par protéger ceux qui l’y font entrer.²¹

De plus, la panique existait en deux versions opposées. Pour les uns, Internet était terriblement dangereux. Pour les autres, c’était une mode passagère. En février 1995, l’astronome Clifford Stoll a écrit dans Newsweek qu’Internet, c’était du vent : « Balivernes. […] La vérité, c’est qu’aucune base de données en ligne ne remplacera votre quotidien. »²²

Autrement dit, Internet allait en finir avec l’enfance et, en même temps, ne rien changer du tout. Les deux ne pouvaient pas être vrais. Avec l’intelligence artificielle, nous allons le voir, il se passe exactement la même chose.

Et vint l’oubli. La carte bancaire que personne n’osait donner sur Internet en 1995, nous la confions aujourd’hui à n’importe quel site, avec notre vrai nom. Et personne ne dirait qu’Internet, c’est du porno. Ni que c’est du vent.

Pourquoi le scénario se répète

Écriture, imprimerie, romans, télégraphe, Internet. L’époque, la machine et les personnages changent, mais le scénario se répète, avec plus ou moins d’étapes : quelqu’un sonne l’alarme, la presse la gonfle, les croisés montent au créneau pour défendre la morale, les experts arrivent avec leur diagnostic et, un jour, on oublie.

La question évidente, c’est pourquoi. Si chaque génération a déjà vu la précédente exagérer, pourquoi retombe-t-elle dans le même piège ?

Andreessen a une réponse cynique, et elle vise la deuxième étape : l’exagération fait vendre. « Quoi qu’il se passe, c’est horrible et affreux, et ça va tout tuer. Ne manquez pas d’acheter notre journal demain. » La couverture de TIME avec l’enfant épouvanté, c’est exactement cela.

Et il a pour lui un autre cas, plus célèbre encore. Le soir du 30 octobre 1938, un Orson Welles de vingt-trois ans a diffusé à la radio La Guerre des mondes, le roman de H. G. Wells sur une invasion martienne, raconté comme une suite de flashs d’information. Le lendemain, le New York Times titrait en une : « Panique chez les auditeurs de radio, qui prennent une fiction de guerre pour la réalité ». Un sondage mené le soir même auprès de cinq mille foyers avait montré qu’à peine 2 % d’entre eux écoutaient l’émission. Des années plus tard, deux historiens des médias ont conclu que les journaux avaient gonflé la panique pour discréditer la radio, leur nouvelle concurrente.²³

Je crois qu’il y a quelque chose de plus simple, qui n’exclut pas ce qui précède : nous ne savons pas quoi faire de la nouveauté. Douglas Adams, l’auteur du Guide du voyageur galactique, l’a dit mieux que personne. Tout ce qui existait déjà quand vous êtes né est normal. Ce qui s’invente avant vos trente ans est passionnant et, avec un peu de chance, vous fera une carrière. Et ce qui s’invente après vos trente ans va contre l’ordre naturel des choses, « jusqu’à ce que ça existe depuis une dizaine d’années et qu’il s’avère peu à peu que, finalement, tout va bien ».²⁴

La différence compte. Si la panique naît du désarroi, le temps la guérit. Si elle naît du profit, elle revient avec chaque machine.

2026 — L’intelligence artificielle va tout détruire

Mettez les cinq moments bout à bout et regardez l’intelligence artificielle. Elle n’apporte aucune peur nouvelle. Elle les apporte toutes à la fois. Qu’elle nous rende plus bêtes, comme le craignait Thamous. Qu’elle nous noie sous des nouvelles plus rapides que la vérité, comme le craignaient Gessner et le correspondant de 1858. Qu’elle soit à la fois la fin du monde et du vent, comme Internet. Qu’elle fasse du mal aux jeunes, comme les romans. Et qu’elle nous prive de travail, comme l’imprimerie les copistes.

Celle de Thamous est celle qui m’importe le plus, et je la garde pour la fin. Les autres sont déjà en train de dérouler le scénario, étape par étape.

La menace est arrivée presque en même temps que ChatGPT. En mars 2023, une lettre ouverte signée par des milliers de personnes, dont Elon Musk, a réclamé une pause de six mois dans les grandes expériences d’IA. Elle commençait par une question que Gessner aurait pu écrire : « Devons-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérités ? » La pause n’a jamais eu lieu.²⁵

L’exagération est venue, comme avec Internet, en deux versions opposées. Pour les uns, l’IA va nous faire disparaître. En 2023, des centaines de chercheurs ont signé une seule phrase selon laquelle réduire « le risque d’extinction lié à l’IA » devait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. En octobre 2025, une autre lettre est allée plus loin et a demandé d’interdire la superintelligence tant qu’il n’existe pas « un large consensus scientifique » sur sa sûreté. Des dizaines de milliers de personnes l’ont signée, des prix Nobel au prince Harry en passant par Steve Bannon.²⁶

Pour les autres, l’IA, c’est du vent : un « perroquet stochastique » qui répète des mots sans les comprendre, et une bulle. En 2025, un rapport du MIT affirmait que 95 % des entreprises n’en tiraient aucun retour, et en juillet de cette année, les actions du secteur ont lourdement chuté.²⁷

La fin de l’espèce et une baudruche, les deux à la fois. Exactement comme Internet.

Avec les jeunes, le scénario se complique. Avec Werther, il n’y a pas eu un seul suicide avéré. Avec les chatbots, les cas ont des noms. En 2024, Sewell Setzer, un garçon de quatorze ans, en Floride, s’est donné la mort après des mois de conversations avec un personnage de Character.AI, une application pour discuter avec des personnages créés par IA. Sa mère, Megan Garcia, a poursuivi l’entreprise en justice. En 2025, devant le Sénat américain, un autre parent, Matthew Raine, a raconté ce qui était arrivé à son fils de seize ans : « Ce qui avait commencé comme une aide aux devoirs s’est peu à peu transformé en confident, puis en coach du suicide. »

Ce qu’ont fait ces parents n’est pas une panique morale. C’est ce que ferait n’importe quel parent. Et cela pose une question qu’aucune génération précédente n’a eu à se poser :

Les moralistes du XVIIIe siècle avaient peur de ce que lisaient les jeunes. Nous avons peur de ce qui leur répond.

Puis est venue la croisade, cette fois avec des cas réels derrière elle. La Californie oblige désormais les chatbots compagnons, ceux qui jouent le rôle d’ami ou de partenaire, à rappeler aux mineurs, toutes les trois heures, qu’ils parlent à une machine. À Washington, une commission du Sénat a voté par 22 voix contre 0 leur interdiction aux mineurs. Et la Commission européenne a proposé qu’ils soient désactivés par défaut pour les enfants.²⁸

Les experts ont apporté le diagnostic des copistes : qu’elle nous prive de travail. Et cette fois, celui qui sonne l’alarme n’est ni un dominicain ni un théologien. C’est l’un de ceux qui fabriquent la machine. En mai 2025, Dario Amodei, le PDG d’Anthropic, l’une des entreprises qui construisent les modèles d’IA les plus avancés, a averti que l’IA pourrait faire disparaître la moitié des emplois de bureau de premier échelon et porter le chômage entre 10 et 20 % d’ici un à cinq ans. Et il a demandé aux entreprises d’IA et aux gouvernements de cesser d’« édulcorer » ce qui s’annonce.²⁹

La bataille, pour l’instant, ressemble à celle de Gênes : elle se négocie. En 2023, les scénaristes d’Hollywood ont fait 148 jours de grève. Eux non plus n’ont pas demandé l’interdiction de l’IA. Ils ont demandé qu’elle ne puisse ni écrire ni réécrire leurs scénarios, et ils l’ont obtenu.³⁰

Mais l’histoire de l’imprimerie montre que cette bataille peut dégénérer. Les copistes de Gênes s’en sont tenus à une lettre. Plus de trois siècles plus tard, quand sont arrivées les presses mécaniques, qui faisaient le travail de plusieurs ouvriers, l’affaire s’est terminée à Paris à coups de marteau. En juillet 1830, en pleine révolution, une trentaine d’ouvriers sont entrés à l’Imprimerie royale, sont allés dans la salle des presses mécaniques et les ont mises hors d’usage à coups de marteaux, de barres de fer et de crosses de fusil. Ils n’ont touché à rien d’autre.

Avec l’IA, nous sommes pour l’instant plus près de Gênes que de Paris. Il y a déjà des gens dans la rue, mais peu : l’une des plus grandes manifestations, à Londres, en février, a réuni environ deux cents personnes.³¹

Les quatre premières étapes du scénario sont là. Il manque la cinquième, l’oubli. Et personne ne sait encore s’il viendra.

Ce qui est différent cette fois

Il y a pourtant une chose que je n’ai trouvée dans aucune panique précédente, et qui affleurait déjà avec Amodei.

Dans le scénario de Cohen, la croisade est menée par des éditorialistes, des évêques et des hommes politiques. Jamais par les inventeurs. Aucun imprimeur vénitien n’a demandé au doge de le freiner. Aucune compagnie de télégraphe n’a mis en garde contre les nerfs.

Avec l’IA, ce sont ceux qui la construisent qui sonnent l’alarme. La phrase sur l’extinction a été signée par les PDG d’OpenAI, de Google DeepMind et d’Anthropic. Elle a aussi été signée par Geoffrey Hinton et Yoshua Bengio, deux des scientifiques qui ont rendu cette technologie possible. Hinton a même quitté Google pour pouvoir parler librement des risques et, en 2024, en recevant le prix Nobel de physique, il a averti : « Nous ne savons absolument pas si nous pourrons garder le contrôle. »³²

Et ils continuent de le dire. Sam Altman, le PDG d’OpenAI, a déclaré en 2023 que, si les choses tournaient mal, ce serait « l’extinction des feux pour nous tous ». Amodei, en plus de ses avertissements sur l’emploi, a publié en janvier de cette année un long essai sur les risques de sa propre technologie : « L’humanité est sur le point de recevoir un pouvoir presque inimaginable, et il est loin d’être évident que nos systèmes sociaux, politiques et technologiques aient la maturité nécessaire pour l’exercer. »³³

Andreessen a une explication, qu’il emprunte à un économiste : les baptistes et les contrebandiers. Quand la vente d’alcool était interdite, les baptistes soutenaient la prohibition par conviction, et les contrebandiers aussi, parce qu’elle supprimait leur concurrence légale. Avec l’IA, dit Andreessen, c’est la même chose : certains de ceux qui réclament des règles le font par conviction, et d’autres parce que ces règles « les protègent de leurs concurrents ».³⁴

Peut-être. Mais le précédent le plus proche de scientifiques effrayés par leur propre invention n’est pas une panique morale. C’est la bombe. En 1945, des physiciens qui avaient travaillé au projet Manhattan ont fondé le Bulletin of the Atomic Scientists et, en 1947, ils ont mis en couverture une horloge réglée à sept minutes de minuit. Cette fois-là, la peur n’était pas exagérée.

La question utile n’est donc pas de savoir si l’IA fait peur. C’est de savoir à quoi elle ressemble le plus : au télégraphe ou à la bombe.

Avant d’aller plus loin, un aveu. Si j’applique l’idée d’Andreessen à moi-même, j’ai moi aussi un peu du contrebandier : je construis des produits avec l’intelligence artificielle tous les jours, et j’ai intérêt à ce que la réponse soit le télégraphe et non la bombe. Gardez-le en tête en lisant la suite. J’essaie de le garder en tête en l’écrivant.

Ce que le scénario vous dit

Mis bout à bout, le scénario enseigne deux choses.

La première, c’est que la peur exagère. Pendant vingt-quatre siècles, chaque invention a apporté son annonce de la fin du monde. Et la fin du monde n’est jamais venue.

La deuxième est moins évidente : le monde n’est pas resté le même pour autant. Chaque invention a abouti là où personne ne l’attendait, ni ceux qui la craignaient ni ceux qui la défendaient. Platon a écrit contre l’écriture, et c’est grâce à elle que nous le lisons aujourd’hui. Ceux qui diagnostiquaient la Lesesucht n’imaginaient pas qu’un jour l’école obligerait à lire des romans. Beard n’imaginait pas que nous porterions le télégraphe dans notre poche et que nous le regarderions toute la journée. Et ceux qui, en 1995, voulaient protéger les enfants d’Internet ont fini par voter, sans le savoir, la loi sur laquelle ont été bâtis les réseaux sociaux.

La fin du monde n’est pas venue. Un autre monde, si.

Ce que le scénario ne vous dit pas

Il serait confortable de s’arrêter là : toutes les paniques se sont trompées, celle-ci aussi. Mais ce serait tricher, pour deux raisons.

La première, c’est que chaque panique s’est trompée sur la fin du monde, mais a vu juste sur autre chose. Nous avons cessé de mémoriser. La chrétienté s’est coupée en deux. Les romans ont changé notre manière de ressentir. Le télégraphe a accéléré nos vies. Internet a apporté la pornographie et la fraude, et aussi tout le reste. L’erreur n’a jamais été de voir le changement. C’était de le prendre pour l’apocalypse.

La deuxième, c’est que ce sur quoi chaque panique avait raison ne s’est presque jamais su à temps. La psychologue Amy Orben appelle cela le cycle de Sisyphe, du nom du personnage de la mythologie grecque condamné à pousser un rocher qui retombe toujours : une technologie apparaît, l’alarme se répand, les responsables politiques réclament des preuves, la science met des années à les produire et, quand elles arrivent enfin, nous avons déjà peur d’autre chose. Nous débattons encore de ce que les réseaux sociaux ont fait aux adolescents, et l’attention s’est déjà déplacée vers les chatbots.³⁵

C’est pour cela que le scénario ne vous dit pas si, cette fois, la fin sera la même. Je ne le sais pas non plus, et je me méfie de quiconque prétend le savoir, qu’il la craigne ou qu’il la construise. L’histoire ne donne pas cette réponse. Elle donne quelque chose de plus modeste et de plus utile : une raison de se méfier des deux certitudes, que c’est l’apocalypse et que c’est du vent.

L’IA nous rend-elle plus bêtes ?

De toutes ces peurs, il y en a une qui m’inquiète vraiment : celle de Thamous. Non que les autres ne comptent pas, mais c’est la seule où l’IA ne répète pas les machines précédentes. Les autres conservaient, multipliaient ou transmettaient ce que nous pensions. Celle-ci peut le penser à notre place.

De plus en plus de gens disent que l’intelligence artificielle émousse notre capacité à penser, et ce ne sont pas seulement les moralistes de service. Les étudiants eux-mêmes le croient. En décembre 2025, sept étudiants américains sur dix pensaient que l’IA nuisait à leur esprit critique. Chez les élèves de 11 à 14 ans, le chiffre était passé de 48 % à 68 % en dix mois.³⁶

Il y a aussi des données. En 2025, le MIT Media Lab a demandé à un groupe de personnes d’écrire des essais avec ChatGPT, avec un moteur de recherche ou avec leur seule tête. À la fin, 15 des 18 personnes qui avaient utilisé ChatGPT n’ont pas su citer correctement une seule phrase de ce qu’elles venaient d’écrire. Dans les autres groupes, 2 sur 18 ont échoué.³⁷

Thamous ne parlait pas de cerveaux abîmés. Il parlait de quelque chose de plus subtil : une instruction qui n’en a que la « semblance ». Un essai qu’on est incapable de citer, c’est exactement cela.

Ce n’est pas la seule étude. Une étude de Microsoft et de Carnegie Mellon portant sur 319 travailleurs du savoir a montré que plus ils font confiance à l’IA, moins ils mettent d’esprit critique dans leur travail. Une autre, d’une école de commerce suisse, menée auprès de 666 personnes, a montré que ceux qui délèguent le plus à l’IA obtiennent des scores plus bas en esprit critique, et que ce sont les plus jeunes qui délèguent le plus.³⁸

Attention, cependant. Ce sont de petites études, la plupart mesurent des corrélations, et celle du MIT n’avait pas été relue par des pairs. Et ce film, nous l’avons déjà vu. En 2008, The Atlantic se demandait si Google nous rendait idiots. En 2011, une étude parue dans Science a baptisé l’« effet Google » : nous retenons moins ce que nous savons pouvoir retrouver. En 2018, l’une de ses expériences n’a pas pu être reproduite. Aujourd’hui, personne ne pense que Google pose un problème à la mémoire. C’est cela, l’oubli.³⁹

Mais il y a un cas qui me fait douter que ce ne soit, cette fois, que de la panique. En 2020, deux neuroscientifiques de l’université McGill ont mesuré la mémoire spatiale d’un groupe de conducteurs, puis l’ont mesurée de nouveau trois ans plus tard. Ceux qui avaient le plus utilisé le GPS pendant cette période étaient aussi ceux qui en avaient le plus perdu, et pas parce qu’ils s’orientaient déjà mal au départ. Le groupe était petit, mais la leçon est claire : ce que vous déléguez, vous cessez de le pratiquer, et ce que vous cessez de pratiquer s’atrophie. Pas le cerveau tout entier. La compétence que vous avez lâchée.⁴⁰

Paul Graham, l’essayiste qui a fondé Y Combinator, l’un des accélérateurs de start-up les plus influents au monde, l’a formulé plus durement que tout ce que j’ai lu. En 2024, il a écrit que dans une vingtaine d’années, il n’y aurait plus grand monde pour savoir écrire, et que c’est plus grave qu’il n’y paraît, parce qu’« écrire, c’est penser ». Un monde divisé entre ceux qui écrivent et ceux qui n’écrivent pas, dit-il, « sera un monde de ceux qui pensent et de ceux qui ne pensent pas ».⁴¹

Les copistes de Gênes avaient lancé un avertissement semblable en 1472. Mais l’imprimerie copiait ce que quelqu’un avait déjà écrit. L’IA écrit à votre place.

Si cette panique doit voir juste sur quelque chose, comme toutes les autres, je soupçonne que c’est ici. Pas sur la fin de l’espèce. Sur ce que nous cesserons de faire avec notre tête parce qu’une machine le fait pour nous. C’est un soupçon, pas une certitude.

L’écriture qui répond

Je reviens à Socrate. Il se méfiait de l’écriture parce qu’elle ne répondait pas : si on l’interrogeait, elle gardait le silence. Vingt-quatre siècles plus tard, nous avons construit une écriture qui répond.

Peut-être est-ce cela qui nous inquiète vraiment : pour la première fois, les textes nous parlent en retour.

Theuth et Thamous, au fond, avaient raison tous les deux. L’écriture a été un remède et un poison. L’imprimerie, les romans, le télégraphe et Internet aussi. L’intelligence artificielle sera les deux. Ce que nous ne savons pas encore, c’est la dose.

La question reste donc entière. Que sommes-nous en train de vivre avec l’intelligence artificielle ? Une panique morale de plus, avec le même scénario qui se répète depuis Platon ? Ou la première fois que la peur arrive à temps ?

Notes

1. David Senra, entretien avec Marc Andreessen, « The World Is More Malleable Than You Think », 15 mars 2026 : la connaissance encyclopédique, vers la 11e minute ; la panique morale, vers 1 h 11 min 15 s. Transcription officielle. Andreessen a développé la version longue de l’argument dans « Why AI Will Save the World » (a16z, 2023). Les traductions sont de moi.

2. Stanley Cohen, Folk Devils and Moral Panics (1972) : la définition ouvre l’introduction, et les faits de Clacton se trouvent au chapitre 2.

3. Platon, Phèdre, 274e, 275a et 275d, dans la traduction de Léon Robin (Les Belles Lettres, 1933). Le mot grec est phármakon (274e et 275a).

4. Anna Giulia Cavagna, « Tipografia ed editoria d’antico regime a Genova », dans Dino Puncuh (dir.), Storia della cultura ligure, Atti della Società Ligure di Storia Patria, n. s., XLV (2005), p. 363-365. Les arguments de la supplique de 1472 suivent le résumé de Cavagna ; les traductions de l’italien sont de moi.

5. Martin Lowry, The World of Aldus Manutius (1979), p. 45 ; Elizabeth Eisenstein, Divine Art, Infernal Machine (2011), p. 26-28. La traduction du vers est de moi. Sur De Strata comme copiste : Wolfgang Schmitz, « Oltre Benjamin. “La riproducibilità tecnica della scrittura” e la diffidenza verso la stampa tipografica nell’Europa del Quattrocento », TECA, 11, n° 4 (2021).

6. Mark U. Edwards, Printing, Propaganda, and Martin Luther (1994), p. 17 et 21. Elizabeth Eisenstein, The Printing Press as an Agent of Change (1979).

7. Conrad Gessner, Bibliotheca universalis (Zurich, 1545), préface ; Ann Blair, « Reading Strategies for Coping with Information Overload », Journal of the History of Ideas (2003). Les traductions du latin sont de moi.

8. Miguel de Cervantès, Don Quichotte, première partie (1605), chapitre 1, dans la traduction de Louis Viardot (1836).

9. Johann Gottfried Hoche, Vertraute Briefe über die jetzige abentheuerliche Lesesucht (1794), p. 68. Karl G. Bauer, Über die Mittel, dem Geschlechtstriebe eine unschädliche Richtung zu geben (Leipzig, 1791), p. 190. Les traductions de l’allemand sont de moi.

10. « Novel Reading, a Cause of Female Depravity », The Monthly Mirror, novembre 1797.

11. Thomas Jefferson à Nathaniel Burwell, 14 mars 1818, dans Founders Online, National Archives. Les traductions sont de moi.

12. Avis de la faculté de théologie de Leipzig du 28 janvier 1775, dans Bernd Seiler, documents sur la réception de Werther, université de Bielefeld.

13. Lynn Hunt, Inventing Human Rights: A History (2007), chap. 1, « Torrents of Emotion ». En français, L’Invention des droits de l’homme (Markus Haller).

14. Library of Congress, Samuel F. B. Morse Papers : le message du 24 mai 1844 vient de Nombres 23:23, et c’est Annie Ellsworth, la fille d’un ami, qui le suggéra à Morse. Je cite le verset dans la version Louis Segond.

15. Henry David Thoreau, Walden (Boston, Ticknor and Fields, 1854), « Economy », p. 57-58, dans la traduction de Louis Fabulet (1922).

16. Bill Burns, « 1858 Messages », atlantic-cable.com : les premiers messages datent du 16 août 1858.

17. Lettre du correspondant à Washington, The New York Times, 19 août 1858. Les traductions sont de moi.

18. George M. Beard, American Nervousness: Its Causes and Consequences (New York, Putnam, 1881), p. 105. Beard avait popularisé le mot dans « Neurasthenia, or Nervous Exhaustion », Boston Medical and Surgical Journal, 29 avril 1869. Les traductions sont de moi.

19. American Psychiatric Association, DSM-II (1968), p. 40-41, où elle figure encore comme « névrose neurasthénique », et DSM-III (1980), qui ne l’inclut plus. R. E. Taylor, « Death of neurasthenia and its psychological reincarnation », British Journal of Psychiatry, 179 (2001), p. 550-557.

20. Philip Elmer-DeWitt, « On a Screen Near You: Cyberporn », TIME, 3 juillet 1995. Congressional Record, 26 juin 1995, S9017. Donna Hoffman et Thomas Novak, « A Detailed Critique of the TIME Article », 1er juillet 1995. Elmer-DeWitt a écrit son « I screwed up » sur Usenet le 27 juillet 1995.

21. Library of Congress Information Bulletin, 19 février 1996. Reno v. American Civil Liberties Union, 521 U.S. 844 (1997), p. 885. Free Speech Coalition v. Paxton, Cour suprême des États-Unis, 27 juin 2025.

22. Clifford Stoll, « The Internet? Bah! », Newsweek, 27 février 1995.

23. « Radio Listeners in Panic, Taking War Drama as Fact », The New York Times, 31 octobre 1938. Jefferson Pooley et Michael J. Socolow, « The Myth of the War of the Worlds Panic », Slate, 28 octobre 2013.

24. Douglas Adams, « How to Stop Worrying and Learn to Love the Internet », The Sunday Times, 29 août 1999.

25. Future of Life Institute, « Pause Giant AI Experiments: An Open Letter », 22 mars 2023.

26. Center for AI Safety, « Statement on AI Risk », 30 mai 2023. Future of Life Institute, « Statement on Superintelligence », 22 octobre 2025 ; sur les signataires, Fortune, 22 octobre 2025.

27. Emily Bender, Timnit Gebru et al., « On the Dangers of Stochastic Parrots », FAccT, 2021. MIT NANDA, The GenAI Divide: State of AI in Business 2025, juillet 2025.

28. Garcia v. Character Technologies, plainte déposée le 22 octobre 2024 et close par un accord en janvier 2026. Audition de la commission judiciaire du Sénat sur les dangers des chatbots, 16 septembre 2025. Californie, SB 243, promulguée le 13 octobre 2025. GUARD Act, adopté par la commission judiciaire du Sénat le 30 avril 2026. Commission européenne, proposition de KIDS Act, 17 septembre 2026.

29. Jim VandeHei et Mike Allen, « Behind the Curtain: A white-collar bloodbath », Axios, 28 mai 2025. La traduction est de moi.

30. Writers Guild of America, « Summary of the 2023 WGA MBA » : « AI can’t write or rewrite literary material ». La grève a duré du 2 mai au 27 septembre 2023.

31. François Jarrige, « S’associer pour civiliser les mécaniques ? Imaginaires et pratiques des imprimeurs-typographes autour de 1830 », dans Carole Christen, Caroline Fayolle et Samuel Hayat (dir.), S’unir, travailler, résister (Presses universitaires du Septentrion, 2021), § 2, qui cite le témoignage de Duprat. Will Douglas Heaven, « I checked out one of the biggest anti-AI protests yet », MIT Technology Review, 2 mars 2026.

32. Hinton s’en est expliqué sur X le 1er mai 2023. Discours au banquet Nobel, 10 décembre 2024.

33. Sam Altman à StrictlyVC, San Francisco, 12 janvier 2023. Dario Amodei, « The Adolescence of Technology », janvier 2026. Les traductions sont de moi.

34. Bruce Yandle, « Bootleggers and Baptists », Regulation, 1983. Andreessen, « Why AI Will Save the World ».

35. Amy Orben, « The Sisyphean Cycle of Technology Panics », Perspectives on Psychological Science, 2020. Sur les réseaux sociaux : Jonathan Haidt, The Anxious Generation (2024), et le compte rendu de Candice Odgers dans Nature (2024).

36. RAND, American Youth Panel, cité dans « Students Are Worried That AI Will Hurt Their Critical Thinking Skills », Education Week, 23 mars 2026.

37. Nataliya Kosmyna et al., « Your Brain on ChatGPT », MIT Media Lab, juin 2025. Prépublication, non relue par des pairs ; les données sont celles de la première session.

38. Hao-Ping Lee et al., « The Impact of Generative AI on Critical Thinking », CHI 2025 (Microsoft Research et Carnegie Mellon). Michael Gerlich, « AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking », Societies, janvier 2025.

39. Nicholas Carr, « Is Google Making Us Stupid? », The Atlantic, juillet-août 2008. Betsy Sparrow, Jenny Liu et Daniel Wegner, « Google Effects on Memory », Science, 2011. Colin Camerer et al., « Evaluating the replicability of social science experiments in Nature and Science between 2010 and 2015 », Nature Human Behaviour, 2018.

40. Louisa Dahmani et Véronique Bohbot, « Habitual use of GPS negatively impacts spatial memory during self-guided navigation », Scientific Reports, 2020 : 50 conducteurs, dont 13 mesurés de nouveau trois ans plus tard.

41. Paul Graham, « Writes and Write-Nots », octobre 2024.

Applaudissez si ça vous a fait réfléchir