Voici ma très maigre contribution pour essayer candidement de sauver notre libre arbitre. À supposer qu’il ait déjà existé.
On sait1 que le cerveau humain est paresseux et qu’il consomme trop d’énergie quand il travaille. On s’est donc toujours arrangé pour fonctionner correctement en le faisant intervenir le moins possible, ou du moins sa partie automatique uniquement. En gros, ce que je veux dire, c’est que réfléchir est coûteux en énergie. Et on a été conçu pour économiser de l’énergie. C’est une question de survie. Dans notre monde d’abondance (en tout cas pour nous, Nord-Américains) ce n’est plus nécessaire d’économiser cette énergie. Mais notre code interne n’a pas évolué lui.
Les gens du Marketing et les communicants politiques ont compris cela depuis longtemps. Ils ont donc développé leur science, leur art ou leur bullshit sur cet écart entre notre mode de vie et notre code génétique. Ils vont s’immiscer insidieusement dans notre processus de prise de décision. Ce n’est pas du complotisme c’est clairement écrit dans les livres du Marketing. Les plus connus (pour moi en tout cas) sont Influence et Manipulation de Robert Cialdini et bien avant lui, Propaganda d’Edward Bernays. Il y a dedans toutes sortes de techniques qui amènent les foules et les individus à aller dans le sens souhaité par le communicant. Tout ça n’est pas désuet. Ça marche toujours redoutablement bien. Mais il y a mieux, ou pire selon qui nous sommes. Il y a de la manipulation de masse, style Cambridge Analytica. Ces derniers vont … amener les gens, sans qu’ils s’en rendent compte, à voter dans un sens souhaité par le commanditaire. C’est dangereusement efficace. Je ne m’étalerai pas là-dessus. Il y a eu des commissions qui ont traité ce sujet. c’est même monté jusqu’au congrès américain et Netflix. Pour moi, ceci demeure de la petite manipulation classique basée sur de vieux préceptes.
Le pire est en cours et évolue rapidement. Vous me voyez venir, c’est L’IA.
Avec l’IA, on ne parle plus seulement d’influencer nos décisions, mais de les pré-mâcher en amont, avant même que nous ayons conscience d’avoir à choisir. Elle ne se contente pas de nous pousser dans une direction : elle redessine le paysage mental dans lequel nous croyons encore décider librement. Le danger n’est pas qu’elle pense à notre place — elle en est encore loin — mais qu’elle optimise notre paresse cognitive, qu’elle épouse parfaitement nos biais, nos failles, nos routines, jusqu’à rendre l’effort de penser presque superflu. Et un libre arbitre qu’on n’exerce plus, par confort ou par fatigue, finit par devenir une abstraction philosophique plutôt qu’une réalité vécue. Sauver notre libre arbitre ne passera peut-être pas par la technologie, mais par un choix beaucoup plus coûteux : accepter de redevenir parfois lents, inconfortables… et vraiment conscients.
Le dernier paragraphe que vous venez de lire a été généré par ChatGPT. Grand malin celui qui l’a deviné.
Vous me voyez venir encore. Ou pas. Vous pensez peut-être que je vais parler de triche. Pas du tout. J’y arrive. Le texte ci-dessus, est cohérent et me plaît. Mais est-ce que ça correspond vraiment à ce que je pense?
Arrêtez de lire et pensez-y quelques minutes.
Je ne sais pas quelle est votre conclusion mais la mienne est effrayante.
Quand on lit un livre ou qu’on regarde notre youtubeur préféré, on est forcément influencé par leurs idées. Parfois, ils ne font qu’exprimer clairement ce qu’on pense et qu’on ne sait pas exprimer. Ça nous conforte dans ce qu’on pense (biais de confirmation) ou ça approfondit nos pensées. Dans tous les cas on sait que ce n’est pas nous qui avons émis ces idées. Dans le cas d’une IA c’est différent. On lui pose une question, ou au cours d’une discussion, elle nous répond ou complète ce qu’on voulait dire. En faisant cela elle développe des idées (à partir de la suite de mots la plus probable) intégrées aux nôtres. Pour nous, c’est nous qui trouvons enfin les mots pour exprimer ce qu’on pense. Du coup, on est des intellectuels. Détrompez-vous?
Vous cherchez une suite avec des réponses à cette intrigue? Ne tombez pas dans ce putain de piège. Pensez par vous-même. Méditez là-dessus. Posez-vous les bonnes questions et les réponses viendront par elles-mêmes. Ou pas. Dans ce cas, c’est pas grave. Cherchez ou méditez encore et encore.
1 Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
(trad. fr. Système 1 / Système 2 : Les deux vitesses de la pensée)