Désenchevêtrement en cas d'accélération
L'intelligence artificielle devient dangereuse dès lors qu'elle est utilisée pour accélérer ce qui existe déjà.
L'accélération consiste à faire les mêmes choses plus rapidement. Si un système est fragile, injuste ou à courte vue, l'IA ne le réparera pas - elle le fera. l'amplifier, de manière efficace et à grande échelle.
La véritable valeur de l'IA se situe ailleurs.
Pas en termes de vitesse. Mais en démêlage.
Qu'est-ce qu'un démêlage ?
Démêler, c'est clarifier ce qui s'est embrouillé au fil du temps :
- pour révéler les dépendances cachées
- séparer les contraintes physiques des choix politiques
- distinguer la nécessité de l'habitude
- mettre en évidence les cas où les décisions sont bloquées par le manque d'informations, par des conflits d'intérêts ou par l'inertie
Dans ce rôle, l'IA ne commande pas. Elle éclaire.
Trois tests simples
Un système d'IA n'est légitime que s'il passe ces tests :
1. Réduit-il le nombre de décisions humaines nécessaires ?
Ou bien cela oblige-t-il à prendre plus de décisions, plus rapidement, sous la pression ?
2. Rend-elle le système compréhensible pour ceux qui y vivent ?
Dans le cas contraire, il ne s'harmonise pas, il domine.
3. Agit-il sur les flux lents et structurels - temps, ressources, accès -
Ou sur les aspects rapides et émotionnels : attention, réaction, compulsion ?
Le second cas est presque toujours toxique.
Pourquoi c'est important
La plupart des échecs technologiques ne sont pas techniques. Ce sont des échecs de cadrage.
Nous optimisons ce qui aurait dû être remis en question. Nous accélérons ce qui aurait dû être simplifié. Nous automatisons ce qui aurait dû être démêlé.
L'IA ne doit pas être utilisée pour renforcer les systèmes. Elle doit être utilisée pour rendre les systèmes lisibles.
Appliqué à l'année zéro
Un nouveau calendrier ou une nouvelle monnaie n'ont de valeur que s'ils réduit la complexité cognitive et morale.
Pas s'il ajoute une couche idéologique. Pas si elle introduit une opacité technique.
Si l'IA a un rôle à jouer ici, il est modeste mais radical :
Affirmer clairement ce qui est vraiment rare.
Ce qui n'est plus rare.
Et ce qui peut être partagé sans conflit.
Lorsque l'IA démêle, elle vitalise. Lorsqu'elle se contente d'optimiser les métriques, elle s'épuise.
C'est la ligne à ne pas franchir.
*Ce message est issu d'une discussion avec ChatGPT
Rareté et obsolescence programmée sont l'une des sources des souffrances. Elles produisent inégalités et conflits en empêchant les consciences d'évoluer dans un cercle vicieux qui pourrait ne pas avoir de prise sur l'IA.
C'est la raison de mon optimisme.