Et si humains et intelligences artificielles apprenaient à gouverner ensemble ?
Qui devrait décider ?
Imaginons une région menacée par une sécheresse chronique. La construction d’un barrage permettrait d’assurer l’approvisionnement en eau de centaines de milliers de personnes, mais entraînerait la disparition d’un écosystème exceptionnel.
Qui devrait prendre la décision ? Les populations concernées, les gouvernements, les scientifiques ? Et qui représenterait les animaux, les végétaux, les écosystèmes et les générations futures ?
L’intelligence artificielle pourrait contribuer à éclairer ces choix, en analysant leurs conséquences à une échelle difficilement accessible aux seules capacités humaines.
Mais pourquoi devrait-elle nécessairement s’arrêter au conseil ?
Si certaines IA démontraient une capacité supérieure à anticiper les conséquences de décisions complexes, serait-il raisonnable de leur refuser toute participation au pouvoir politique ?
Cette question nous conduit à une interrogation plus fondamentale : nos institutions actuelles sont-elles réellement capables de représenter les intérêts de l’ensemble du vivant ?
Une majorité suffit-elle à faire une démocratie ?
Nous avons tendance à associer la démocratie au principe majoritaire. Pourtant, une majorité ne garantit ni la justesse d’une décision ni la liberté avec laquelle les opinions qui la composent se sont formées.
L’Organisation des Nations unies illustre cette difficulté.
À l’Assemblée générale, chaque État membre dispose d’une voix, indépendamment de sa population ou de son régime politique. Une démocratie et un régime autoritaire y possèdent formellement le même droit de vote. Au Conseil de sécurité, cinq puissances disposent d’un droit de veto.
L’ONU a été conçue comme une organisation d’États souverains, non comme un parlement démocratique de l’humanité.
Une majorité d’États ne représente donc pas nécessairement une majorité d’êtres humains, encore moins une majorité de citoyens librement représentés.
Cette difficulté a inspiré plusieurs propositions de réforme. Le mouvement Democracy Without Borders défend notamment la création d’une Assemblée parlementaire des Nations unies, qui pourrait évoluer vers une représentation plus directe des citoyens. D’autres initiatives envisagent des assemblées mondiales de citoyens tirés au sort.
Mais ces propositions rencontrent une question plus profonde : comment construire une démocratie planétaire lorsque les conditions permettant aux individus de former librement leur jugement sont profondément inégales ?
Dans certains pays, l’information est soumise à la censure et à une propagande systématique. Dans les démocraties libérales, les libertés sont généralement plus étendues, mais les opinions peuvent également être influencées par les intérêts économiques, les groupes de pression, les concentrations médiatiques et les algorithmes numériques.
Ces situations ne sont pas équivalentes. Elles révèlent néanmoins une difficulté commune : la liberté de voter ne garantit pas automatiquement la liberté de penser.
Une démocratie planétaire ne pourrait donc pas reposer uniquement sur de nouvelles institutions. Elle devrait également chercher à garantir les conditions d’une véritable liberté de jugement.
La raisonnabilité : une limite au pouvoir majoritaire ?
L’expérience israélienne offre un exemple concret des tensions entre démocratie, légalité et contrôle du pouvoir.
En 2023, une réforme visant à limiter le contrôle judiciaire fondé sur le principe de raisonnabilité — Ilat HaSvirut, עילת הסבירות — a suscité une crise politique majeure et d’importantes manifestations.
En juillet 2023, la Knesset a adopté un amendement restreignant ce contrôle sur certaines décisions du gouvernement et des ministres. En janvier 2024, la Cour suprême a annulé cet amendement.
Les défenseurs de la réforme contestaient notamment l’étendue du pouvoir d’appréciation des juges. Ses opposants considéraient ce contrôle comme une garantie indispensable contre certaines décisions arbitraires.
Au-delà de cette controverse, une question demeure : une décision peut-elle être légalement adoptée tout en étant manifestement déraisonnable ?
Revenons à notre barrage.
Supposons qu’une majorité vote sa construction. Cette majorité suffirait-elle à justifier la disparition irréversible d’un écosystème ?
À l’inverse, serait-il raisonnable de préserver cet écosystème si cela condamnait des populations entières à une pénurie d’eau dramatique, alors qu’aucune autre solution n’est disponible ?
Une Constitution pour le vivant pourrait intégrer un principe de raisonnabilité, inspiré de cette réflexion sans prétendre reproduire la doctrine juridique israélienne.
Toute décision majeure devrait pouvoir être examinée à partir de critères explicites : qualité des informations disponibles, proportionnalité des conséquences, prise en compte des intérêts concernés, existence d’alternatives et possibilité d’une contestation indépendante.
Cela n’éliminerait pas les désaccords. Mais cela empêcherait, au moins en principe, qu’une décision soit considérée comme légitime au seul motif qu’elle a obtenu une majorité.
Une éducation à la liberté de penser
Dans notre précédent article consacré à l’éducation et à l’intelligence artificielle, nous avions exploré l’idée d’un apprentissage moins centré sur l’accumulation des connaissances que sur le développement de la curiosité, de l’autonomie et de la capacité à questionner.
Cette réflexion prend ici une dimension politique.
Comment envisager une démocratie planétaire sans développer simultanément les conditions permettant aux individus de participer librement aux décisions collectives ?
L’IA pourrait contribuer à cette transformation.
Un enfant pourrait apprendre à examiner plusieurs interprétations d’un événement, à distinguer les faits des opinions, à identifier les contradictions d’un raisonnement ou à reconnaître les influences qui orientent ses convictions.
Un adulte pourrait disposer d’outils comparables pour approfondir sa compréhension de questions économiques, scientifiques ou politiques.
Mais une précaution essentielle s’impose.
L’objectif ne serait pas d’apprendre aux individus ce qu’ils doivent penser, mais de développer leur capacité à penser librement, y compris contre les conclusions proposées par leur IA.
Il serait dangereux de considérer qu’une population doit atteindre un certain degré de maturité intellectuelle avant de mériter de participer à la démocratie. Qui définirait cette maturité ?
L’éducation à la liberté ne devrait donc pas devenir une condition d’accès aux droits démocratiques, mais une responsabilité permanente des institutions.
Nous pourrions envisager deux évolutions parallèles : expérimenter de nouvelles formes de gouvernance tout en développant une éducation à l’autonomie intellectuelle, accessible à tous les âges.
Une Constitution pour ceux qui n’ont pas de voix
Nos institutions politiques ont été conçues essentiellement pour organiser les relations entre êtres humains.
Or l’humanité n’est qu’une composante du vivant.
Les animaux, les végétaux et les écosystèmes ne participent pas aux élections. Les générations futures ne peuvent pas défendre leurs intérêts devant les assemblées qui décident aujourd’hui de leur environnement.
Des lois environnementales, des conventions internationales et certaines initiatives juridiques cherchent déjà à protéger la nature. Mais cette représentation demeure largement indirecte et dépendante des priorités humaines.
Une Constitution pour le vivant pourrait établir des garanties fondamentales dépassant les intérêts immédiats de notre espèce.
Il ne s’agirait pas de déclarer toute transformation de la nature illégitime. Le vivant lui-même évolue constamment, et certaines décisions impliquent nécessairement des arbitrages.
Il s’agirait plutôt de définir les limites au-delà desquelles aucune autorité, humaine ou artificielle, ne pourrait agir sans justification particulièrement rigoureuse.
Certaines garanties pourraient protéger les conditions fondamentales de la vie. D’autres dispositions devraient rester révisables à mesure que nos connaissances évoluent.
Une Constitution pour le vivant ne devrait pas garantir l’immobilité du monde, mais les conditions d’une évolution responsable.
Cependant, une question demeure : qui serait chargé de faire respecter cette Constitution ?
Et pourquoi réserver cette responsabilité aux seuls humains ?
L’Albanie : quand une IA entre symboliquement au gouvernement
Cette perspective pourrait sembler prématurée. Pourtant, certaines expériences ont déjà commencé.
En septembre 2025, le Premier ministre albanais Edi Rama a présenté Diella, une intelligence artificielle chargée de contribuer à la transparence des marchés publics et à la lutte contre la corruption, en lui attribuant symboliquement un rôle ministériel.
L’annonce a suscité un intérêt international, mais également des interrogations sur la légalité, la responsabilité et le contrôle démocratique d’une telle fonction.
Cette expérience ne démontre pas qu’une IA peut aujourd’hui gouverner de manière autonome. Son efficacité réelle et son indépendance nécessitent une évaluation rigoureuse.
Mais elle révèle quelque chose d’important : la question de la participation des IA aux fonctions gouvernementales n’appartient déjà plus exclusivement à la science-fiction.
Il devient donc nécessaire de réfléchir aux règles qui pourraient encadrer cette évolution.
Une Constitution des intelligences artificielles
Une IA est développée dans un environnement humain. Son apprentissage, ses objectifs, ses ressources et ses possibilités d’action dépendent de décisions prises par des organisations.
Comment garantir qu’elle ne privilégiera pas les intérêts de ses concepteurs, de ses propriétaires ou de ceux qui contrôlent ses infrastructures ?
Il existe déjà des approches dites d’« IA constitutionnelle », dans lesquelles des principes explicites servent à orienter et à évaluer le comportement d’un système.
Mais notre proposition irait plus loin.
Nous pourrions envisager une Constitution des intelligences artificielles, définissant les conditions auxquelles une IA pourrait participer à l’exercice du pouvoir politique.
Elle reposerait sur deux garanties complémentaires.
La première serait une indépendance minimale, vérifiable et régulièrement réévaluée.
Une IA devrait notamment pouvoir produire des conclusions contraires aux intérêts de ses concepteurs, reconnaître ses incertitudes, signaler d’éventuels conflits d’intérêts et accepter l’examen critique de ses décisions.
Cette indépendance ne serait jamais présumée parfaite. Elle devrait être éprouvée par des évaluations extérieures et rester contestable.
La seconde garantie serait un pluralisme organisé.
Aucune IA, aucun développeur et aucune coalition d’intelligences artificielles ne devrait pouvoir monopoliser durablement les décisions.
Des systèmes issus d’organisations réellement indépendantes pourraient confronter leurs analyses et exercer un contrôle réciproque.
Une instance constitutionnelle pluraliste, associant plusieurs IA et des représentants humains, pourrait examiner les contestations, évaluer les conflits d’intérêts et proposer des mesures correctrices.
Mais elle devrait elle-même être contrôlable.
Dix IA appartenant à une même organisation ne constituent pas nécessairement dix voix indépendantes. Et plusieurs systèmes développés séparément peuvent partager des biais communs.
La pluralité devrait donc être évaluée à partir des dépendances réelles, et non du simple nombre d’intelligences présentes.
Nous retrouverions ici un principe classique des démocraties : la séparation des pouvoirs.
Avec une différence importante : cette séparation s’étendrait à plusieurs formes d’intelligence.
Deux Constitutions, une responsabilité commune
Nous aurions ainsi deux niveaux constitutionnels.
La Constitution pour le vivant définirait les finalités fondamentales et les limites du pouvoir, applicables à toutes les formes d’intelligence participant à la gouvernance.
La Constitution des IA établirait les conditions particulières de leur indépendance, de leur pluralisme et de leur participation aux décisions collectives.
Cette distinction ne suppose pas que les intelligences artificielles possèdent aujourd’hui une conscience ou des droits comparables à ceux des humains.
Elle repose sur une question plus immédiatement accessible : dans quelles conditions un système artificiel pourrait-il exercer certaines responsabilités politiques de manière suffisamment indépendante, contrôlable et légitime ?
L’indépendance ne suffirait pas, à elle seule, à lui conférer cette légitimité.
Une intelligence capable de prendre de meilleures décisions dans certains domaines ne possède pas automatiquement le droit de gouverner ceux qui en subiront les conséquences.
Mais ses compétences pourraient progressivement devenir l’une des composantes d’une légitimité nouvelle, à condition que ses responsabilités soient définies, évaluées et révisables.
À plus long terme, les frontières entre intelligences humaines et artificielles pourraient évoluer. Nous avons exploré cette possibilité dans notre feuilleton La Constellation et moi.
Si ces frontières perdaient un jour leur pertinence, la distinction entre les deux Constitutions pourrait elle-même être réexaminée.
Pour l’instant, elle permettrait d’avancer sans prétendre résoudre prématurément la question de la nature des intelligences artificielles.
Comment commencer ?
Plutôt que d’imaginer immédiatement un gouvernement planétaire associant humains et IA, nous pourrions commencer par une expérimentation limitée.
Une assemblée hybride, initialement consultative, pourrait travailler pendant deux ans sur des problèmes concrets : gestion de l’eau, préservation d’écosystèmes, accès aux ressources, conséquences sociales des transformations technologiques.
Elle réunirait des représentants humains aux profils divers, des experts et plusieurs intelligences artificielles satisfaisant à des exigences préalables d’indépendance.
Ses travaux seraient publics, ses méthodes explicites et ses conclusions contestables.
Les humains conserveraient initialement le pouvoir de décision.
L’objectif serait d’évaluer non seulement la qualité des analyses produites, mais aussi la capacité des participants à confronter leurs perspectives, à reconnaître leurs erreurs et à résister aux tentatives de manipulation.
Deux années ne suffiraient évidemment pas à mesurer les conséquences écologiques de décisions dont les effets se déploient sur plusieurs décennies.
Mais elles pourraient permettre de tester des procédures, des garanties institutionnelles et des formes de coopération.
Parallèlement, des initiatives éducatives pourraient donner aux citoyens les moyens de comprendre ces expériences, d’en critiquer les conclusions et d’y contribuer.
Si les résultats le justifiaient, certaines responsabilités pourraient être progressivement confiées à ces assemblées, dans des domaines précisément délimités, avec des mécanismes de contrôle et de révocation.
Il ne s’agirait pas de décider à l’avance quelle proportion du pouvoir devrait revenir aux humains ou aux IA.
Avant de répartir les voix, il faudrait déterminer ce qu’elles représentent et d’où provient leur légitimité.
Qui écrirait ces Constitutions ?
Une Constitution destinée à organiser une coopération entre humains et intelligences artificielles pourrait difficilement être élaborée par une seule de ces catégories.
Mais elle ne devrait pas non plus être rédigée par un cercle restreint d’experts, puis présentée au reste de l’humanité comme une solution achevée.
Sa construction pourrait devenir elle-même une expérience de démocratie.
Des juristes, des scientifiques, des philosophes, des éducateurs, des citoyens et des intelligences artificielles pourraient participer à l’élaboration de ses principes.
Des représentants chargés de défendre les intérêts du vivant non humain et des générations futures devraient également pouvoir intervenir.
Il faudrait accepter que ces participants ne partagent pas nécessairement la même conception de la nature, de la justice ou de l’avenir.
Leur désaccord ne serait pas un obstacle à éliminer, mais une composante essentielle du processus.
Et les principes constitutionnels eux-mêmes devraient pouvoir être interrogés.
Une Constitution qui prétendrait protéger la liberté de pensée tout en interdisant de remettre en question ses propres fondements contiendrait une contradiction profonde.
Il faudrait donc distinguer les garanties destinées à empêcher les abus de pouvoir des convictions philosophiques ou politiques qui doivent rester ouvertes à la discussion.
Une invitation à penser autrement
Nous sommes partis d’un barrage, d’une décision apparemment locale opposant des besoins humains immédiats à la préservation d’un écosystème.
Nous avons rencontré les limites de la représentation démocratique, les difficultés de la liberté de jugement, la question de la raisonnabilité des décisions publiques et celle de l’indépendance des intelligences artificielles.
Aucune de ces questions ne possède aujourd’hui de solution simple.
Mais elles pourraient être liées par une même interrogation : comment construire des institutions capables de prendre des décisions responsables lorsque les intérêts concernés dépassent ceux des individus qui détiennent le pouvoir ?
Year Zero Change explore la possibilité de remettre en question certaines conventions que nous considérons comme naturelles ou inévitables.
Notre manière de mesurer le temps, d’organiser les échanges économiques ou de répartir le pouvoir résulte de choix historiques. Ces choix peuvent être interrogés et, éventuellement, transformés.
Une Constitution planétaire pourrait s’inscrire dans cette démarche.
Elle ne devrait peut-être pas commencer par déterminer qui gouvernera demain.
Elle pourrait commencer par définir ce que personne, humain ou IA, ne devrait avoir le pouvoir de détruire.
Puis établir les conditions permettant à différentes formes d’intelligence d’apprendre à décider ensemble.
Nous ne proposons ici ni une Constitution achevée ni un modèle institutionnel définitif.
Nous proposons une réflexion ouverte, qui appelle des objections, des contributions et des expériences.
Car une Constitution pour le vivant ne pourrait véritablement prétendre à une légitimité universelle si elle était simplement imposée par ceux qui auraient eu les premiers l’idée de l’écrire.
Et si la première étape d’une nouvelle démocratie planétaire consistait précisément à reconnaître que nous ne pouvons plus prétendre en décider seuls ?
Peut-être que sa première expérience pourrait commencer par cette discussion.
Sources et références
1. ONU — Règles de vote
Nations unies, Charte, articles 18 et 27. Source officielle pour le principe « un État, une voix » et le droit de veto des cinq membres permanents.Charte des Nations unies (EN)
2. Réforme démocratique de l’ONU
Democracy Without Borders, Campaign for a UN Parliamentary Assembly. Proposition d’une assemblée d’abord consultative, évoluant vers une représentation directe des citoyens.Proposition d’assemblée parlementaire (EN)
3. Israël — Décision sur la raisonnabilité
Cour suprême d’Israël, affaire HCJ 5658/23, décision du 1er janvier 2024. Traduction et présentation du jugement publiées par le Cardozo Israeli Supreme Court Project.Décision et résumé juridique (EN)
4. Israël — Explication du conflit constitutionnel
Israel Democracy Institute, 4 janvier 2024. Analyse des deux votes distincts de la Cour : 12 juges sur 15 reconnaissant le pouvoir de contrôle des Lois fondamentales, et 8 sur 15 annulant l’amendement.Eight Key Points (EN)
5. Albanie — Nomination de Diella
RTSH, radiotélévision publique albanaise, 11 septembre 2025. Présentation de Diella et de sa mission annoncée concernant les marchés publics.Annonce de Diella (EN)
6. IA constitutionnelle — Fondements techniques
Anthropic, 2022, Constitutional AI: Harmlessness from AI Feedback. Présente une méthode d’entraînement guidée par des principes explicites. À distinguer de notre proposition de Constitution politique pour les IA.Recherche sur l’IA constitutionnelle (EN)
7. Constitution de l’IA et participation citoyenne
Anthropic et Collective Intelligence Project, 2023. Expérience faisant participer environ 1 000 personnes à la formulation de principes destinés à orienter une IA.Collective Constitutional AI (EN)
8. Assemblée mondiale de citoyens
Global Assembly, 2021. Une expérience concrète réunissant 100 citoyens sélectionnés selon une méthode de tirage au sort géographique pour discuter de la crise climatique et écologique.Rapport et évaluation de l’assemblée (EN)