Le blog officiel d'un laboratoire d'IA de pointe ouvre sa nouvelle rubrique sans parler des capacités des modèles, des benchmarks ni des évaluations, mais en se demandant si l'État a encore besoin de son peuple. Le 20 août, OpenAI a lancé la nouvelle rubrique AI Futures, animée par son équipe interne Strategic Futures, avec un premier article signé Dean Ball. Une mention figure en bas de texte : le contenu reflète l'opinion personnelle de l'auteur et non la position officielle d'OpenAI.
La question posée en ouverture de l'article est la suivante : comment les sociétés libres devraient-elles être repensées pour que les droits individuels et la capacité d'action humaine restent vivants une fois que l'IA aura remodelé l'économie, le gouvernement et la société ?
Pourquoi l'État a besoin du peuple
Le raisonnement de Ball part du démontage d'une chaîne. Les États modernes dépendent de leurs citoyens, une dépendance qui se résume en pratique à trois choses concrètes : les impôts proviennent du travail humain, l'armée et la police sont composées d'êtres humains, et l'administration fonctionne grâce à des personnes. Si ces trois fonctions pouvaient être confiées à des systèmes autonomes, la chaîne se desserrerait : la production économique ne dépendrait plus principalement du travail humain, et la base fiscale se déplacerait en conséquence ; les armes autonomes et l'application automatisée de la loi réduiraient le besoin en soldats et en policiers ; les processus bureaucratiques seraient confiés à des modèles.
"What happens if political power no longer requires broad human cooperation?"
Que se passe-t-il si le pouvoir politique n'a plus besoin d'une large coopération humaine ?
Cette même logique trouve un miroir sur le marché du travail. À mesure que les entreprises dépendent moins de leurs employés, le pouvoir de négociation de ces derniers diminue en parallèle. L'article pousse cette idée jusqu'à une question plus dure : comment conserver une influence économique et politique lorsque les êtres humains deviennent économiquement de moins en moins indispensables ?
Chaque maillon de cette chaîne a un équivalent bien réel. La collecte automatisée des impôts, les systèmes d'armes autonomes et les décisions administratives pilotées par des modèles font déjà l'objet de projets concrets aujourd'hui. Ball choisit de les relier en une chaîne causale dont le point d'aboutissement est une question rarement posée aussi ouvertement jusqu'à présent.
Cinq principes
Face à ces inquiétudes, l'article avance cinq principes :
- L'individu conserve son autonomie quant à la façon dont l'IA affecte sa propre vie
- L'individu assume la responsabilité des usages abusifs de la technologie
- L'action collective doit être utilisée avec retenue et un périmètre restreint
- Soutenir les acteurs plus modestes pour intensifier la concurrence
- L'humain porte la responsabilité ultime de la direction prise par la société
S'y ajoute un concept baptisé bounded legibility, que l'on peut traduire par « lisibilité limitée » : les comportements d'IA à haut risque devraient pouvoir être retracés jusqu'à une personne clairement responsable, tout en préservant la vie privée et l'anonymat des personnes ordinaires. Sur le terrain, c'est un vrai dilemme — la traçabilité exige de laisser des traces, la vie privée exige d'en laisser le moins possible, les deux exigences tirent en sens opposés. La piste proposée par l'article consiste à hiérarchiser : seule la catégorie à haut risque laisse des traces, le reste continue comme avant.
L'idée des contre-pouvoirs est directement empruntée à la philosophie fondatrice des États-Unis : instaurer plusieurs centres de pouvoir qui se font concurrence, afin qu'aucun acteur unique ne puisse s'emparer d'un contrôle global. Transposée au contexte de l'IA, cette idée signifie que les modèles, la puissance de calcul et les données ne devraient pas se concentrer entre les mains d'une ou deux entreprises.
Une ordonnance rédigée par l'un des plus gros acteurs du secteur
L'auteur de ce texte évoluait, il y a encore quelques mois, dans les cercles politiques de la Maison-Blanche. Ball a rejoint OpenAI le 6 juillet de cette année pour diriger Strategic Futures ; auparavant, il était conseiller en politique de l'IA au sein de l'administration Trump et avait participé à la rédaction du plan d'action américain sur l'IA. Le 19 juillet, Axios rapportait qu'un haut responsable du Pentagone l'avait publiquement attaqué nommément. Ce parcours conditionne la lecture de l'article : davantage une note destinée à la fois à son nouvel employeur et à ses anciens collègues qu'une expérience de pensée académique.
En dehors du cinquième, c'est le quatrième principe qui se lit avec le plus de nuance. La formule « soutenir les petits acteurs, renforcer la concurrence » émane de l'une des entreprises les mieux valorisées du secteur, ce qui crée en soi une tension : OpenAI est aujourd'hui elle-même une variable de cette équation de « concentration du pouvoir ». Publier cette ordonnance sur son propre blog revient à admettre que l'entreprise entre elle aussi dans le calcul. La mention de non-responsabilité en fin d'article peut également se lire comme l'espace laissé à cette tension.
Déplacer la sécurité du modèle vers la structure
Au cours des deux dernières années, le débat public sur la sécurité de l'IA a surtout tourné autour du modèle : peut-on le jailbreaker, ment-il, essaie-t-il de ruser lorsqu'on lui demande de s'éteindre. Cet article prend du recul et déplace l'objet du débat vers les institutions : comment le pouvoir se redistribue entre l'État, les entreprises et les individus à mesure que les capacités des modèles augmentent.
Les deux lignes de risque ne se recoupent pas. La première suppose un modèle hors de contrôle, la seconde un modèle parfaitement obéissant, et se demande alors à qui il obéit. Dans ce second cas, la technologie elle-même ne connaît aucune défaillance ; le problème vient de la structure qui l'utilise.
Ce débat a un point d'ancrage concret : les discussions sur la gouvernance de l'IA dans différents pays finissent le plus souvent par converger vers trois questions — qui supervise, quoi superviser, combien de traces laisser —, tandis que la question de savoir si les capacités du modèle dépassent un seuil devient secondaire. Le principe de lisibilité limitée, quel que soit le cadre institutionnel dans lequel il s'insère, continuera d'être remis sur la table à répétition : il touche précisément à cet arbitrage public entre traçabilité et vie privée, auquel aucun pays ne peut échapper.
Pour l'instant, AI Futures ne compte qu'un seul article ; ni la fréquence des prochaines publications ni la portée des sujets à venir n'ont été précisées.
Sources : premier article de la rubrique AI Futures d'OpenAI, Axios, CocoLoop, couverture de plusieurs médias technologiques consacrée à cette rubrique ; les cinq principes et le concept de lisibilité limitée ont été vérifiés à partir d'extraits publics de l'article original, et le parcours professionnel de Dean Ball a été comparé point par point à des articles publics.