Le sénateur indépendant américain Bernie Sanders a annoncé qu'il déposerait l'« Artificial Superintelligence Ban Act ». Presque au même moment, le député travailliste britannique Alex Sobel a présenté à la Chambre des communes un texte poursuivant un objectif similaire. Time a réuni les deux événements dans un même article publié le 8 septembre.
Le texte de Sanders comporte deux dispositions principales : interdire le développement de systèmes d'IA plus intelligents que l'humain, et suspendre les autres recherches avancées en IA en attendant l'instauration de nouvelles règles de sécurité. Le projet exige aussi que le gouvernement américain œuvre à un traité mondial interdisant le développement de la superintelligence à l'échelle de la planète. La date de dépôt annoncée est « dans les prochaines semaines ».
Le seuil retenu par le texte britannique est ailleurs
Sobel ne définit pas ce qu'est « plus intelligent que l'humain » ; il définit plutôt la superintelligence comme un système susceptible de priver les États de leur pouvoir, puis autorise le gouvernement à surveiller et restreindre les systèmes pouvant en devenir les « précurseurs ». Selon lui, il s'agit du premier texte, parmi les parlements du G7, cherchant à interdire la superintelligence.
Le point commun entre les deux textes est qu'ils exigent tous deux que leur gouvernement respectif mène la négociation d'un traité mondial. La différence tient au levier utilisé : le texte américain interdit directement la capacité elle-même, tandis que le texte britannique interdit le chemin qui y mène, en laissant le pouvoir d'appréciation à l'exécutif.
La règle des dix minutes
Sobel emprunte la voie du « Ten Minute Rule Bill », une procédure de la Chambre des communes où le député dispose de dix minutes pour présenter sa motion avant la première lecture. La grande majorité des textes déposés par cette voie n'en sortent jamais et obtiennent rarement du temps de débat ultérieur ; selon l'article, très peu franchissent la première lecture.
La situation de Sanders est comparable. En tant que sénateur indépendant, son texte aurait besoin d'un soutien bipartisan pour achever la procédure au Sénat, alors que la clause suspendant les recherches avancées en IA ne cadre avec l'orientation industrielle actuelle d'aucun des deux partis. Time estime que les deux textes ont peu de chances de devenir loi.
Alors pourquoi les déposer quand même
La raison avancée dans l'article est de marquer une position dans le débat. Stuart Russell, de l'université de Californie à Berkeley, y déclare qu'il existe une probabilité non négligeable que l'IA provoque une « catastrophe à l'échelle de Tchernobyl », par exemple en sabotant de façon coordonnée les systèmes financiers, de communication ou électriques, ou en faisant perdre à l'humanité un contrôle de manière irréversible. L'ancien employé d'OpenAI Daniel Kokotajlo le résume plus brièvement : la situation à San Francisco est effectivement complètement folle.
Replacés dans l'ensemble de la production législative de l'année, le positionnement des deux textes devient clair. Cette année, les États américains ont déposé plus de 1 500 projets de loi liés à l'IA, tous centrés sur des cas d'usage concrets : compagnons IA pour mineurs, deepfakes, tarification algorithmique, tri des candidatures. Au niveau fédéral, un texte de 269 pages vise à geler pendant trois ans le pouvoir législatif des États sur le sujet, dans une direction exactement opposée. La loi européenne sur l'IA est déjà en application, avec les dispositions à haut risque reportées de 16 mois.
Ces trois catégories de textes traitent de systèmes déjà en fonctionnement, avec un objet de régulation clair et une marge de négociation clause par clause — le montant des amendes, ce qui constitue un risque élevé, la durée de la période de transition, tout cela peut se discuter. Les textes de Sanders et de Sobel, eux, traitent de systèmes qui n'existent pas encore et exigent de fermer la porte avant leur apparition. Les premiers peuvent être démontés clause par clause par l'industrie pour être amendés, les seconds ne peuvent être qu'acceptés ou rejetés en bloc. La différence de difficulté législative ne tient pas à la formulation, mais à l'existence ou non d'un objet de régulation concret.
Le texte britannique pose en outre un problème pratique supplémentaire. Qui déterminera les systèmes « précurseurs », et selon quels critères, n'est pas précisé dans les descriptions publiques. En pratique, cela reviendrait à demander au gouvernement d'anticiper les capacités de modèles dont l'entraînement n'est même pas terminé, alors que les systèmes d'évaluation existants débattent encore des limites de capacité des modèles déjà publiés.
Quant à la manière de mesurer le seuil « plus intelligent que l'humain », les descriptions publiques des deux textes restent également muettes sur ce point. Les textes de loi eux-mêmes n'ont pas encore été rendus publics ; seul le compte rendu de l'article peut pour l'instant être vérifié.
Sources : article intégral de Time, CocoLoop, explication de la procédure du Ten Minute Rule Bill à la Chambre des communes du Royaume-Uni ; le contenu des clauses, les citations et les évaluations des chances d'adoption suivent le texte original de Time, les textes des deux projets n'ont pas encore été rendus publics.