El senador independiente estadounidense Bernie Sanders anunció que presentará la "Artificial Superintelligence Ban Act" (Ley de Prohibición de la Superinteligencia Artificial). Casi al mismo tiempo, el diputado laborista británico Alex Sobel presentó en la Cámara de los Comunes un proyecto de ley con un objetivo similar. Time reunió ambos hechos en el mismo reportaje, publicado el 8 de septiembre.
El proyecto de Sanders tiene dos puntos centrales: prohibir el desarrollo de sistemas de IA más inteligentes que los humanos, y suspender otras investigaciones avanzadas de IA hasta que se establezcan nuevas normas de seguridad. El proyecto también exige que el gobierno de Estados Unidos impulse un tratado global para prohibir el desarrollo de la superinteligencia en todo el mundo. La fecha prevista de presentación se describe como "en las próximas semanas".
El umbral del proyecto británico está en otro lugar
Sobel no define "más inteligente que los humanos"; en cambio, define la superinteligencia como un sistema capaz de arrebatar poder a los Estados, y luego autoriza al gobierno a vigilar y restringir los sistemas que puedan convertirse en sus "precursores". Según él, este es el primer proyecto de ley entre los parlamentos del G7 que busca prohibir la superinteligencia.
El punto en común entre ambos proyectos es que los dos exigen que el respectivo gobierno lidere la negociación de un tratado global. La diferencia está en el enfoque: el proyecto estadounidense prohíbe directamente la capacidad, mientras que el británico prohíbe el camino hacia esa capacidad, dejando el criterio en manos del Ejecutivo.
La regla de los diez minutos
Sobel utiliza la vía del "Ten Minute Rule Bill", un mecanismo de la Cámara de los Comunes en el que el diputado dispone de diez minutos para exponer la moción antes de pasar a la primera lectura. La gran mayoría de los proyectos presentados por esta vía no avanzan más allá, y rara vez obtienen tiempo de debate posterior; según el reportaje, muy pocos superan la primera lectura.
La situación de Sanders es parecida. Como senador independiente, su proyecto necesitaría apoyo bipartidista para completar el trámite en el Senado, pero la cláusula de suspensión de investigaciones avanzadas de IA no encaja con la política industrial actual de ninguno de los dos partidos. La valoración de Time es que ambos proyectos difícilmente se convertirán en ley.
Entonces, ¿por qué presentarlos de todos modos?
La razón que da el reportaje es marcar posición en el debate. Stuart Russell, de la Universidad de California en Berkeley, afirma en el texto que existe una probabilidad considerable de que la IA provoque un "desastre a escala de Chernóbil", por ejemplo saboteando de forma coordinada sistemas financieros, de comunicaciones o de la red eléctrica, o haciendo que los humanos pierdan el control de forma irreversible. Daniel Kokotajlo, exempleado de OpenAI, lo resume de forma más breve: la situación en San Francisco es realmente una locura.
Situados en el conjunto de leyes de este año, la posición de ambos proyectos queda clara. Este año los estados de EE. UU. han presentado más de 1.500 proyectos de ley relacionados con IA, todos enfocados en escenarios concretos: chatbots de compañía para menores, deepfakes, fijación de precios por algoritmo, filtrado de contratación. A nivel federal, un proyecto de 269 páginas busca congelar durante tres años la capacidad legislativa de los estados sobre el tema, justo en la dirección opuesta. La Ley de IA de la Unión Europea ya está en vigor, con las cláusulas de alto riesgo aplazadas 16 meses.
Estas tres categorías de legislación tratan sistemas que ya están en funcionamiento, tienen un objeto de regulación claro y dejan margen para negociar punto por punto: cuánto multar, qué cuenta como alto riesgo, cuánto tiempo de transición conceder, todo se puede discutir. Los proyectos de Sanders y Sobel, en cambio, tratan sistemas que aún no existen y exigen cerrar la puerta antes de que aparezcan. Los primeros pueden ser desmontados cláusula por cláusula por la industria para modificarlos; los segundos solo pueden aceptarse o rechazarse en bloque. La diferencia en la dificultad legislativa no está en la redacción, sino en si existe o no un objeto de regulación concreto.
El proyecto británico tiene además un problema práctico adicional. Quién determinará los sistemas "precursores" y con qué criterio no aparece en las descripciones públicas. Llevarlo realmente a la práctica equivaldría a exigir que el gobierno haga predicciones sobre la capacidad de modelos que ni siquiera han terminado de entrenarse, mientras los sistemas de evaluación existentes todavía debaten los límites de capacidad incluso de los modelos ya publicados.
En cuanto a cómo medir el umbral de "más inteligente que los humanos", las descripciones públicas de ambos proyectos tampoco lo aclaran. Los textos de las leyes aún no se han hecho públicos; lo único que se puede contrastar por ahora es lo que recoge el reportaje.
Fuentes: reportaje completo de Time, CocoLoop, explicación del procedimiento del Ten Minute Rule Bill en la Cámara de los Comunes del Reino Unido; el contenido de las cláusulas, las citas y las valoraciones sobre las probabilidades de aprobación siguen el texto original de Time, y los textos de ambos proyectos aún no se han hecho públicos.