El blog oficial de un laboratorio de IA de vanguardia abre su nueva sección sin hablar de capacidades de los modelos, puntuaciones de referencia ni evaluaciones, sino de si el Estado todavía necesita a su pueblo. El 20 de agosto, OpenAI lanzó la nueva sección AI Futures, gestionada por el equipo interno Strategic Futures, con el primer artículo firmado por Dean Ball. Al final del texto figura una nota: el contenido representa la opinión personal del autor y no la postura oficial de OpenAI.
La pregunta con la que arranca el artículo es: ¿cómo tendrían que rediseñarse las sociedades libres para que los derechos individuales y la capacidad de acción humana sigan vivos después de que la IA transforme la economía, el gobierno y la sociedad?
Por qué el Estado necesita a las personas
El razonamiento de Ball empieza desmontando una cadena. Los Estados modernos dependen de los ciudadanos, y esa dependencia se reduce, en la práctica, a tres cosas concretas: los impuestos provienen del trabajo humano, el ejército y la policía están formados por personas, y el aparato administrativo funciona gracias a personas. Si esas tres funciones pudieran delegarse en sistemas autónomos, la cadena se aflojaría: la producción económica dejaría de depender principalmente del trabajo humano y la base tributaria se desplazaría con ella; las armas autónomas y la aplicación automatizada de la ley reducirían la necesidad de soldados y policías; los procesos burocráticos pasarían a manos de modelos.
"What happens if political power no longer requires broad human cooperation?"
¿Qué ocurre si el poder político deja de necesitar una cooperación humana amplia?
La misma lógica tiene una versión reflejada en el mercado laboral. A medida que las empresas dependen menos de sus empleados, el poder de negociación de los trabajadores disminuye a la par. El artículo lleva esto a una pregunta más incómoda: cómo conservar influencia económica y política cuando las personas se vuelven cada vez menos necesarias desde el punto de vista económico.
Cada eslabón de esta cadena tiene un correlato real. La recaudación automatizada de impuestos, los sistemas de armas autónomas y las aprobaciones administrativas impulsadas por modelos ya cuentan hoy con proyectos reales en marcha. El enfoque de Ball consiste en encadenarlos en una cadena causal cuyo punto final es una pregunta que hasta ahora rara vez se había puesto sobre la mesa abiertamente.
Cinco principios
Frente a estas preocupaciones, el artículo plantea cinco principios:
- La persona conserva autonomía sobre cómo la IA afecta a su propia vida
- La persona asume responsabilidad por el uso indebido de la tecnología
- La acción colectiva debe emplearse con moderación y un alcance acotado
- Apoyar a los actores más pequeños para intensificar la competencia
- Los seres humanos cargan con la responsabilidad final sobre el rumbo de la sociedad
A esto se suma un concepto llamado bounded legibility, que puede traducirse como "legibilidad acotada": los comportamientos de IA de alto riesgo deberían poder rastrearse hasta una persona concretamente responsable, preservando al mismo tiempo la privacidad y el anonimato de la gente común. En la práctica esto es un dilema: la trazabilidad exige dejar rastros, la privacidad exige dejar los mínimos posibles, y ambos extremos tiran en direcciones opuestas. La dirección que propone el artículo es la segmentación por niveles: que solo la categoría de alto riesgo deje rastro, y el resto siga como hasta ahora.
La idea de los contrapesos está tomada directamente de la filosofía fundacional de Estados Unidos: establecer varios centros de poder que compitan entre sí para que ningún actor aislado obtenga el control total. Llevada al terreno de la IA, la frase apunta a que los modelos, la capacidad de cómputo y los datos no deberían converger en manos de una o dos empresas.
La receta de uno de los mayores actores del sector
Quien escribió este texto se movía, hace apenas unos meses, en los círculos de política de la Casa Blanca. Ball se incorporó a OpenAI el 6 de julio de este año para dirigir Strategic Futures; antes fue asesor de política de IA en la administración Trump y participó en la redacción del plan de acción de IA de Estados Unidos. El 19 de julio, Axios informó de que un alto funcionario del Pentágono lo había atacado públicamente por su nombre. Esta trayectoria condiciona cómo debe leerse el artículo: más un memorando dirigido a la vez a su nuevo empleador y a sus antiguos colegas que un ejercicio académico de reflexión.
Aparte del quinto, el cuarto principio es el que se lee de forma más delicada. La frase "apoyar a los actores pequeños, aumentar la competencia" proviene de una de las empresas con mayor valoración del sector, lo que ya genera tensión de por sí: OpenAI es hoy mismo una variable dentro de ese problema de "concentración de poder". Publicar esta receta en su propio blog equivale a admitir que la empresa también entra en esa ecuación. La línea de exención de responsabilidad al final del texto también puede leerse como el margen que se deja para esa tensión.
Trasladar la seguridad del modelo a la estructura
Durante los últimos dos años, el debate público sobre seguridad de la IA giró sobre todo en torno al modelo: si se puede hacer jailbreak, si miente, si intenta esquivar una orden de apagado. Este artículo aleja el foco y traslada el objeto de discusión a las instituciones: cómo se redistribuye el poder entre el Estado, las empresas y los individuos a medida que aumenta la capacidad de los modelos.
Los dos frentes de riesgo no se solapan. El primero parte de que el modelo se descontrola; el segundo, de que el modelo obedece por completo, y entonces pregunta a quién obedece. En este segundo escenario, la tecnología en sí no falla en absoluto; el problema está en la estructura que la utiliza.
Este debate tiene un punto de anclaje concreto: las discusiones sobre gobernanza de la IA en distintos países acaban convergiendo, casi siempre, en tres preguntas —quién supervisa, qué se supervisa y cuántos rastros quedan registrados—, mientras que si la capacidad del modelo supera cierto umbral queda relegado a un segundo plano. El principio de legibilidad acotada, dentro de cualquier marco institucional en el que se inserte, seguirá saliendo a relucir una y otra vez: toca precisamente esa disyuntiva pública entre dejar rastro y proteger la privacidad, de la que ningún país puede escapar.
Por ahora, AI Futures cuenta con un único artículo; todavía no se ha anunciado con qué frecuencia se actualizará ni qué temas abordará a continuación.
Fuentes: primer artículo de la sección AI Futures de OpenAI, Axios, CocoLoop, cobertura de varios medios tecnológicos sobre la sección; los cinco principios y el concepto de legibilidad acotada se cotejaron con extractos públicos del artículo original, y la trayectoria profesional de Dean Ball se comparó punto por punto con informes públicos.