Stanford: más de un tercio de las demandas en California muestra huellas de IA

AI policy illustration: scales on a circuit base with a red weight

El Stanford RegLab publicó el 19 de noviembre un estudio que contabiliza las huellas de escritura asistida por IA en las demandas de cuatro tribunales de condado de Estados Unidos. En las demandas de 2026 que no son de cobro de deudas, la proporción con señales de IA es del 38 % en el condado de Santa Clara y del 36 % en San Francisco, ambos en California; en los condados de Tulsa y Oklahoma, en el estado de Oklahoma, es del 17 % y el 16 %, respectivamente.

En Santa Clara este indicador seguía cerca de cero en 2022. El mayor aumento se dio entre quienes demandan por su cuenta, sin abogado: del 19 % en 2024 al 72 % en 2026; en los escritos presentados por abogados pasó del 5 % al 34 %. Por tipo de caso, los litigios laborales y mercantiles de California tienen la proporción más alta, mientras que las demandas de cobro de deudas casi no muestran indicios de IA, aunque en algunos tribunales suponen cerca de la mitad. Las señales de IA aparecen sobre todo en la exposición de los hechos y en los fundamentos de la acción.

Casos de alucinación como respuesta de referencia

La dificultad está en demostrarlo. El equipo partió de una base de datos mantenida por Damien Charlotin, que desde abril de 2025 recoge casos en los que jueces acusan o amonestan a las partes por usar citas falsas; solo en Estados Unidos hay registrados más de 1.500. Los errores de esos escritos son tan evidentes que se puede dar por seguro el uso de IA, por lo que sirven como referencia.

Los investigadores la combinaron con una muestra de control cuidadosamente seleccionada para crear el nuevo banco de pruebas PhantomDocket, y propusieron un método de calibración llamado ScoreMix para estimar cuántas demandas se parecen más a esos escritos alucinados que a los anteriores a ChatGPT. Los detectores ya existentes, Pangram y EditLens, no funcionaron bien usados tal cual: o no detectaban nada o requerían mucho ajuste de parámetros. Pangram Labs facilitó acceso para el estudio; el equipo afirma que la empresa no participó en el diseño ni en el análisis de la investigación.

"AI detection is most reliable for estimating population prevalence, not pinpointing which specific filings used AI."

(La detección de IA es más fiable para estimar la prevalencia en el conjunto, no para señalar qué escritos concretos usaron IA.)

La escritura jurídica emplea un vocabulario reducido y muchas fórmulas hechas, de modo que deja pocas señales a los detectores, y los datos de entrenamiento de los detectores comerciales quizá ni siquiera incluyan textos jurídicos. Incluso los mejores detectores tienen tasas de falsos positivos y falsos negativos nada bajas. El comunicado del estudio no publica el tamaño de la muestra de PhantomDocket ni la tabla de precisión de los detectores; para eso hay que consultar el artículo completo. La recomendación de política del equipo es que los tribunales implanten un régimen de divulgación del uso de IA, para que las estadísticas y la exigencia de responsabilidades futuras tengan base.

Mirando a los tribunales chinos

El documento equivalente en China es el dictamen sobre la regulación y el refuerzo de la aplicación judicial de la inteligencia artificial, publicado en diciembre de 2022 por el Tribunal Popular Supremo. Regula sobre todo cómo usan los propios tribunales la IA para apoyar la tramitación de casos y establece claramente que la IA no puede sustituir al juez en la decisión. Si las partes y los abogados que usan IA generativa para redactar demandas y alegaciones deben declararlo, las disposiciones públicas no contienen una norma específica.

En Estados Unidos, algunos jueces federales ya exigen a los abogados que indiquen por escrito si usaron IA generativa y que verifiquen personalmente las citas. La advertencia del estudio de Stanford es que, donde no hay obligación de divulgación, desde fuera solo se puede estimar una proporción global con detectores, y con un margen de error considerable. Para el número creciente de partes y despachos en China que redactan demandas con grandes modelos, el riesgo de citas falsas es el mismo; las consecuencias de que un juez lo descubra dependen por ahora del tratamiento caso por caso de cada tribunal.

Fuentes: Stanford HAI, artículo del Stanford RegLab, CocoLoop, Tribunal Popular Supremo de China; se contrastaron las proporciones de señales de IA en cuatro tribunales de condado, el cambio entre quienes demandan por sí mismos y los escritos de abogados, el tamaño de la base de casos de alucinación y el rango de resultados de detección.