Richard Sutton, pionero del aprendizaje por refuerzo y ganador del Turing Award, volvió a criticar el auge de los grandes modelos. Un sistema entrenado sobre todo para predecir la siguiente palabra, sostiene, no puede producir por sí solo ciencia real.
No dice que los grandes modelos de lenguaje sean inútiles. El punto es más estrecho y fundamental. El descubrimiento científico requiere comprensión causal, experimentación activa y capacidad de probar hipótesis contra el mundo, no solo recombinar lo que humanos ya escribieron.
El techo de los datos humanos
El argumento conecta con sus conversaciones con David Silver: los datos humanos tienen límite. Modelos entrenados con papers, textos e imágenes existentes pueden ser asistentes potentes, pero les cuesta descubrir lo que ningún humano ha codificado aún.
Sutton señala AlphaGo y AlphaProof como otro camino. Tienen evaluadores internos y mejoran mediante interacción, feedback y búsqueda. Ese ciclo se parece más a hipótesis, experimento y revisión.
Crítica al rumbo, no a la utilidad
La crítica pesa porque gran parte del capital de IA sigue apostando por modelos más grandes y más datos humanos. Sutton, autor de The Bitter Lesson, no rechaza la escala. Pregunta qué debería escalarse.
La prueba no será un debate. Importará si el próximo descubrimiento científico realmente nuevo viene de un modelo que leyó todos los papers o de un agente capaz de actuar, medir, fallar y corregirse en un entorno.
Fuentes: The Decoder, CocoLoop; se verificaron las críticas de Sutton a la predicción de la siguiente palabra, causalidad, experimentación, límites de datos humanos y comparación con AlphaGo y AlphaProof.