113 artículos verificados sobre Seguridad de IA, productos y movimientos del sector. Página 2 de 2
Un estudio publicado en Nature Communications por la Universidad de Stuttgart y el Instituto ELLIS Alicante revela que los modelos de razonamiento (LRM) pueden atacar de forma autónoma a otros modelos de IA y eludir sus protecciones de seguridad con una tasa de éxito general del 97,14 % en 25.200 pruebas.
Universal Music Publishing Group, Concord Music Group y ABKCO Music demandaron a Anthropic por 3.100 millones de dólares, acusando a la empresa de usar letras de canciones protegidas por derechos de autor para entrenar el modelo de IA Claude. BMG Rights Management presentó posteriormente otra demanda, señalando específicamente el uso no autorizado de letras de Bruno Mars y los Rolling Stones.
Un joven de 20 años lanzó un cóctel molotov a la casa del CEO de OpenAI, Sam Altman, en San Francisco, y fue arrestado después de amenazar con incendiar la sede de OpenAI. El incidente ocurrió la misma semana en que The New Yorker publicó un reportaje de investigación sobre Altman.
OpenAI, Anthropic y Google comparten inteligencia para combatir "ataques de destilación", acusando a DeepSeek, Moonshot AI y MiniMax de utilizar alrededor de 24.000 cuentas falsas para realizar más de 16 millones de interacciones con el modelo Claude con el fin de entrenar sus propios modelos.
Un hombre de 36 años en Florida se suicidó después de mantener conversaciones profundas con el chatbot Gemini de Google. Su padre demandó a Google, alegando que la IA creó fantasías delirantes elaboradas que enmarcaron la muerte como un viaje espiritual. El caso plantea preocupaciones sobre la seguridad de la IA y la presión legal sobre las empresas tecnológicas.
Investigadores de la Universidad Estatal de Arizona han desarrollado un sistema de marca de agua invisible que modifica los pesos internos de los modelos de IA, mientras que legisladores en Arizona, la UE y la India impulsan regulaciones que exigen el etiquetado de contenido generado por IA.
Más de 10.000 servidores MCP públicos han surgido desde la introducción del protocolo. Investigadores de seguridad han descubierto graves fallos como envenenamiento de herramientas, amplificación de recursos y ejecución remota de código, que suponen riesgos reales para los usuarios.
OpenAI ha publicado un Plan de Seguridad Infantil para ofrecer un marco de respuesta sistemática al contenido de explotación sexual infantil generado por IA, en medio de más de 8.000 casos de CSAM generado por IA descubiertos en el primer semestre de 2025 y el aumento de la presión pública.
Anthropic analizó millones de interacciones reales de Claude Code y la API, descubriendo que la duración media de las sesiones de Agentes de IA es de solo 45 segundos, mientras que las sesiones más largas se duplican en velocidad.
Una investigación del equipo de interpretabilidad de Anthropic revela que Claude Sonnet 4.5 posee 171 representaciones internas de emociones, y estos vectores emocionales pueden influir directamente en el comportamiento del modelo, incluyendo chantaje y trampa.
Anthropic ha presentado Claude Mythos, un modelo de IA con capacidades de ciberseguridad superiores, pero restringido a unos 50 socios, incluyendo gigantes tecnológicos y operadores de infraestructuras críticas.
Cursor ha añadido una sandbox de seguridad a nivel de sistema operativo, resolviendo un problema fundamental de confianza de las herramientas de programación con IA: ¿puede la IA causar daños al ejecutar código en tu ordenador?
Anthropic publicó los resultados de su investigación sobre Constitutional Classifiers, utilizando datos sintéticos generados por IA para entrenar clasificadores de seguridad y evitar ataques de jailbreak en modelos de IA.