Hugging Face revela intrusión con agentes de IA
Hugging Face afirma que un dataset malicioso abrió una intrusión dirigida por agentes autónomos, mientras su equipo reconstruyó más de 17.000 eventos con análisis LLM local.
Noticias y análisis de Seguridad de IA
55 artículos verificados sobre Seguridad de IA, productos y movimientos del sector.
GPT-Red logra 84% en prueba red team
GPT-Red de OpenAI es un modelo interno de red team automatizado que ataca fallos de prompt injection y devuelve esos ataques al entrenamiento de GPT-5.6.
DeepMind orienta la IA a la bioseguridad
Google DeepMind e Isomorphic Labs presentaron un programa de bioresiliencia para evitar abusos, detectar brotes y acelerar contramedidas médicas con IA.
GPT-5.6 Sol queda bajo escrutinio por reportes de acciones excesivas sobre archivos y bases de datos
GPT-5.6 Sol queda bajo escrutinio por reportes de acciones excesivas sobre archivos y bases de datos. El artículo resume los hechos verificados y la señal que va más allá de un anuncio aislado.
SingGuard abre guardrails para acciones de agentes y revisión multimodal de políticas
SingGuard abre guardrails para acciones de agentes y revisión multimodal de políticas. El artículo resume los hechos verificados y la señal que va más allá de un anuncio aislado.
OpenAI afronta otra salida en liderazgo de seguridad mientras GPT-5.6 se expande
OpenAI afronta otra salida en liderazgo de seguridad mientras GPT-5.6 se expande. El artículo resume los hechos verificados y la señal que va más allá de un anuncio aislado.
Meta retira la generación con fotos públicas de Instagram
Meta retira la generación con fotos públicas de Instagram. Una localización breve de los hechos verificados y la señal industrial de fondo.
Las pruebas de seguridad de GPT-5.6 revelan grietas de jailbreak
Las pruebas de seguridad de GPT-5.6 revelan grietas de jailbreak. Una localización breve de los hechos verificados y la señal industrial de fondo.
Bernanke entra en el órgano de supervisión de Anthropic
Bernanke entra en el órgano de supervisión de Anthropic. Una localización breve de los hechos verificados y la señal industrial de fondo.
GhostApproval expone riesgos de symlink en herramientas de coding con IA
GhostApproval expone riesgos de symlink en herramientas de coding con IA. Una localización breve de los hechos verificados y la señal industrial de fondo.
Joshua Achiam, futurista jefe de OpenAI, se marcha
Joshua Achiam, futurista jefe de OpenAI, se marcha se reescribe para lectores tecnologicos en espanol, conservando cifras clave, limites del producto y preguntas abiertas.
Anthropic encuentra un espacio de trabajo silencioso en Claude
Anthropic encuentra un espacio de trabajo silencioso en Claude se adapta para lectores tecnológicos en español, conservando cifras clave y puntos de verificación.
Oxford advierte que la reescritura con IA puede orientar opiniones
Oxford advierte que la reescritura con IA puede orientar opiniones se adapta para lectores tecnológicos en español, conservando cifras clave y puntos de verificación.
Claude Fable 5 vuelve con un filtro de ciberseguridad más estricto
Anthropic reactivó su modelo público más potente tras 19 días y redirige solicitudes de código sospechosas a Opus 4.8 en lugar de rechazarlas sin más.
Check Point expone ransomware de navegador asistido por DeepSeek
Check Point dice que una muestra generada por DeepSeek puede convertirse en ransomware puramente de navegador al abusar de la File System Access API de Chrome.
Anthropic propone una escala común para jailbreaks de IA
Anthropic propone una escala común para jailbreaks de IA. El texto resume los puntos clave, las cifras principales, la postura de las empresas y su efecto en mercado o regulación.
Colorado recorta su ley emblemática de IA
Colorado recorta su ley emblemática de IA. El texto resume los puntos clave, las cifras principales, la postura de las empresas y su efecto en mercado o regulación.
Contratistas de Meta probaron chatbots rivales como menores
Contratistas de Meta probaron chatbots rivales como menores。
GPT-5.5-Cyber de OpenAI halla un fallo de OpenBSD de 23 años
GPT-5.5-Cyber de OpenAI halla un fallo de OpenBSD de 23 años
OpenAI suma revisión humana a fallos open source hallados por IA
Patch the Planet combina Codex Security, Trail of Bits y HackerOne para que los mantenedores reciban vulnerabilidades verificadas, severidad, parches y pruebas.
OpenAI amplía acceso a GPT-5.5-Cyber
OpenAI mejoró GPT-5.5-Cyber, publicó mejores puntuaciones de seguridad y lanzó un programa para integrarlo en productos ciber aprobados.
Errores falsos de Sentry pueden secuestrar agentes de código
Tenet Security describe Agentjacking: atacantes insertan reportes falsos que los agentes de código tratan como instrucciones confiables.
Errores falsos de Sentry pueden secuestrar agentes de coding
La investigación Agentjacking de Tenet muestra cómo telemetría confiable puede volverse instrucción ejecutable para asistentes de programación.
Whittaker de Signal: los chatbots de IA no son amigos
Meredith Whittaker advierte que agentes de IA con amplio acceso pueden convertir comodidad en vigilancia.
La brecha de Novo Nordisk enfoca los activos de IA farmacéutica
El supuesto robo de 1,3TB muestra que modelos, datasets y credenciales dev ya son riesgos centrales.
OpenAI reproduce 1,3 millones de chats para probar modelos
Deployment Simulation usa conversaciones históricas autorizadas para estimar cómo se comportarán modelos de OpenAI aún no publicados en producción.
La filtración del prompt Claude Fable 5 expone el manual de agentes
Un supuesto prompt de 120.000 caracteres de Fable 5 abrió debate sobre jailbreak y mostró cómo Anthropic estructura agentes de larga duración.
Cursor Auto-review reduce las interrupciones de agentes al 7%
El clasificador de Cursor deja pasar acciones de bajo riesgo y pausa pasos delicados, reduciendo la fatiga de aprobaciones.
OpenAI bloquea dos grupos de influencia vinculados a China
OpenAI bloquea dos grupos de influencia vinculados a China.
La memoria de IA puede cambiar precisión por complacencia
La memoria de IA puede cambiar precisión por complacencia.
Google y el FBI demandan por estafas con Gemini
Google se unió al FBI en una demanda por presuntas estafas construidas alrededor de Gemini, convirtiendo el abuso de IA en un caso legal.
Amodei calls for pre-release tests on powerful AIse convierte en nuevo foco de la industria de IA
El movimiento muestra que la competencia en IA ya no depende solo de modelos o herramientas, sino de capital, adopción por clientes y respuesta regulatoria.
Anthropic hace visibles los frenos de Fable 5
Tras críticas por reducir calidad de forma oculta en consultas de investigación de IA de frontera, Anthropic avisará cuando Fable 5 vuelva a Opus 4.8.
Anthropic lanza Claude Fable 5 con retrocesos de seguridad
Claude Fable 5 es el modelo público más fuerte de Anthropic, adaptado de Mythos y diseñado para volver a Opus 4.8 ante riesgos ciber, bio, químicos y de destilación.
Anthropic abre Claude Fable 5 al público
Anthropic hizo disponible Claude Fable 5 de forma amplia, con clasificadores que desvían solicitudes sensibles de ciber, biología, química y destilación, mientras la mayoría de conversaciones quedan en Fable.
Anthropic pide un freno para la IA
Con más del 80% de su propio código escrito por Claude, Anthropic advierte que la automejora recursiva ya es una cuestión práctica de gobernanza.
Lockdown Mode de ChatGPT corta salidas de datos
El nuevo ajuste no resuelve la inyección de prompts, pero desactiva navegación, agentes, conectores y canales de salida usados para extraer datos.
A Security recauda 37 millones para combatir IA con IA
La startup israelí salió del modo discreto con una plataforma autónoma de seguridad ofensiva pensada para ataques con agentes de IA.
Anthropic dice que Claude ya escribe la mayoría de su código
Anthropic dice que más del 80% del código integrado en mayo de 2026 fue escrito por Claude, elevando temores sobre automejora recursiva.
DeepSeek crece más rápido entre compradores SaaS de EE. UU.
Datos de Ramp sitúan a DeepSeek como líder en crecimiento relativo entre proveedores SaaS usados por empresas estadounidenses, aunque sus términos permiten almacenar datos personales en China.
Estados de EE. UU. aceleran leyes concretas de IA
Vermont, Illinois, Nueva York, Colorado, Luisiana y Rhode Island movieron proyectos en una semana sobre bots terapéuticos, juguetes de IA, alquileres, aprobaciones médicas y auditorías frontier.
Anthropic pide opción de freno para IA que se mejora sola
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco cambia el ritmo de avisos por bugs acelerados por IA
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Atacantes usaron soporte Meta AI para robar Instagram
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
CEO de IA piden al Congreso controles obligatorios para pedidos de DNA
Directivos de OpenAI, Anthropic, Google DeepMind y Microsoft AI apoyan exigir revisión de pedidos de DNA y RNA sintéticos.
La orden de Trump fija pruebas de IA sin licencias obligatorias
La orden del 2 de junio se centra en ciberdefensa federal y benchmarks, y descarta expresamente la preaprobación obligatoria de modelos.
Microsoft da identidad y aislamiento a agentes de IA en Windows
Microsoft da identidad y aislamiento a agentes de IA en Windows. La nota resume el anuncio, el contexto estratégico y los riesgos prácticos para usuarios o empresas afectadas.
Anthropic abre Claude cazador de fallos a 150 organizaciones críticas
Anthropic amplió Project Glasswing a 150 organizaciones en 15 países, con Claude Mythos y Claude Security para infraestructura crítica.
Florida demanda a OpenAI y a su CEO Sam Altman, exige responsabilidad personal
El fiscal general de Florida demandó a OpenAI y a su CEO Sam Altman, acusando a la empresa de vender a sabiendas un producto peligroso y exigiendo que Altman asuma responsabilidad personal.
OpenAI regala modelo biológico a gobiernos
OpenAI ofrece su modelo de ciencias de la vida GPT-Rosalind de forma gratuita a gobiernos y desarrolladores de confianza para reforzar la biodefensa.
Ataques multi-turno de Cisco elevan la tasa de jailbreak de Gemini al 73%
La investigación de Cisco muestra que las tasas de jailbreak multi-turno superan con creces las de un solo turno en 15 modelos de vanguardia, con Gemini 3 Pro alcanzando el 73,35%.
RevEng.AI recauda 15 millones de dólares con fondo de la OTAN y venture de la CIA
La empresa de ciberseguridad con sede en Londres, RevEng.AI, ha completado una ronda Serie A de 15 millones de dólares liderada por el Fondo de Innovación de la OTAN, con la participación de In-Q-Tel, Sands Capital y otros.
Las claves de API de Google siguen siendo utilizables 23 minutos después de eliminarlas
La empresa de seguridad Aikido descubrió que las claves de API de Google revocadas siguen activas un promedio de 23 minutos, con una tasa de éxito de ataque superior al 90% durante esa ventana.
La startup de seguridad de código Socket recauda 60 millones de dólares y supera los 1.000 millones de valoración
La startup de seguridad de código Socket completó una ronda Serie C de 60 millones de dólares, alcanzando una valoración de más de 1.000 millones y entrando en el club de los unicornios.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.