DeepSeek revela base de sandbox: 3 milhões de execuções por dia

A DeepSeek publicou no arXiv um relatório técnico intitulado "DeepSeek Elastic Compute (DSec): infraestrutura de sandbox para treinamento de agentes em larga escala", submetido em 19 de setembro. O relatório descreve a camada de execução usada pela DeepSeek para treinar e avaliar agentes, ou seja, o ambiente em que os modelos escrevem código, executam comandos e operam um computador. A lista de autores passa de cem pessoas, com a DeepSeek-AI como instituição principal; entre os colaboradores há estudantes de doutorado da Universidade Tsinghua que participaram como estagiários.

A DeepSeek já publicou vários relatórios sobre treinamento de modelos, mas é a primeira vez que descreve separadamente esse "campo de treinamento" por trás do aprendizado por reforço.

Quatro tipos de sandbox, uma única interface

Por meio de um SDK unificado, o DSec oferece quatro backends, ordenados do mais leve ao mais pesado em isolamento e custo:

  • FnCall: tarefas sem estado, como juízes online (OJ)
  • Contêineres: engenharia de software e tarefas com chamadas de ferramentas
  • MicroVM Firecracker: tarefas de segurança ofensiva que exigem isolamento mais forte
  • Máquina virtual completa (QEMU): desenvolvimento Android e tarefas intensivas em gráficos

As cargas de trabalho cobertas incluem tarefas de código em nível de repositório no estilo SWE-bench, exploração de vulnerabilidades de segurança, operação de computador e desenvolvimento mobile. O framework de treinamento apenas chama essa mesma interface; é a camada de agendamento que decide qual sandbox usar conforme a tarefa.

Alguns números de engenharia

O carregamento de imagens ocupa boa parte do relatório. O DSec armazena as imagens em formato EROFS, no 3FS, o sistema de arquivos distribuído próprio da DeepSeek, e as lê sob demanda. Em comparação com a abordagem tradicional de baixar primeiro toda a imagem Docker localmente, o tempo de conclusão do mesmo lote de tarefas caiu de mais de 60 minutos para cerca de 35 minutos, um fator de 1,71 vez segundo o relatório; a escrita acumulada em disco caiu 57%.

Em memória, o relatório usa virtio-pmem junto com DAX para que várias máquinas virtuais na mesma máquina compartilhem o cache de páginas em vez de manter cada uma sua própria cópia, o que reduziu o pico de memória do host em 40,2%; somado à recuperação de páginas ociosas via DAMON e um driver de balloon, o consumo de memória acumulado ao longo do tempo caiu mais 21,2%.

Há um design ligado diretamente ao treinamento: a execução do rollout foi movida para o DSec e dividida em dois componentes, com o sandbox do agente e o contêiner de trabalho guardando juntos o estado completo do rollout. As tarefas de treinamento em GPU são preemptíveis; quando uma tarefa é interrompida, a interação de várias etapas em andamento não é perdida.

Em comparação com pares no exterior

O negócio de sandboxes para agentes já conta, no exterior, com um grupo de empresas especializadas. Quando a OpenAI adicionou sandbox ao Agents SDK em abril deste ano, recorreu a provedores terceiros como E2B, Modal, Daytona e Cloudflare; a Anthropic lançou depois um sandbox autogerenciado, e a Cursor construiu um sandbox de código em nível de sistema operacional. Esses produtos são voltados a desenvolvedores que rodam agentes em produção, com foco em limites de segurança e cobrança por uso.

O ponto de partida do DSec é diferente. Ele atende ao próprio treinamento por reforço da DeepSeek e precisa resolver o problema de vários milhões de ambientes por dia que precisam ser criados e destruídos sem atrasar as GPUs. Os números de concorrência e densidade citados no relatório raramente são divulgados publicamente em produtos de sandbox comerciais, o que impede uma comparação direta.

É provável que vários laboratórios líderes no exterior tenham sistemas semelhantes internamente, mas raramente publicam a arquitetura e os números em forma de artigo. Desta vez a DeepSeek expôs as escolhas por trás dos quatro backends e as técnicas de otimização de imagem e memória, dando às equipes que treinam agentes na China uma referência para comparação. O relatório não diz se o DSec será aberto como código aberto, nem se será oferecido como serviço em nuvem.

Fontes: CocoLoop, artigo no arXiv DeepSeek Elastic Compute (DSec), documentação do Agents SDK da OpenAI; os números de concorrência, densidade e aceleração no carregamento de imagens foram verificados no texto do artigo.