DeepSeek Ungkap Infrastruktur Sandbox untuk 3 Juta Sesi per Hari

DeepSeek merilis laporan teknis di arXiv berjudul "DeepSeek Elastic Compute (DSec): Infrastruktur Sandbox untuk Pelatihan Agen Skala Besar", diajukan pada 19 September. Laporan ini membahas lapisan eksekusi yang digunakan DeepSeek saat melatih dan mengevaluasi agen AI — tempat model menulis kode, menjalankan perintah, dan mengoperasikan komputer. Daftar penulisnya lebih dari seratus orang, dengan DeepSeek-AI sebagai institusi utama, termasuk beberapa mahasiswa PhD dari Universitas Tsinghua yang berpartisipasi sebagai magang.

DeepSeek sudah banyak merilis laporan soal pelatihan model. Namun ini pertama kalinya "arena latihan" di balik reinforcement learning-nya ditulis secara terpisah dalam bentuk makalah.

Empat Jenis Sandbox, Satu Antarmuka

DSec menyediakan empat backend melalui satu SDK terpadu, diurutkan dari yang paling ringan ke paling berat berdasarkan tingkat isolasi dan overhead-nya:

  • FnCall: tugas tanpa status (stateless), misalnya online judge (OJ)
  • Kontainer: tugas rekayasa perangkat lunak dan pemanggilan tools
  • Firecracker microVM: tugas penetrasi keamanan yang butuh isolasi lebih kuat
  • Mesin virtual penuh (QEMU): pengembangan Android dan tugas berat grafis

Beban kerja yang dicakup meliputi tugas coding tingkat repositori seperti SWE-bench, eksploitasi kerentanan keamanan, pengoperasian komputer, dan pengembangan aplikasi mobile. Di sisi framework pelatihan, hanya satu antarmuka yang dipanggil; lapisan penjadwalan yang menentukan backend sandbox mana yang dipakai untuk tiap tugas.

Beberapa Angka Teknis

Pemuatan image mendapat porsi pembahasan terbanyak dalam laporan ini. DSec menyimpan image dalam format EROFS di sistem file terdistribusi 3FS buatan DeepSeek sendiri, dan membacanya sesuai kebutuhan. Dibanding cara konvensional yang menarik seluruh image Docker ke lokal terlebih dahulu, waktu penyelesaian untuk batch tugas yang sama turun dari lebih 60 menit menjadi sekitar 35 menit — laporan menyebut percepatan 1,71 kali; total penulisan disk kumulatif berkurang 57%.

Dari sisi memori, laporan ini memakai virtio-pmem yang dipadukan dengan DAX, sehingga beberapa mesin virtual di mesin fisik yang sama bisa berbagi satu page cache alih-alih masing-masing menyimpan sendiri, membuat puncak penggunaan memori host turun 40,2%. Ditambah reklamasi halaman idle berbasis DAMON dan balloon driver, penggunaan memori kumulatif berbasis waktu turun lagi 21,2%.

Ada satu desain lagi yang berhubungan langsung dengan pelatihan: eksekusi rollout dipindahkan ke DSec dan dipecah menjadi dua komponen, di mana sandbox agen dan worker container sama-sama menyimpan status rollout secara lengkap. Tugas pelatihan GPU bersifat dapat diambil alih (preemptible), dan ketika diambil alih, interaksi multi-langkah yang sedang berjalan tidak ikut hilang.

Dibandingkan dengan Pemain Global

Bisnis sandbox untuk agen AI sudah punya sejumlah perusahaan khusus di luar negeri. Ketika OpenAI menambahkan sandbox ke Agents SDK-nya bulan April lalu, mereka menghubungkan penyedia pihak ketiga seperti E2B, Modal, Daytona, dan Cloudflare; Anthropic kemudian meluncurkan sandbox self-hosted, dan Cursor membuat sandbox kode tingkat sistem operasi. Produk-produk ini menyasar pengembang yang menjalankan agen di lingkungan produksi, dengan fokus pada batas keamanan dan penagihan berdasarkan pemakaian.

Titik berangkat DSec berbeda. Ia melayani pelatihan reinforcement learning milik DeepSeek sendiri, dan masalah yang harus dipecahkan adalah menyalakan dan mematikan jutaan environment per hari tanpa memperlambat GPU. Angka konkurensi dan kepadatan dalam laporan ini jarang diungkap secara publik oleh produk sandbox komersial, sehingga tidak bisa dibandingkan apel-ke-apel.

Laboratorium-laboratorium terkemuka di luar negeri kemungkinan besar juga punya sistem serupa secara internal, tapi jarang menuangkan arsitektur dan angkanya ke dalam makalah. Dengan membeberkan trade-off di antara empat backend serta teknik optimasi image dan memori, DeepSeek kali ini memberi tim-tim di Tiongkok yang mengerjakan pelatihan agen AI sebuah rujukan teknis untuk dibandingkan. Laporan ini tidak menyebutkan apakah kode DSec akan open source, ataupun apakah akan ditawarkan sebagai layanan cloud.

Sumber: CocoLoop, makalah arXiv "DeepSeek Elastic Compute (DSec)", dokumentasi OpenAI Agents SDK; angka konkurensi, kepadatan, dan percepatan pemuatan image telah diverifikasi sesuai teks utama makalah.