MiniMax M3 adopte l'attention sparse, prend en charge un contexte d'un million de tokens

Le 1er juin, MiniMax a publié le M3. En résumé : un modèle open-weight qui intègre un contexte d'un million de tokens, des capacités de codage de pointe et une multimodalité native. MiniMax affirme être le premier à combiner les trois.

Le vrai travail réside dans l'« attention sparse »

Le M3 repose sur une nouvelle architecture appelée MSA (MiniMax Sparse Attention).

Pour comprendre ce qu'elle résout, il faut connaître l'ancien problème : l'attention complète standard nécessite un calcul qui augmente de façon quadratique avec la longueur du contexte—les contextes longs deviennent prohibitifs. C'est pourquoi le « contexte d'un million de tokens » est évoqué depuis longtemps mais reste coûteux à utiliser.

MSA cible directement cela. Les chiffres de MiniMax : à 1 million de tokens, M3 n'utilise qu'un vingtième du calcul par token par rapport à son prédécesseur M2 ; le pré-remplissage est plus de 9 fois plus rapide, et le décodage plus de 15 fois plus rapide.

Autrement dit, le contexte d'un million de tokens est désormais non seulement « utilisable », mais « abordable ».

Benchmarks : auto-déclarés, impressionnants

Le codage est le principal axe du M3. MiniMax a publié ces scores :

  • SWE-Bench Pro : 59,0 % (dépasse GPT-5.5, Gemini 3.1 Pro, proche d'Opus 4.7)
  • Terminal-Bench 2.1 : 66,0 %
  • MCP Atlas : 74,2 %
  • OSWorld (contrôle d'ordinateur) : 70,06 %

Si ces chiffres sont exacts, ils sont assez compétitifs pour un modèle open-weight.

Mais il faut être prudent : ils ont tous été auto-déclarés par MiniMax et n'ont pas encore été vérifiés par des tiers. Certains médias étrangers ont déjà titré « Allégations de pointe, benchmarks non vérifiés ». La démarche intelligente est d'attendre les poids et le rapport technique—prévus dans une dizaine de jours—et de laisser la communauté les tester.

Les prix également annoncés

MiniMax a également détaillé les formules tarifaires :

  • Plus : ~1,7 milliard de tokens par mois, 20 $
  • Max : ~5,1 milliards de tokens par mois, 50 $
  • Ultra : ~9,8 milliards de tokens par mois, 120 $

L'API est déjà disponible. Les poids du modèle et le rapport technique devraient être mis en ligne sur Hugging Face et GitHub dans une dizaine de jours.

Dans un contexte plus large, il s'agit d'une nouvelle poussée des LLM open source chinois vers le « contexte long + agent capable ». DeepSeek, Qwen et Kimi sont en compétition dans ce domaine depuis un an. La différenciation de MiniMax réside dans l'efficacité architecturale—non pas qui a le plus de paramètres, mais qui peut calculer plus vite et à moindre coût à l'échelle du million de tokens.

Cela coupe les douves des modèles propriétaires : « le contexte long est trop cher ».

Sources : CocoLoop, MiniMax Releases MiniMax M3 with MSA Architecture Supporting 1M-Token Context (MarkTechPost) ; MiniMax M3: Open-weight model with a million-token context challenges proprietary leaders (The Decoder) ; MiniMax M3 Open-Weight Coding Model: Frontier Claims, Unverified Benchmarks (TechTimes)