Anthropic hat einen Architekturleitfaden für E-Commerce-Agenten veröffentlicht und gleichzeitig die Referenzimplementierung anthropics/commerce-agents auf GitHub open-sourced. Sie deckt Shopping-Agenten, Händler-Agenten sowie Frameworks und Evaluationswerkzeuge für vier Szenarien ab: Einzelhandel, Reisen, Telekommunikation und Ticketing. Der Beitrag stammt von Ali Shazal und Matthew Koen.
Die Eingangsempfehlung wirkt fast schon kontraintuitiv einfach: ein Modell, eine Standard-Agentenschleife, Long-Tail-Fähigkeiten werden an Skills ausgelagert, und Tools rufen direkt die bestehenden Backend-Systeme auf.
Skills statt Subagenten
Das Dokument stellt "Skills statt Subagenten" an die erste Stelle der Architekturprinzipien. Begründung: Die Übergabe in Subagenten-Architekturen ist verlustbehaftet für den Zustand, wodurch die Qualität sinkt. Laut Anthropic übertrifft die Kombination aus einem einzelnen Agenten plus Skills in ihren Vergleichen durchweg zwei Alternativen — einen Allzweck-Prompt für alles sowie die Aufteilung in mehrere Subagenten.
Für die Aufteilung zwischen System-Prompt und Skills gilt eine Häufigkeitsregel: Anweisungen, die in mehr als einem Drittel der Anfragen gebraucht werden, kommen in den System-Prompt, der Rest in Skills. Bei Shopping-Szenarien kommt die Produktsuche in fast jeder Session vor und bleibt deshalb im Prompt.
UI-Komponenten werden ebenfalls als Tools behandelt, statt das Modell eigene Custom-Tags ausgeben zu lassen. Letzteres hat sich in der Produktion als unzuverlässig erwiesen, da das vom Modell erzeugte Tag-Format nicht strikt erzwungen werden kann.
Die Cache-Trefferquote entscheidet über die Latenzrechnung
Im Abschnitt zur Performance dreht sich das meiste um Caching. Laut Dokument lässt sich in der Produktion eine Cache-Trefferquote von 90 bis 99 Prozent erreichen, wobei ein Cache-Read nur ein Zehntel des Preises neuer Tokens kostet. Die Methode: Anfragen werden in drei Segmente mit fester Reihenfolge aufgeteilt — ein globales Segment mit System-Prompt und Tool-Definitionen, ein Session-Segment mit Nutzerkontext und ein volatiles Segment mit dem aktuellen Zustand.
Eine Falle wird sehr direkt benannt: Wird ein Zeitstempel oder die aktuelle Seite oben in den System-Prompt gesetzt, invalidiert das den Cache bei jeder Anfrage. Dieser Fehler ist im E-Commerce häufig, weil Entwickler dazu neigen, den "aktuellen Warenkorb" ganz nach vorne zu stellen. Als Referenzgröße nennt das Dokument außerdem, dass E-Commerce-Antworten typischerweise 500 bis 700 Output-Tokens umfassen.
Bei der Modellauswahl wird das gesamte Evaluationsset über alle Kandidatenmodelle und Reasoning-Stufen hinweg durchlaufen, wobei Qualitätskennzahlen zusammen mit dem Latenz- und Kostenbudget betrachtet werden, nicht getrennt.
Sicherheit darf sich nicht allein auf Prompts stützen
Der Abschnitt zum Produktivbetrieb bezieht klar Stellung: Der Prompt ist der Ausgangspunkt für sicheres Verhalten, darf im E-Commerce aber nicht der Durchsetzungspunkt sein. Aktionen wie Zahlungen, Rückerstattungen oder Preisänderungen müssen serverseitig zwischengespeichert und freigegeben werden. Der beschriebene Mechanismus heißt ID-basierte Zugriffskontrolle: Der Harness protokolliert für jede Session jede ID, die der Server dem Modell übergeben hat, und nur IDs aus diesem Protokoll dürfen geschrieben oder gerendert werden. Vom Modell frei erfundene Produkt-IDs werden dadurch direkt blockiert.
Auch das Gedächtnis wird aus dem Modell ausgelagert: Langzeitgedächtnis wird in einer eigenen Datenbank gespeichert, als typisierte Einträge (Schlüssel, Wert, Kategorie, Quell-Session), die von einem separaten Thread oder Prozess asynchron aus Sessions gelesen werden, um Fakten hinzuzufügen, zu löschen oder zu ändern. Die asynchrone Extraktion hat die Trefferquote beim Faktenabruf um 13 Prozent verbessert.
Bei der Evaluation wurde auf simulierte Mehrfachdialoge verzichtet, stattdessen kommt ein Snapshot-Ansatz zum Einsatz: einen Testzustand konstruieren, eine Nutzernachricht anhängen, das Ergebnis bewerten. Empfohlen wird ein Einstieg mit 50 bis 100 Testfällen pro Nutzer-Flow, mit gepaarten positiven und negativen Beispielen, die sowohl kontextabhängige Anfragen als auch Anfragen über mehrere Fähigkeiten hinweg abdecken.
Laut Anthropic laufen diese Agenten bereits produktiv, und Unternehmenskunden verzeichnen höhere Warenkorbwerte. Konkrete Kundennamen wurden nicht genannt.
Quellen: offizieller Anthropic-Blog, CocoLoop, GitHub-Repository anthropics/commerce-agents; Angaben zu Cache-Trefferquote, der 13-prozentigen Verbesserung beim Faktenabruf und den 500-700 Output-Tokens stammen aus diesem Dokument.