Wenn ein Coding-Agent lange arbeitet, wächst der Gesprächsverlauf mit jedem Werkzeugergebnis. Anthropic hat für die Messages API eine öffentliche Beta namens Message Threads vorgestellt, die spätere Anfragen kleiner macht.
Wie Threads die Anfrage ändern
Zu Beginn werden Verlauf, Systemanweisung und Werkzeuge gesendet. Danach reichen neue Nachrichten und die ID der vorherigen Antwort; der Dienst hält den Verlauf kurzzeitig im Arbeitsspeicher. Anthropic berichtet bei Claude-Code-Anfragen mit 500.000 bis einer Million Token von rund 35 Prozent weniger medianer Wartezeit bis zum ersten Token. Das ist eine Herstellerangabe für diesen Bereich.
Ablauf, Kosten und Datenverarbeitung
Weniger übertragene Daten bedeuten nicht automatisch geringere Tokenkosten: Das Modell verarbeitet weiterhin den gesamten Verlauf, und die regulären Preise gelten. Nach fünf Minuten ohne Anfrage läuft ein Thread ab. Anwendungen müssen den Verlauf daher selbst speichern und bei Bedarf erneut senden. Für Zero Data Retention und HIPAA ist die Funktion nicht geeignet.
Für die Einführung lohnt sich eine Messung der eigenen langen Sitzungen samt Prüfung des Wiederherstellungswegs und der Datenbedingungen.
