Zum Inhalt
Zurück zum Newsroom

Produkt

Terminal-API: Aufrufe ohne Streaming erreichen ihr Modell wieder

Anfragen an ein Modell mit Präfix ohne Streaming endeten in einem nackten 502-Fehler. Sie erreichen jetzt ihren Anbieter, Fehler behalten ihren tatsächlichen Status, und ein Header schaltet Umleitungen aus.

Nutzerwirkung: Gezielte Änderung

Terminal-Aufrufe ohne Streaming erreichen wieder ihren Anbieter. Fehler behalten aussagekräftige Statusangaben; Umleitungen lassen sich ausdrücklich abschalten.

Was nicht funktionierte

Eine Anfrage an /api/cli/v1/chat/completions mit einem Modell wie openrouter/z-ai/glm-5.2:free oder groq/openai/gpt-oss-120b und stream auf false erreichte weder OpenRouter noch Groq. Die Modell-ID ging an unseren Hauptpool, der sie nicht kennt. Der Client erhielt in weniger als einer Sekunde einen 502-Fehler. Cloudflare ersetzt den Inhalt eines 502-Fehlers, sodass die Ursache nie ankam. Streaming-Anfragen funktionierten. ZeroLog Code nutzt immer Streaming; deshalb blieb dies verborgen, bis ein Client Anfragen ohne Streaming sendete.

Derselbe Pfad verbuchte für jede zerolog:free-Anfrage ohne Streaming null Tokens. Keiner dieser Fehler erschien in unserer Fehlertelemetrie.

Was sich geändert hat

Anfragen ohne Streaming nehmen jetzt denselben Weg wie Anfragen mit Streaming. Ein 404 vom Anbieter bleibt ein 404, ein 429 bleibt ein 429. Fällt ein Anbieter aus, erhältst du einen 503 statt eines 502. Der Header X-ZeroLog-Upstream-Status enthält den Status, den der Anbieter tatsächlich gesendet hat. Diese Fehler werden jetzt jeweils in der Telemetrie gezählt. zerolog:free verbucht die vom Anbieter gemeldeten Tokens.

Eine weitere Anfrage dieser Schnittstelle, die eine gekoppelte Terminalsitzung aufweckt, brach mit einem internen Fehler ab, weil eine Funktion nicht importiert war. Sie funktioniert wieder.

Umleitung nur, wenn du sie möchtest

Lehnt ein Anbieter ab, antwortet ZeroLog standardmässig weiterhin mit einem anderen Modell und nennt es in X-ZeroLog-Served-Model. Möchtest du nur das angefragte Modell, sende X-ZeroLog-Reroute: off. Dann erhältst du den Fehler des Anbieters, bei einem 429 auch dessen Retry-After.

Auch Korrekturen gehören hierher. Feed · Doku · X · Recht & Datenschutz · Startseite