Entwickeln / Referenz
Grenzen
Welche Größen-, Zeit- und Mengengrenzen das Gateway selbst prüft und wie es mit den Rate Limits der Anbieter umgeht.
Diese Seite nennt nur Grenzen, die das Gateway selbst durchsetzt. Die Anbieter haben eigene, oft engere Grenzen, zum Beispiel für die Länge des Kontexts oder die Bildgröße eines Modells. Solche Fehler meldet der Anbieter, und das Gateway reicht sie unverändert durch, siehe Fehlercodes.
Größe des Bodys
| Endpunkte | Body höchstens | Fehler bei Überschreitung |
|---|---|---|
/v1/files und /v1/skills mit Unterpfaden | 600 MB | 413 request_too_large |
alle übrigen Endpunkte unter /v1/ | 160 MB | 413 request_too_large |
MB steht hier für 1024 × 1024 Byte. Die Grenzen zählen die Bytes, die tatsächlich ankommen, auch bei einem Body ohne Content-Length. Sie liegen bewusst über jeder regulären Anfrage. Engere Grenzen einzelner Endpunkte stehen weiter unten.
Wartezeit auf den Anbieter
| Grenze | Wert | Fehler bei Überschreitung |
|---|---|---|
| Verbindungsaufbau zum Anbieter | 10 Sekunden | 504 provider_timeout |
| Warten auf Daten vom Anbieter | 120 Sekunden | 504 provider_timeout |
| Anbieter je Anfrage (Failover) | höchstens drei | Antwort bzw. Fehler des letzten Anbieters |
Läuft die Zeit bei einem Anbieter ab, versucht das Gateway den nächsten Anbieter des Modells, falls es einen gibt. Erst wenn der letzte Anbieter nicht antwortet, erhalten Sie provider_timeout. Das Gateway folgt keinen Weiterleitungen (3xx) des Anbieters, sondern gibt sie unverändert zurück.
Ein Failover wechselt nur zwischen Anbietern derselben Art: von einem eigenen Anbieter-Schlüssel (BYOK) nie zu einem von Noirdoc verwalteten Anbieter und umgekehrt. Mehr dazu unter Anbieter & Routing.
Rate Limits
Das Gateway setzt für Ihre API-Anfragen keine eigenen Rate Limits. Antwortet ein Anbieter mit Statuscode 429 (Too Many Requests), versucht das Gateway den nächsten Anbieter des Modells. Gibt es keinen weiteren, erhalten Sie die 429-Antwort des Anbieters unverändert, mit seinen Headern wie Retry-After.
Budgets und Guthaben begrenzen die Kosten, nicht die Anzahl der Anfragen. Sie führen zu Statuscode 402, siehe Budgets je Schlüssel und Guthaben & Abrechnung.
Bildgenerierung
/v1/images/generations prüft vor der Weiterleitung:
| Parameter | Grenze |
|---|---|
prompt | nicht leerer String |
n | ganze Zahl von 1 bis 10, Standard 1 |
size | BREITExHÖHE, jede Seite 1 bis 2048 Pixel; ohne Angabe 1024x1024; "auto" ist nicht erlaubt |
| Megapixel je Anfrage | höchstens 16 |
Die Megapixel zählen je Bild aufgerundet (1024x1024 = 1, 1536x1024 = 2, 2048x2048 = 4), mal n. Beispiele: Zehn Bilder in 1024x1024 ergeben 10 und sind erlaubt. Fünf Bilder in 2048x2048 ergeben 20, und das Gateway lehnt die Anfrage ab. Teilen Sie solche Anfragen in mehrere auf. Verstöße beantwortet das Gateway mit 400 invalid_image_request. Mehr unter Bilder.
Audio
| Endpunkt | Grenze | Fehler |
|---|---|---|
/v1/audio/transcriptions | Body höchstens 26 MB (26 × 1024 × 1024 Byte), inklusive aller Formularfelder | 413 request_too_large |
/v1/audio/speech | input höchstens 4.096 Zeichen, voice erforderlich | 400 invalid_tts_request |
Mehr unter Audio.
Dateien in Anfragen
Für die Analyse von Dateien und Bildern, die als Base64 in Chat-Anfragen stehen, gilt die Einstellung Maximale Dateigröße unter Models → Datenschutz. Standard sind 25 MB je Datei. In den Dateianalyse-Modi pseudonymize und block lehnt das Gateway zu große Dateien jedes Formats mit 422 file_unprocessable ab, statt sie ungeprüft weiterzuleiten. Details unter Dateien.
Für Dateien, die Sie über /v1/files hochladen, gilt nur die Grenze für den Body von 600 MB; darunter gelten die Grenzen des Anbieters, siehe Dateien & Skills.