Claude- und GPT-kompatible APIs aus dem chinesischen Festland aufrufen
Zugriffsprobleme aus China werden meist als eines beschrieben und sind tatsächlich zwei: Ihr Netzwerkpfad und die regionalen Bedingungen des Anbieters. Trennt man beides, zeigt sich, was ein Relay lösen kann und was nicht.
Kurze Antwort: ein OpenAI-kompatibles Relay ändert, wo Sie sich verbinden und wie die Anfrage weitergeleitet wird, sodass Ihr Client und Ihr Code unverändert bleiben. Es ändert nicht die Bedingungen des Modellanbieters, die Sie weiterhin einhalten müssen. Im Gegenzug erhalten Sie einen erreichbaren Endpunkt, standardmäßig Streaming und eine Abrechnung, die Sie Zeile für Zeile abgleichen können.
Die zwei Probleme, getrennt betrachtet
| Frage | Wie es aussieht | Was tatsächlich hilft |
|---|---|---|
| Netzwerkpfad | Timeouts, Resets, lange Zeit bis zum ersten Token, läuft auf einer Maschine und auf einer anderen nicht | Ein Endpunkt, den Sie zuverlässig erreichen können, mit Routing, das sich nicht mitten in der Anfrage ändert |
| Regionale Bedingungen | Der Lieferant bedient Ihre Region nicht, oder Ihr Konto kann gar nicht eröffnet werden | Die Bedingungen des Herstellers für Ihren Markt lesen — eine Weitergabe überträgt diese Verpflichtung nicht auf uns |
| Abrechnungsaufwand | Keine Karte akzeptiert, keine Rechnung, die Sie buchen können | Banküberweisung oder Western Union, Rechnungsstellung in USD, Gutschrift auf ein vorausbezahltes Guthaben |
Was sich in Ihrem Code ändert: zwei Zeilen
Der Endpoint ist OpenAI-kompatibel, das heißt, das von Ihnen bereits verwendete SDK funktioniert weiter. In der Praxis ändern Sie nur die Basis-URL und den Schlüssel, sonst nichts:
- Die Anfrageform ist dieselbe, sodass bestehende Prompts, Parameter und Tool-Calling-Code unverändert bleiben;
- Streaming ist der Standard, denn die Zeit bis zum ersten Token ist das, was Ihre Nutzer spüren;
- eine veröffentlichte Modellliste zeigt Ihnen, welche Modell-IDs verfügbar sind, bevor Sie den Code schreiben, der sie benennt.
Ein Relais an einem Nachmittag testen
- Verfügbarkeit. Senden Sie eine Streaming-Anfrage und messen Sie die Zeit bis zum ersten Token, nicht nur die Gesamtzeit.
- Last. Erneut mit Ihrer realen Parallelität ausführen. Stabilität unter Last ist die einzige Stabilität, die zählt.
- Qualität. Gleicher Prompt, gleiches Modell, Seite an Seite. Prüfen Sie, ob das angeforderte Modell auch das gelieferte Modell ist.
- Messung. Vergleichen Sie die gesendeten und empfangenen Token mit der abgerechneten Nutzung. Stimmen diese überein, ist die restliche Abrechnung verlässlich.
- Kontrolle. Bestätigen Sie, dass ein Schlüssel sofort deaktiviert werden kann und der Saldo Ihren Erwartungen entspricht.
Prüfungsfreundlich bleiben
Ein Prepaid-Guthaben und die nutzungsbasierte Abrechnung pro Aufruf machen die Ausgaben erklärbar: was aufgerufen wurde, wie viele Tokens, was es gekostet hat, abgebucht von einem Guthaben, das Sie jederzeit einsehen können, mit einer Abrechnung und einer exportierbaren Ausgabenkurve. Verwenden Sie einen Schlüssel pro Projekt, damit ein Leck durch Deaktivieren einer einzigen Zugangsdaten geschlossen werden kann, statt alle Ihre Schlüssel zu rotieren.
Testen Sie es von Ihrem Standort aus
Laden Sie $10 auf, erstellen Sie einen Schlüssel und messen Sie Erreichbarkeit, Latenz und Qualität an Ihrem eigenen Traffic, bevor Sie Volumen festlegen.
Aufladen und API-Schlüssel erhalten · Modellliste und Rabatte · So funktionieren Zahlung und Kredit
Frau Aya