中国本土からのClaudeおよびGPT互換APIの呼び出し

中国からのアクセス問題は通常一つのこととして語られますが、実際には二つあります。ネットワーク経路と、ベンダーの地域別条件です。これらを分けて考えれば、中継で解決できることとできないことが分かります。

短い回答: OpenAI互換リレーは接続先とリクエストのルーティングを変更するため、クライアントとコードはそのまま利用できます。モデルベンダーの規約は変更されず、遵守はあなたの責任のままです。その代わりに得られるのは、到達可能なエンドポイント、デフォルトのストリーミング、そして明細単位で照合できる従量課金です。

2つの問題を切り分ける

コードの変更点：2行

エンドポイントはOpenAI互換のため、既存のSDKをそのままご利用いただけます。実際にはベースURLとキーを変更するだけで、それ以外の変更は不要です。

• リクエスト形式は同じため、既存のプロンプト、パラメータ、ツール呼び出しコードはそのまま使用できます。
• ストリーミングがデフォルトです。最初のトークンまでの時間がユーザーに体感されるためです。
• 公開されたモデル一覧により、モデルIDを指定するコードを書く前に、利用可能なモデルIDを確認できます。

午後半日でリレーをテストする方法

1. 到達性。 ストリーミングリクエストを送信し、合計時間だけでなく最初のトークンまでの時間を測定する。
2. 負荷。 実際の同時実行数で再テストしてください。負荷時の安定性こそが唯一重要な安定性です。
3. 品質。 同じプロンプト、同じモデルを並べて比較。依頼したモデルが実際に届いたモデルであることを確認してください。
4. 計量。 送信および受信したトークン数と、請求された使用量を比較してください。両者が一致すれば、残りの会計処理は信頼できます。
5. コントロール。 キーを即座に無効化できること、および残高が想定どおりであることを確認してください。

監査対応を維持する

前払い残高とコール単位の使用量により、支出は説明可能になります。何が呼ばれ、何トークンで、いくらかかったかが、いつでも確認できる残高から差し引かれ、明細とエクスポート可能な支出曲線が付きます。プロジェクトごとに1つのキーを使用すれば、漏洩時は所有するすべての認証情報をローテーションするのではなく、1つの認証情報を無効化することで閉じられます。