base_urlをhttps://api.hostlinku.com/v1に置き換えるだけで、公式のOpenAI SDKを使用することができます。
x-request-id(リクエスト ID Hostlinku)が含まれており、非ストリーミングの成功レスポンスには、ヘッダー x-model(リクエストを処理したモデルのパブリックslug)も含まれます。
bodyパラメータ
例:非ストリーミングリクエスト(curl)
model には常にパブリックslug Hostlinku(内部 ID ではない)が含まれており、追加ブロック hostlinku は成功レスポンスに必ず存在し、リクエストのコストとレイテンシのみが含まれています:
ストリーミング (stream: true)
stream: true に対して、ゲートウェイは Content-Type: text/event-stream (SSE) で応答し、OpenAI 互換のフォーマットでチャンクをストリーミングします(各チャンクは、Hostlinku のパブリック id および同じモデルのslugを使用します)。 その後、data: [DONE]でストリームを閉じます:
- ストリームの途中で障害が発生した場合、ゲートウェイは1つのエラーイベント(
data: {"error": { "code": …, "message": … }})を送信し、偽の[DONE]は送信しない。切断されたストリームは、正常に終了したストリームのように見えることは決してない。 - 固定料金は、ストリーミング終了後の実際の使用量に基づいて計算されます。使用量が確認できない場合は、リクエスト受付時に予約された推定値に基づいて請求されます。
- ヘッダー
x-request-idは、コンソールのログと関連付けるために、ストリーミング応答にも送信されます。
例:Python(OpenAI公式SDK)
base_url以外のコードに変更はありません。OpenAIのSDKはそのまま使用可能です:
このエンドポイントでよく発生するエラー
エラーエンベロープの完全な形式については、エラーを参照してください。

