跳至主要内容
Jope Inference Server · Developer Portal

Quick Start、REST reference、ZMQ reference。

選一個入口。Quick Start 走完一輪可運作的實作，約 30 分鐘； REST 和 ZMQ reference 是日常查閱用的完整 spec。

Start Here
Python · 指南

開始使用

給沒寫過 REST / ZMQ 的 Python 工程師的入門 walkthrough。 先裝好 stack，貼 25 行程式，跑起來。我們不談理論、先看 code。

  • ⏱ 約 30 分鐘跑完第一次 predict
  • 🐍 FastAPI · pyzmq · msgpack
  • 🧪 用我們 host 的 mock 測試
打開指南 →
REST · Reference

Management API

熱替換模型、觸發 training job、health check。 每個 endpoint 都有完整的 request / response schema，右側可直接 Try-It。

  • :5556/ · HTTP/1.1 · JSON
  • OpenAPI 3.1 · Scalar 渲染
  • Try-It 直接打 mock 驗證
打開 REST reference →
ZMQ · Reference

Inference Channel

一條 REQ-REP channel 同時載 predict、ping、model_info。 MessagePack binary · 長連 socket · ≤ 20 ms p95 來回。

  • :5555/ · TCP · MessagePack
  • AsyncAPI 2.6 · 自製 view
  • 每個 message 都附 payload 範例
打開 ZMQ reference →
原始規格下載
openapi.yamlv0.1.0 · OpenAPI 3.1asyncapi.yamlv0.1.0 · AsyncAPI 2.6

把這兩份 spec 餵給 openapi-generator / asyncapi generate 就能產 Python 和 C# 的 client SDK。 這兩份 spec、這個 portal、以及 ZMQ Protocol 敘述文件，就是唯一的 single source of truth。