ChatGPT 開放外掛 (Plugins) 生態後已經有許多網路服務商爭相開發,目前第一批已經有超過 70 個外掛通過 OpenAI 審核,雖然從 OpenAI 公布的開發規範文件來看,開發 ChatGPT 外掛並不是太複雜的事情,但仍需付出一定的研發人力。Langdock 是一個能將你現有 API 轉換成 ChatGPT (或其他 LLM 服務) API 的服務,只需要幾分鐘的時間就能完成建置,Langdock 也提供測試、佈署、監控、報表等服務,讓服務商可以在一個平台完成產品佈署、營運。
開發者可以透過 Langdock 提供的操作介面,將服務 API 的端點 (endpoint) 資訊一一建立在對應的欄位上。需要特別注意的是由於 ChatGPT 外掛是由 ChatGPT 根據使用者的指令自動呼叫,並不是由使用者指定,所以欄位上的描述方式建議參考 ChatGPT 外掛開發文件說明填寫,讓 ChatGPT 可以更清楚知道每個欄位的使用時機、參數填入方式。
可以將服務佈署到 ChatGPT 或 Langchain 上。
Langdock 也提供測試工具,可以收集外掛程式目前的運作狀況,開發人員也可以從這邊獲得觸發外掛程式的指令 (prompt),對於分析上下文和提高外掛程式的性能非常有用。
監控功能也提供了 API 的即時運作狀況,包含 Request 數、端點呼叫次數、請求延遲…等資訊。
未來 Langdock 還會提供洞察報告、資安防護等加值服務。