這兩年如果你有同時碰 OpenAI API 與 Azure OpenAI Service,你一定會覺得同樣是呼叫 LLM 的 API,明明都是一樣的服務,但是 Azure OpenAI 的 API 設計就是特別難用,要先部署模型、呼叫路徑要帶 deployment name、每個請求還要綁 ?api-version=YYYY-MM-DD 查詢字串 (Query String)。這套設計不是沒有理由,但對應用開發者來說,確實也帶來不少心智負擔。
... 繼續閱讀 ...
在 GitHub 上面有許多可以呼叫 GPT-3.5 或 GPT-4 的開源專案,但大多都僅支援 OpenAI 提供的 API 端點。如果你想要將這些專案改成呼叫 Azure OpenAI Service (AOAI) 的 API 端點的話,沒用過 AOAI 的人就會不知道怎樣調整。今天這篇文章我打算來整理一下幾個重要的背景知識,方便你快速的轉換過去。
... 繼續閱讀 ...