模型換一次選型,每個小工具都要跟著改後端,是不少團隊的卡點。Dify 是開源的 AI 應用編排平台,社群版可在自己的伺服器上部署,把模型接入、提示編排、知識庫檢索和工作流程集中在一個後台管理,做好的應用以介面形式交給前端呼叫。前提是你自備部署環境與模型服務的來源;功能邊界隨版本更新較快,具體以專案倉庫目前說明為準。
主要功能
- 開源可自部署,設定與資料留在自己環境裡
- 視覺化編排應用,提示、變數與流程節點統一管理
- 內建知識庫檢索,可把文件接進回答
- 可接入多家模型服務,換模型不必動業務程式
- 應用對外提供介面,便於前後端分離
適合誰用
- 多個內部工具想共用同一套編排與知識庫
- 需要跑在自己的伺服器上,資料不出內網
- 模型還在選型階段,要頻繁切換對比
- 原型已經跑通,需要穩定的介面給前端使用
怎麼開始
- 按專案倉庫的部署說明先在測試機上起一個實例
- 拿一份真實文件建知識庫,驗證檢索召回是否夠用
- 把最常用的那個情境做成最小應用,再逐步加節點