FastGPT：開源知識庫問答平台，自架部署教學

內容概述

FastGPT 是一個開源的 AI Agent 與知識庫問答平台，提供開箱即用的資料處理、模型呼叫與檢索增強生成（RAG）能力，並可透過 Flow 視覺化介面編排工作流程。

您可以用它在自己的伺服器上建立企業知識庫問答系統，文件與對話紀錄都保留在自有環境中。

應用場景

FastGPT 適用於需要以自有文件回答問題的情境，例如：

  • 企業內部知識管理：匯入公司內部文件，建立智慧問答系統，提升員工查找資訊的效率。
  • 客戶支援：建立智慧客服，快速回應常見問題，減少人工負擔。
  • 教育訓練：為學生或員工提供自動化的學習輔助，解答常見問題。

技術特點

  • 視覺化工作流程編排：透過 Flow 編排對話工作流程、外掛工作流程與 Agent Skill，實現複雜的問答情境。
  • 多模型支援：透過內建的 AI Proxy 服務管理模型與渠道，可接入多種大型語言模型。
  • 知識庫管理：支援手動輸入、直接分段、QA 拆分匯入，以及 CSV 批次匯入與 URL 讀取。
  • 多種檔案格式：支援 TXT、MD、HTML、PDF、Docx、PPTX、CSV、XLSX 等格式。
  • 混合檢索與重新排序：結合多種檢索方式並重新排序結果，提升回答準確度。
  • 除錯與評測：提供知識庫單點搜尋測試、引用回饋修改，以及完整呼叫鏈路紀錄。

其他整合

FastGPT 可與多種工具和平台整合，包括：

  • MCP：支援雙向 MCP，可呼叫外部 MCP 工具，也可將 FastGPT 應用提供給其他 MCP 用戶端。
  • OpenAPI：透過 API 從其他系統呼叫 FastGPT 應用與知識庫。
  • 網站嵌入：支援免登入分享視窗與 iframe 一鍵嵌入。
  • API 知識庫：可將外部系統作為知識庫資料來源。

安裝步驟：Docker Compose 安裝方式

以下步驟依據 FastGPT 官方文件的 Docker Compose 部署方式撰寫，以 v4.17.2 版本標籤中的 PgVector 版 Compose 檔為例（檔案內的 FastGPT 主程式映像檔為 v4.17.1）。官方建議測試環境最低 2 核心 CPU、4GB 記憶體，推薦 2 核心、8GB 記憶體。

  1. 建立並進入專案目錄：
Bash
mkdir fastgpt
cd fastgpt
  1. 確認您的環境已安裝 Docker 和 Docker Compose（官方建議 Docker Compose 2.17 以上版本）。如果尚未安裝，請先前往 Docker 官方網站 安裝：
Bash
docker -v
docker compose version
  1. 下載 v4.17.2 版本標籤中的 Docker Compose 檔與官方安裝腳本：
curl -fsSL https://raw.githubusercontent.com/labring/FastGPT/v4.17.2/document/public/deploy/docker/main/global/docker-compose.pg.yml -o docker-compose.source.yml
curl -fsSL https://raw.githubusercontent.com/labring/FastGPT/v4.17.2/document/public/deploy/install.sh -o install.sh
  1. 使用安裝腳本的本地 Compose 模式產生最終的 docker-compose.yml：
Bash
FASTGPT_LOCAL_COMPOSE_PATH=./docker-compose.source.yml bash install.sh

執行過程中，腳本會詢問 FastGPT 的存取位址（FE_DOMAIN，例如 http://localhost:3000）等設定，並自動產生 root 登入密碼與各項服務金鑰。執行完成後，終端機會輸出本次產生的 root 密碼，請妥善保存產生的 docker-compose.yml，後續升級時以此檔案為基礎調整。

  1. 預先拉取映像檔並啟動 Docker Compose：
Bash
docker compose --profile prepull pull
docker compose up -d
  1. 等待容器啟動完成後，在瀏覽器中存取 http://localhost:3000，並使用帳號 root 與步驟 4 產生的密碼登入。

檢查執行狀態

  • 查看容器狀態：
Bash
docker compose ps
  • 檢查日誌以確認啟動成功：
Bash
docker compose logs -f fastgpt-app

停止和移除容器

  • 停止容器：
Bash
docker compose down
  • 如果需要清除相關資料，可一併刪除掛載的資料卷（此操作會刪除所有知識庫與設定資料，請謹慎使用）：
Bash
docker compose down -v

存取和操作

啟動服務後，打開瀏覽器並存取 http://localhost:3000，即可進入 FastGPT 的視覺化介面。

首次登入時，系統會提示尚未設定「語言模型」與「索引模型」，並自動跳轉到模型設定頁面；至少需要設定這兩類模型，系統才能正常使用。

完成模型設定後，您可以建立和管理知識庫、設定應用與編排工作流程。

對外開放前的安全設定

  • 不要沿用預設密碼：以安裝腳本部署時會隨機產生 root 密碼；若手動下載 Compose 檔部署，請先修改 DEFAULT_ROOT_PSW 與各資料庫密碼再啟動。官方說明每次重啟容器都會依 DEFAULT_ROOT_PSW 更新 root 密碼。
  • 只開放必要連接埠：官方列出的連接埠包括 3000（主服務）、9000（S3 服務）、3006（Agent Sandbox Proxy）與 3003（SSE MCP Server，不需要可不開放）。對外服務建議透過反向代理加上 HTTPS，資料庫連接埠不要對外開放。
  • **妥善保管 docker-compose.yml：**檔案中含有服務間 Token、應用金鑰與資料庫密碼，請限制檔案權限並納入備份。

小技巧

  • 匯入文件時，依內容選擇合適的處理方式（如 QA 拆分），可提高問答品質。
  • 利用知識庫單點搜尋測試，先確認檢索結果正確，再調整提示詞與工作流程。
  • 定期更新 FastGPT 與知識庫內容，確保獲得最新功能和安全修復，並維持回答的準確性與時效性。

教學影片

影片教學（簡體中文）：开源AI知识库 FastGPT 保姆级教程，來源：三分钟实验室／Bilibili

參考連結

成本與風險摘要

  • 適用對象與規模：想以自有文件建立知識庫問答或客服的 AI 應用工程師與中小團隊；官方說明 PgVector 版本適合 5,000 萬組以下的向量索引量，更大規模建議改用 Milvus 版本。
  • 成本（硬體、訂閱、授權）：自架版本無授權費，但授權條款為 Apache 2.0 加附加條件：經營與 FastGPT 類似的多租戶 SaaS 服務，或移除主控台 LOGO 與版權資訊，需取得商業授權。硬體方面，官方推薦測試環境 2 核心 8GB；約 100 萬組向量最低 4 核心 8GB、50GB 儲存空間。模型 API 費用依您選用的模型供應商另計。
  • 維護時間：需維護 MongoDB、PostgreSQL（pgvector）、Redis、MinIO 與多個沙盒服務容器；升級前請先備份資料卷並閱讀 Release Notes。
  • 資安注意事項：更改預設密碼與金鑰、限制對外連接埠、以 HTTPS 對外；匯入的文件可能含個資或機密，請控管知識庫與分享連結的存取權限。
  • 常見誤區：只部署 FastGPT 卻沒有設定語言模型與索引模型，導致無法使用；或直接刪除資料卷造成知識庫遺失。
  • 不建議使用的情況：打算以 FastGPT 原始碼經營對外多租戶 SaaS 服務卻未取得商業授權，或沒有人力維護多個資料庫容器。
  • 測試日期與版本號：資料查核日期：2026-10-28；FastGPT v4.17.2 版本標籤（Compose 內主程式映像檔 v4.17.1）。

相關文章

返回頂端