网站建设方案书 阿里云,html好看的个人主页,农业做的好的网站,如何使用记事本做网站目录 引言环境步骤1. 安装 docker2. 启动 docker3. 浏览器访问4. One API 配置语言模型、向量模型渠道和令牌5. 创建 FastGPT 知识库6. 创建 FastGPT 应用 官方文档 引言
部署之前可以先看一下 RAG 技术原理#xff0c;也可以后面回过头来看#xff0c;对一些概念有些了解也可以后面回过头来看对一些概念有些了解对部署的内容会有更好的理解
环境
Windows 10docker 27.0.3 fastgpt v4.8.9oneapi v0.6.7
步骤
1. 安装 docker
docker官网https://www.docker.com/ 版本Docker version 27.0.3cmd命令 docker --version
2. 启动 docker
打开 docker 软件切记先打开再进行下面的操作 创建一个 FastGPT 空文件夹存放以下两个配置文件
config.json
// 已使用 json5 进行解析会自动去掉注释无需手动去除
{feConfigs: {lafEnv: https://laf.dev // laf环境。 https://laf.run 杭州阿里云 ,或者私有化的laf环境。如果使用 Laf openapi 功能需要最新版的 laf 。},systemEnv: {vectorMaxProcess: 15,qaMaxProcess: 15,pgHNSWEfSearch: 100 // 向量搜索参数。越大搜索越精确但是速度越慢。设置为100有99%精度。},llmModels: [{model: gpt-4o-mini, // 模型名(对应OneAPI中渠道的模型名)name: gpt-4o-mini, // 模型别名avatar: /imgs/model/openai.svg, // 模型的logomaxContext: 125000, // 最大上下文maxResponse: 16000, // 最大回复quoteMaxToken: 120000, // 最大引用内容maxTemperature: 1.2, // 最大温度charsPointsPrice: 0, // n积分/1k token商业版censor: false, // 是否开启敏感校验商业版vision: true, // 是否支持图片输入datasetProcess: true, // 是否设置为知识库处理模型QA务必保证至少有一个为true否则知识库会报错usedInClassify: true, // 是否用于问题分类务必保证至少有一个为trueusedInExtractFields: true, // 是否用于内容提取务必保证至少有一个为trueusedInToolCall: true, // 是否用于工具调用务必保证至少有一个为trueusedInQueryExtension: true, // 是否用于问题优化务必保证至少有一个为truetoolChoice: true, // 是否支持工具选择分类内容提取工具调用会用到。目前只有gpt支持functionCall: false, // 是否支持函数调用分类内容提取工具调用会用到。会优先使用 toolChoice如果为false则使用 functionCall如果仍为 false则使用提示词模式customCQPrompt: , // 自定义文本分类提示词不支持工具和函数调用的模型customExtractPrompt: , // 自定义内容提取提示词defaultSystemChatPrompt: , // 对话默认携带的系统提示词defaultConfig: {} // 请求API时挟带一些默认配置比如 GLM4 的 top_p},{model: gpt-4o,name: gpt-4o,avatar: /imgs/model/openai.svg,maxContext: 125000,maxResponse: 4000,quoteMaxToken: 120000,maxTemperature: 1.2,charsPointsPrice: 0,censor: false,vision: true,datasetProcess: false,usedInClassify: true,usedInExtractFields: true,usedInToolCall: true,usedInQueryExtension: true,toolChoice: true,functionCall: false,customCQPrompt: ,customExtractPrompt: ,defaultSystemChatPrompt: ,defaultConfig: {}}],vectorModels: [{model: text-embedding-ada-002, // 模型名与OneAPI对应name: Embedding-2, // 模型展示名avatar: /imgs/model/openai.svg, // logocharsPointsPrice: 0, // n积分/1k tokendefaultToken: 700, // 默认文本分割时候的 tokenmaxToken: 3000, // 最大 tokenweight: 100, // 优先训练权重defaultConfig: {}, // 自定义额外参数。例如如果希望使用 embedding3-large 的话可以传入 dimensions:1024来返回1024维度的向量。目前必须小于1536维度dbConfig: {}, // 存储时的额外参数非对称向量模型时候需要用到queryConfig: {} // 参训时的额外参数},{model: text-embedding-3-large,name: text-embedding-3-large,avatar: /imgs/model/openai.svg,charsPointsPrice: 0,defaultToken: 512,maxToken: 3000,weight: 100,defaultConfig: {dimensions: 1024}},{model: text-embedding-3-small,name: text-embedding-3-small,avatar: /imgs/model/openai.svg,charsPointsPrice: 0,defaultToken: 512,maxToken: 3000,weight: 100}],reRankModels: [],audioSpeechModels: [{model: tts-1,name: OpenAI TTS1,charsPointsPrice: 0,voices: [{ label: Alloy, value: alloy, bufferId: openai-Alloy },{ label: Echo, value: echo, bufferId: openai-Echo },{ label: Fable, value: fable, bufferId: openai-Fable },{ label: Onyx, value: onyx, bufferId: openai-Onyx },{ label: Nova, value: nova, bufferId: openai-Nova },{ label: Shimmer, value: shimmer, bufferId: openai-Shimmer }]}],whisperModel: {model: whisper-1,name: Whisper1,charsPointsPrice: 0}
}docker-compose.yml
# 数据库的默认账号和密码仅首次运行时设置有效
# 如果修改了账号密码记得改数据库和项目连接参数别只改一处~
# 该配置文件只是给快速启动测试使用。正式使用记得务必修改账号密码以及调整合适的知识库参数共享内存等。
# 如何无法访问 dockerhub 和 git可以用阿里云阿里云没有arm包version: 3.3
services:# dbpg:image: pgvector/pgvector:0.7.0-pg15 # docker hub# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.7.0 # 阿里云container_name: pgrestart: alwaysports: # 生产环境建议不要暴露- 5432:5432networks:- fastgptenvironment:# 这里的配置只有首次运行生效。修改后重启镜像是不会生效的。需要把持久化数据删除再重启才有效果- POSTGRES_USERusername- POSTGRES_PASSWORDpassword- POSTGRES_DBpostgresvolumes:- ./pg/data:/var/lib/postgresql/datamongo:image: mongo:5.0.18 # dockerhub# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云# image: mongo:4.4.29 # cpu不支持AVX时候使用container_name: mongorestart: alwaysports:- 27017:27017networks:- fastgptcommand: mongod --keyFile /data/mongodb.key --replSet rs0environment:- MONGO_INITDB_ROOT_USERNAMEmyusername- MONGO_INITDB_ROOT_PASSWORDmypasswordvolumes:- ./mongo/data:/data/dbentrypoint:- bash- -c- |openssl rand -base64 128 /data/mongodb.keychmod 400 /data/mongodb.keychown 999:999 /data/mongodb.keyecho const isInited rs.status().ok 1if(!isInited){rs.initiate({_id: rs0,members: [{ _id: 0, host: mongo:27017 }]})} /data/initReplicaSet.js# 启动MongoDB服务exec docker-entrypoint.sh $$ # 等待MongoDB服务启动until mongo -u myusername -p mypassword --authenticationDatabase admin --eval print(waited for connection) /dev/null 21; doecho Waiting for MongoDB to start...sleep 2done# 执行初始化副本集的脚本mongo -u myusername -p mypassword --authenticationDatabase admin /data/initReplicaSet.js# 等待docker-entrypoint.sh脚本执行的MongoDB服务进程wait $$!# fastgptsandbox:container_name: sandboximage: ghcr.io/labring/fastgpt-sandbox:latest # git# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:latest # 阿里云networks:- fastgptrestart: alwaysfastgpt:container_name: fastgptimage: ghcr.io/labring/fastgpt:v4.8.9 # git# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.8.9 # 阿里云ports:- 3000:3000networks:- fastgptdepends_on:- mongo- pg- sandboxrestart: alwaysenvironment:# root 密码用户名为: root。如果需要修改 root 密码直接修改这个环境变量并重启即可。- DEFAULT_ROOT_PSW1234# AI模型的API地址哦。务必加 /v1。这里默认填写了OneApi的访问地址。- OPENAI_BASE_URLhttp://oneapi:3000/v1# AI模型的API Key。这里默认填写了OneAPI的快速默认key测试通后务必及时修改- CHAT_API_KEYsk-fastgpt# 数据库最大连接数- DB_MAX_LINK30# 登录凭证密钥- TOKEN_KEYany# root的密钥常用于升级时候的初始化请求- ROOT_KEYroot_key# 文件阅读加密- FILE_TOKEN_KEYfiletoken# MongoDB 连接参数. 用户名myusername,密码mypassword。- MONGODB_URImongodb://myusername:mypasswordmongo:27017/fastgpt?authSourceadmin# pg 连接参数- PG_URLpostgresql://username:passwordpg:5432/postgres# sandbox 地址- SANDBOX_URLhttp://sandbox:3000# 日志等级: debug, info, warn, error- LOG_LEVELinfo- STORE_LOG_LEVELwarnvolumes:- ./config.json:/app/data/config.json# oneapimysql:# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mysql:8.0.36 # 阿里云image: mysql:8.0.36container_name: mysqlrestart: alwaysports:- 3306:3306networks:- fastgptcommand: --default-authentication-pluginmysql_native_passwordenvironment:# 默认root密码仅首次运行有效MYSQL_ROOT_PASSWORD: oneapimmysqlMYSQL_DATABASE: oneapivolumes:- ./mysql:/var/lib/mysqloneapi:container_name: oneapiimage: ghcr.io/songquanpeng/one-api:v0.6.7# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/one-api:v0.6.6 # 阿里云ports:- 3001:3000depends_on:- mysqlnetworks:- fastgptrestart: alwaysenvironment:# mysql 连接参数- SQL_DSNroot:oneapimmysqltcp(mysql:3306)/oneapi# 登录凭证加密密钥- SESSION_SECREToneapikey# 内存缓存- MEMORY_CACHE_ENABLEDtrue# 启动聚合更新减少数据交互频率- BATCH_UPDATE_ENABLEDtrue# 聚合更新时长- BATCH_UPDATE_INTERVAL10# 初始化的 root 密钥建议部署完后更改否则容易泄露- INITIAL_ROOT_TOKENfastgptvolumes:- ./oneapi:/data
networks:fastgpt:在该路径下打开 cmd 依次输入 cmd 命令
docker-compose pulldocker-compose up -d可以在 docker 软件看到如下界面绿色表示启动成功、黄色表示启动失败 PS 如果遇到 oneapi 启动失败且报错为 failed to get gpt-3.5-turbo token encoder解决方法 —— 链接
3. 浏览器访问
docker 里点击 fastgpt 的 Port 直接跳转或者浏览器输入 http://localhost:3000 登录用户名为 root密码为 1234密码是 docker-compose.yml 环境变量里设置的 DEFAULT_ROOT_PSW。如果需要修改 root 密码直接修改这个环境变量并重启即可。
看到如下界面即为 FastGPT 启动成功 4. One API 配置语言模型、向量模型渠道和令牌
通过访问 OneAPI默认账号为 root 密码为 123456登录后修改密码 点击渠道栏如下图填写通义千问模型的相关配置记得添加所需的向量模型 PS获取通义千问模型密钥
点击测试能看到状态为已启用即为配置成功 点击令牌栏删除原有的令牌重新添加新的如下图填写令牌配置 点击复制粘贴的即为令牌的 api key 修改 docker-compose.yml 文件
替换 OPENAI_BASE_URLoneapi 的访问地址需要获取本机 ip、
替换 CHAT_API_KEY令牌处复制的 api key # AI模型的API地址哦。务必加 /v1。这里默认填写了OneApi的访问地址。- OPENAI_BASE_URLhttp://****:3000/v1# AI模型的API Key。这里默认填写了OneAPI的快速默认key测试通后务必及时修改- CHAT_API_KEYsk-***修改 config.json 文件
添加 llmModels注意模型之间添加英文逗号
这里要根据模型要求来设置具体参数有些需要改 maxResponse务必保证至少有一个为 true 的部分一般都设置 true
llmModels: [{model: qwen-max, // 模型名(对应OneAPI中渠道的模型名)name: qwen-max, // 模型别名avatar: /imgs/model/openai.svg, // 模型的logomaxContext: 125000, // 最大上下文maxResponse: 2000, // 最大回复quoteMaxToken: 120000, // 最大引用内容maxTemperature: 1.9, // 最大温度charsPointsPrice: 0, // n积分/1k token商业版censor: false, // 是否开启敏感校验商业版vision: true, // 是否支持图片输入datasetProcess: true, // 是否设置为知识库处理模型QA务必保证至少有一个为true否则知识库会报错usedInClassify: true, // 是否用于问题分类务必保证至少有一个为trueusedInExtractFields: true, // 是否用于内容提取务必保证至少有一个为trueusedInToolCall: true, // 是否用于工具调用务必保证至少有一个为trueusedInQueryExtension: true, // 是否用于问题优化务必保证至少有一个为truetoolChoice: true, // 是否支持工具选择分类内容提取工具调用会用到。目前只有gpt支持functionCall: false, // 是否支持函数调用分类内容提取工具调用会用到。会优先使用 toolChoice如果为false则使用 functionCall如果仍为 false则使用提示词模式customCQPrompt: , // 自定义文本分类提示词不支持工具和函数调用的模型customExtractPrompt: , // 自定义内容提取提示词defaultSystemChatPrompt: , // 对话默认携带的系统提示词defaultConfig: {} // 请求API时挟带一些默认配置比如 GLM4 的 top_p},{model: qwen-long,name: qwen-long,avatar: /imgs/model/openai.svg,maxContext: 125000,maxResponse: 2000,quoteMaxToken: 120000,maxTemperature: 1.9,charsPointsPrice: 0,censor: false,vision: true,datasetProcess: true,usedInClassify: true,usedInExtractFields: true,usedInToolCall: true,usedInQueryExtension: true,toolChoice: true,functionCall: false,customCQPrompt: ,customExtractPrompt: ,defaultSystemChatPrompt: ,defaultConfig: {}},{model: qwen-turbo,name: qwen-turbo,avatar: /imgs/model/openai.svg,maxContext: 125000,maxResponse: 2000,quoteMaxToken: 120000,maxTemperature: 1.9,charsPointsPrice: 0,censor: false,vision: true,datasetProcess: true,usedInClassify: true,usedInExtractFields: true,usedInToolCall: true,usedInQueryExtension: true,toolChoice: true,functionCall: false,customCQPrompt: ,customExtractPrompt: ,defaultSystemChatPrompt: ,defaultConfig: {}}
]添加 vectorModels注意模型之间添加英文逗号
vectorModels: [{model: text-embedding-v2, // 模型名与OneAPI对应name: text-embedding-v2, // 模型展示名avatar: /imgs/model/openai.svg, // logocharsPointsPrice: 0, // n积分/1k tokendefaultToken: 700, // 默认文本分割时候的 tokenmaxToken: 3000, // 最大 tokenweight: 100, // 优先训练权重defaultConfig: {}, // 自定义额外参数。例如如果希望使用 embedding3-large 的话可以传入 dimensions:1024来返回1024维度的向量。目前必须小于1536维度dbConfig: {}, // 存储时的额外参数非对称向量模型时候需要用到queryConfig: {} // 参训时的额外参数},{model: text-embedding-v3,name: text-embedding-v3,avatar: /imgs/model/openai.svg,charsPointsPrice: 0,defaultToken: 700,maxToken: 3000,weight: 100,defaultConfig: {},dbConfig: {},queryConfig: {}}]{model: embedding-2, // 模型名与OneAPI对应name: Embedding-2, // 模型展示名avatar: /imgs/model/openai.svg, // logocharsPointsPrice: 0, // n积分/1k tokendefaultToken: 700, // 默认文本分割时候的 tokenmaxToken: 3000, // 最大 tokenweight: 100, // 优先训练权重defaultConfig: {}, // 自定义额外参数。例如如果希望使用 embedding3-large 的话可以传入 dimensions:1024来返回1024维度的向量。目前必须小于1536维度dbConfig: {}, // 存储时的额外参数非对称向量模型时候需要用到queryConfig: {} // 参训时的额外参数
}重启 docker
docker-compose downdocker-compose up -d修改完后的 docker-compose.yml注意更改 OneApi 的访问地址和 key
# 数据库的默认账号和密码仅首次运行时设置有效
# 如果修改了账号密码记得改数据库和项目连接参数别只改一处~
# 该配置文件只是给快速启动测试使用。正式使用记得务必修改账号密码以及调整合适的知识库参数共享内存等。
# 如何无法访问 dockerhub 和 git可以用阿里云阿里云没有arm包version: 3.3
services:# dbpg:image: pgvector/pgvector:0.7.0-pg15 # docker hub# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.7.0 # 阿里云container_name: pgrestart: alwaysports: # 生产环境建议不要暴露- 5432:5432networks:- fastgptenvironment:# 这里的配置只有首次运行生效。修改后重启镜像是不会生效的。需要把持久化数据删除再重启才有效果- POSTGRES_USERusername- POSTGRES_PASSWORDpassword- POSTGRES_DBpostgresvolumes:- ./pg/data:/var/lib/postgresql/datamongo:image: mongo:5.0.18 # dockerhub# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云# image: mongo:4.4.29 # cpu不支持AVX时候使用container_name: mongorestart: alwaysports:- 27017:27017networks:- fastgptcommand: mongod --keyFile /data/mongodb.key --replSet rs0environment:- MONGO_INITDB_ROOT_USERNAMEmyusername- MONGO_INITDB_ROOT_PASSWORDmypasswordvolumes:- ./mongo/data:/data/dbentrypoint:- bash- -c- |openssl rand -base64 128 /data/mongodb.keychmod 400 /data/mongodb.keychown 999:999 /data/mongodb.keyecho const isInited rs.status().ok 1if(!isInited){rs.initiate({_id: rs0,members: [{ _id: 0, host: mongo:27017 }]})} /data/initReplicaSet.js# 启动MongoDB服务exec docker-entrypoint.sh $$ # 等待MongoDB服务启动until mongo -u myusername -p mypassword --authenticationDatabase admin --eval print(waited for connection) /dev/null 21; doecho Waiting for MongoDB to start...sleep 2done# 执行初始化副本集的脚本mongo -u myusername -p mypassword --authenticationDatabase admin /data/initReplicaSet.js# 等待docker-entrypoint.sh脚本执行的MongoDB服务进程wait $$!# fastgptsandbox:container_name: sandboximage: ghcr.io/labring/fastgpt-sandbox:latest # git# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt-sandbox:latest # 阿里云networks:- fastgptrestart: alwaysfastgpt:container_name: fastgptimage: ghcr.io/labring/fastgpt:v4.8.9 # git# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:v4.8.9 # 阿里云ports:- 3000:3000networks:- fastgptdepends_on:- mongo- pg- sandboxrestart: alwaysenvironment:# root 密码用户名为: root。如果需要修改 root 密码直接修改这个环境变量并重启即可。- DEFAULT_ROOT_PSW1234# AI模型的API地址哦。务必加 /v1。这里默认填写了OneApi的访问地址。- OPENAI_BASE_URLhttp://***:3001/v1# AI模型的API Key。这里默认填写了OneAPI的快速默认key测试通后务必及时修改- CHAT_API_KEYsk-***# 数据库最大连接数- DB_MAX_LINK30# 登录凭证密钥- TOKEN_KEYany# root的密钥常用于升级时候的初始化请求- ROOT_KEYroot_key# 文件阅读加密- FILE_TOKEN_KEYfiletoken# MongoDB 连接参数. 用户名myusername,密码mypassword。- MONGODB_URImongodb://myusername:mypasswordmongo:27017/fastgpt?authSourceadmin# pg 连接参数- PG_URLpostgresql://username:passwordpg:5432/postgres# sandbox 地址- SANDBOX_URLhttp://sandbox:3000# 日志等级: debug, info, warn, error- LOG_LEVELinfo- STORE_LOG_LEVELwarnvolumes:- ./config.json:/app/data/config.json# oneapimysql:# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mysql:8.0.36 # 阿里云image: mysql:8.0.36container_name: mysqlrestart: alwaysports:- 3306:3306networks:- fastgptcommand: --default-authentication-pluginmysql_native_passwordenvironment:# 默认root密码仅首次运行有效MYSQL_ROOT_PASSWORD: oneapimmysqlMYSQL_DATABASE: oneapivolumes:- ./mysql:/var/lib/mysqloneapi:container_name: oneapiimage: ghcr.io/songquanpeng/one-api:v0.6.7# image: registry.cn-hangzhou.aliyuncs.com/fastgpt/one-api:v0.6.6 # 阿里云ports:- 3001:3000depends_on:- mysqlnetworks:- fastgptrestart: alwaysenvironment:# mysql 连接参数- SQL_DSNroot:oneapimmysqltcp(mysql:3306)/oneapi# 登录凭证加密密钥- SESSION_SECREToneapikey# 内存缓存- MEMORY_CACHE_ENABLEDtrue# 启动聚合更新减少数据交互频率- BATCH_UPDATE_ENABLEDtrue# 聚合更新时长- BATCH_UPDATE_INTERVAL10# 初始化的 root 密钥建议部署完后更改否则容易泄露- INITIAL_ROOT_TOKENfastgptvolumes:- ./oneapi:/data
networks:fastgpt:修改完后的config.json
// 已使用 json5 进行解析会自动去掉注释无需手动去除
{feConfigs: {lafEnv: https://laf.dev // laf环境。 https://laf.run 杭州阿里云 ,或者私有化的laf环境。如果使用 Laf openapi 功能需要最新版的 laf 。},systemEnv: {vectorMaxProcess: 15,qaMaxProcess: 15,pgHNSWEfSearch: 100 // 向量搜索参数。越大搜索越精确但是速度越慢。设置为100有99%精度。},llmModels: [{model: qwen-max, // 模型名(对应OneAPI中渠道的模型名)name: qwen-max, // 模型别名avatar: /imgs/model/openai.svg, // 模型的logomaxContext: 125000, // 最大上下文maxResponse: 2000, // 最大回复quoteMaxToken: 120000, // 最大引用内容maxTemperature: 1.9, // 最大温度charsPointsPrice: 0, // n积分/1k token商业版censor: false, // 是否开启敏感校验商业版vision: true, // 是否支持图片输入datasetProcess: true, // 是否设置为知识库处理模型QA务必保证至少有一个为true否则知识库会报错usedInClassify: true, // 是否用于问题分类务必保证至少有一个为trueusedInExtractFields: true, // 是否用于内容提取务必保证至少有一个为trueusedInToolCall: true, // 是否用于工具调用务必保证至少有一个为trueusedInQueryExtension: true, // 是否用于问题优化务必保证至少有一个为truetoolChoice: true, // 是否支持工具选择分类内容提取工具调用会用到。目前只有gpt支持functionCall: false, // 是否支持函数调用分类内容提取工具调用会用到。会优先使用 toolChoice如果为false则使用 functionCall如果仍为 false则使用提示词模式customCQPrompt: , // 自定义文本分类提示词不支持工具和函数调用的模型customExtractPrompt: , // 自定义内容提取提示词defaultSystemChatPrompt: , // 对话默认携带的系统提示词defaultConfig: {} // 请求API时挟带一些默认配置比如 GLM4 的 top_p},{model: qwen-long,name: qwen-long,avatar: /imgs/model/openai.svg,maxContext: 125000,maxResponse: 2000,quoteMaxToken: 120000,maxTemperature: 1.9,charsPointsPrice: 0,censor: false,vision: true,datasetProcess: true,usedInClassify: true,usedInExtractFields: true,usedInToolCall: true,usedInQueryExtension: true,toolChoice: true,functionCall: false,customCQPrompt: ,customExtractPrompt: ,defaultSystemChatPrompt: ,defaultConfig: {}},{model: qwen-turbo,name: qwen-turbo,avatar: /imgs/model/openai.svg,maxContext: 125000,maxResponse: 2000,quoteMaxToken: 120000,maxTemperature: 1.9,charsPointsPrice: 0,censor: false,vision: true,datasetProcess: true,usedInClassify: true,usedInExtractFields: true,usedInToolCall: true,usedInQueryExtension: true,toolChoice: true,functionCall: false,customCQPrompt: ,customExtractPrompt: ,defaultSystemChatPrompt: ,defaultConfig: {}} ],vectorModels: [{model: text-embedding-v2, // 模型名与OneAPI对应name: text-embedding-v2, // 模型展示名avatar: /imgs/model/openai.svg, // logocharsPointsPrice: 0, // n积分/1k tokendefaultToken: 700, // 默认文本分割时候的 tokenmaxToken: 3000, // 最大 tokenweight: 100, // 优先训练权重defaultConfig: {}, // 自定义额外参数。例如如果希望使用 embedding3-large 的话可以传入 dimensions:1024来返回1024维度的向量。目前必须小于1536维度dbConfig: {}, // 存储时的额外参数非对称向量模型时候需要用到queryConfig: {} // 参训时的额外参数},{model: text-embedding-v3,name: text-embedding-v3,avatar: /imgs/model/openai.svg,charsPointsPrice: 0,defaultToken: 700,maxToken: 3000,weight: 100,defaultConfig: {},dbConfig: {},queryConfig: {}}],reRankModels: [],audioSpeechModels: [{model: tts-1,name: OpenAI TTS1,charsPointsPrice: 0,voices: [{ label: Alloy, value: alloy, bufferId: openai-Alloy },{ label: Echo, value: echo, bufferId: openai-Echo },{ label: Fable, value: fable, bufferId: openai-Fable },{ label: Onyx, value: onyx, bufferId: openai-Onyx },{ label: Nova, value: nova, bufferId: openai-Nova },{ label: Shimmer, value: shimmer, bufferId: openai-Shimmer }]}],whisperModel: {model: whisper-1,name: Whisper1,charsPointsPrice: 0}
}5. 创建 FastGPT 知识库
选择新建知识库 选择导入文本数据集 上传本地文件设置数据处理参数选择直接分段或问答拆分点击上传 等待索引创建当状态为“已就绪”即为成功 点击文件名可以查看具体分块情况 6. 创建 FastGPT 应用
到工作台应用新建应用 选择语言模型 关联知识库点击相应的知识库添加或删除 点击关联知识库的参数选择是否开启问题优化若开启则需要选择相应模型 输入对话测试能得到回答点击发布 打开聊天能正常对话即为成功 至此整个 FastGPT 的部署和基本使用已经介绍完成后续需要的工作
1、丰富语言模型、向量模型、重排序模型等
2、优化知识库的文本索引创建
3、探究应用的配置比如提示词、知识库关联、对话开场白等
4、根据对话进行优化比如将一些常见的问答提取到知识库等
官方文档
https://doc.fastgpt.in/docs/development/docker/
