专业的编程技术博客社区

网站首页 > 博客文章 正文

Dify 大语言模型应用开发平台本地化部署

baijin 2024-10-23 08:50:12 博客文章 6 ℃ 0 评论

目录

1、克隆Dify源代码至本地

2、启动Dify

3、Dify的更新

4、启动并登陆Dify


简介:Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。

1、克隆Dify源代码至本地

cd ~
git clone https://github.com/langgenius/dify.git

2、启动Dify

对于镜像无法拉取的情况,修改docker-compose.yaml文件

gedit .~/dify/docker/docker-compose.yaml

如下图

对于一些无法拉取的镜像,修改配置文件中的image属性。

一是image路径为相对路径的在原来的路径前面加上: swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/;

二是替换所有的 ghcr.io ghcr.nju.edu.cn, 替换所有的 quay.io quay.nju.edu.cn。

然后运行如下命令

cd ~/dify/docker
cp .env.example .env
docker compose up -d

第一次运行会拉取相关镜像,速度有点慢,中途也有可能断开,多试几次。

全部拉取成功后运行 docker ps ,查看所有服务是否都成功启动,包括 3 个业务服务 api / worker / web ,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox

成功后如下图:

3、Dify的更新

cd ~/dify/docker
docker compose down
git pull origin main
docker compose pull
docker compose up -d

每次更新需要检查 .env.example ,如果有新增项,需要把新增项同步到 .env 中,并确保 .env 中的设置符合本地环境。

4、启动并登陆Dify

在浏览器中输入 http://localhost 访问 Dify。登陆页面如下:

初始登录直接随便输入一个邮箱,不用输密码,点击登录后出现设置管理员账号的界面

输入邮箱、用户名、密码之后点设置进入后台界面。

Tags:

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表