Langchain-Chatchat - 基于 Langchain 与 ChatGLM 等语言模型的 RAG 与 Agent 应用 AI


https://hub.docker.com/r/chatimage/chatchat

https://github.com/chatchat-space/Langchain-Chatchat



-xinference, 简化各种 AI 模型的运行和集成

https://abc.htmltoo.com/thread-46896.htm


-Langchain-Chatchat

docker run -d  -p 7861:7861 -p 8501:8501  --name chatchat --hostname chatchat   --restart always  --network mgr   --ip 172.18.0.42    -v /etc/localtime:/etc/localtime:ro  -v /etc/timezone:/etc/timezone:ro --privileged=true --user=root   -e TZ='Asia/Shanghai'   --ulimit nofile=262144:262144   -v   /data/site/docker/data/chatchat:/root/chatchat_data   chatimage/chatchat:0.3.1.3-b5c6cb2-20240909

-gpus

docker run -d  -p 7861:7861 -p 8501:8501  --name chatchat --hostname chatchat  --gpus=all  --restart always  --network mgr   --ip 172.18.0.42    -v /etc/localtime:/etc/localtime:ro  -v /etc/timezone:/etc/timezone:ro --privileged=true --user=root   -e TZ='Asia/Shanghai'   --ulimit nofile=262144:262144   -v   /data/site/docker/data/chatchat:/root/chatchat_data   chatimage/chatchat:0.3.1.3-b5c6cb2-20240909


cd   /data/site/docker/data/chatchat

wget https://github.com/chatchat-space/Langchain-Chatchat/blob/master/docker/data.tar.gz

tar -xvf data.tar.gz


docker exec -it chatchat /bin/bash

-执行初始化

chatchat init

-初始化知识库

chatchat kb -r

-启动项目

chatchat start -a


echo $CHATCHAT_ROOT

/root/chatchat_data




docker pull   chatimage/chatchat:0.3.1.3-b5c6cb2-20240909

docker save  chatimage/chatchat:0.3.1.3-b5c6cb2-20240909 | gzip > /data/site/htmltoo.f/htmltoo.up/soft/docker.tar/chatchat-0.3.1.3.tar.gz

docker rmi  chatimage/chatchat:0.3.1.3-b5c6cb2-20240909

docker load < /opt/chatchat-0.3.1.3.tar.gz


-先登陆 xinference ui, 启动 llm 和 embedding 后

http://192.168.1.6:9997

-后登陆 chatchat ui

http://192.168.1.6:8501


源码安装部署请参考 开发指南


签名:这个人很懒,什么也没有留下!
最新回复 (0)
返回