代码拉取完成,页面将自动刷新
同步操作将从 fly-llm/xinference-run-llm 强制同步,此操作会覆盖自 Fork 仓库以来所做的任何修改,且无法恢复!!!
确定后同步将在后台操作,完成时将刷新页面,请耐心等待。
#!/bin/sh
# 1,安装 torch 模块,防止依赖多次下载
# pip3 install torch==2.0.0
# 安装 flash_attn 需要网络下载 github
# https://www.autodl.com/docs/network_turbo/
# 最后安装 软件 transformers==4.30.2
# pip3 install vllm==0.4.1
# pip3 install "xinference[transformers]"
# llama-cpp-python
sudo apt install -y python3-pip
pip3 install xinference SentencePiece tiktoken
# 安装ffpeg库。
# sudo apt update && sudo apt install -y ffmpeg
# 清除全部 fastchat 服务
ps -ef | grep xinference-local | awk '{print$2}' | xargs kill -9
sleep 1
rm -f *.log
# 兼容 compshare
if [ -d "/home/ubuntu/.local/bin" ]; then
echo "set PATH /home/ubuntu/.local/bin "
export PATH=${PATH}:/home/ubuntu/.local/bin
fi
# https://hf-mirror.com/
export HF_ENDPOINT=https://hf-mirror.com
export XINFERENCE_MODEL_SRC=modelscope
export XINFERENCE_HOME=`pwd`/xinf-data
# 首先启动 xinference-local :
# CUDA_VISIBLE_DEVICES=0,1,2
nohup xinference-local --host 0.0.0.0 --port 9997 > xinference-local.log 2>&1 &
sleep 1
tail -f xinference-local.log
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。