Xinference安装及启动
1.安装python运行环境,Miniforge,配置国内镜像。
2.1 conda安装
conda create -n xinference python=3.10
conda activate xinference
- 所有引擎安装
pip install “xinference[all]”
需要耐心等待,用时较久。

2.2 uv安装
uv init xinfer
cd xinfer
uv venv
- 激活环境linux
source .venv/Scripts/activate
- 激活环境windows
.venv\Scripts\activate.bat
pip install “xinference[all]”
2.3 Xinference启动
linux
xinference-local –host 0.0.0.0 –port 9997
windows
xinference-local –host 127.0.0.1 –port 9997
本地访问http://127.0.0.1:9997,可以看到:


发表评论