Xinference安装及启动

1.安装python运行环境,Miniforge,配置国内镜像。

2.1 conda安装

conda create -n xinference python=3.10
conda activate xinference

  • 所有引擎安装

pip install “xinference[all]”

需要耐心等待,用时较久。

2.2 uv安装

uv init xinfer
cd xinfer
uv venv

  • 激活环境linux

source .venv/Scripts/activate

  • 激活环境windows

.venv\Scripts\activate.bat
pip install “xinference[all]”

2.3 Xinference启动

linux

xinference-local –host 0.0.0.0 –port 9997

windows

xinference-local –host 127.0.0.1 –port 9997

本地访问http://127.0.0.1:9997,可以看到:

标签

发表评论