在 Linux 系统上安装 Miniconda、安装 Xinference，并设置 Xinference 开机自启动

一、安装 Miniconda

1. 下载 Miniconda 安装脚本

x86_64 架构：

1. cd ~
2. wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

复制代码

ARM 架构（如树莓派或 Apple Silicon 的 Linux 虚拟机）：

1. wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-aarch64.sh

复制代码

2. 运行安装脚本

1. bash Miniconda3-latest-Linux-x86_64.sh

复制代码

• 按回车阅读许可协议（可按 q 跳过）。
  
• 输入 yes 接受协议。
  
• 安装路径默认为 ~/miniconda3，直接回车即可。
  
• 是否初始化 conda？输入 yes（这样会自动配置 PATH）。
  

3. 重新加载 shell 配置

1. source ~/.bashrc   

复制代码

如果你用的是 zsh，则 source ~/.zshrc

验证安装：

1. conda --version
2. python --version

复制代码

4. 配置清华镜像（加速下载）

清华镜像站提供了 Conda 和 pip 的国内加速源。

• 添加 Conda 清华镜像（推荐使用 .condarc 配置文件）
  

运行以下命令生成配置文件：

1. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
2. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
3. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
4. conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/  # 可选
6. # 设置搜索时显示通道地址
7. conda config --set show_channel_urls yes

复制代码

注意：不要添加 defaults 通道的清华镜像，因为清华已将 main 和 free 分开。

• （可选）禁用默认的 Anaconda 通道（避免回源）
  

1. conda config --remove channels defaults

复制代码

• 查看当前配置
  

1. conda config --show channels

复制代码

你应该看到类似：

1. channels:
2.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
3.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
4.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
5.   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/

复制代码

二、安装 Xinference

1. 创建并激活 conda 环境

1. conda create -n xinference python=3.11 -y
2. conda activate xinference

复制代码

重点：Python最新版本推荐3.11，不然会有各种报错

• 如果后续用 pip，也可以配置 pip 清华源：
  1. pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

  复制代码

2. 安装 Xinference

首先安装以下依赖非常重要！！（最容易报错，提前解决）：

1. # 从 conda-forge 安装 pynini（自动解决 OpenFST 依赖）
2. conda install -c conda-forge pynini

复制代码

1. pip install Cython

复制代码

可选（通常不需要，可以跳过）：先用 conda 安装部分依赖：

1. # 安装 PyTorch（根据你的 CUDA 版本选择）
2. conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia
4. # 安装其他可能的依赖（可选）
5. conda install -c conda-forge sentencepiece protobuf

复制代码

使用 pip 安装最新版：

1. pip install "xinference[all]"

复制代码

[all] 表示安装所有可选依赖（包括 GPU 支持、多模态模型等）。如果你只需要基础功能，可以只运行 pip install xinference。
可以加上镜像加速，比如：pip install "xinference[all]" -i https://pypi.doubanio.com/simple

3. 验证安装

1. xinference --help

复制代码

如果输出帮助信息，说明安装成功。
三、设置 Xinference 开机自启动

1. 创建 systemd 服务文件

1. sudo vim /etc/systemd/system/xinference.service

复制代码

粘贴以下内容（请根据你的用户名和路径修改）：

1. [Unit]
2. Description=Xinference Service
3. After=network.target
5. [Service]
6. Type=simple
7. User=你的实际用户名
8. Group=你的实际用户名
9. WorkingDirectory=/home/你的实际用户名
10. ExecStart=/bin/bash -c 'source /home/你的实际用户名/miniconda3/etc/profile.d/conda.sh && conda activate xin_env && xinference-local --host 0.0.0.0 --port 9997'
11. Restart=always
12. RestartSec=10
14. [Install]
15. WantedBy=multi-user.target

复制代码

说明：

• --host 0.0.0.0 允许外部访问（如需仅本地访问，改为 127.0.0.1）。
  
• --port 9997 是默认端口，可按需修改。
  
• 确保路径 /home/你的实际用户名/miniconda3/envs/xinference/bin/xinference-local 存在。可通过 which xinference-local 查看实际路径。
  

2. 重载 systemd 配置

1. sudo systemctl daemon-reexec
2. sudo systemctl daemon-reload

复制代码

3. 启用并启动服务

1. sudo systemctl enable xinference.service   # 开机自启
2. sudo systemctl start xinference.service    # 立即启动

复制代码

4. 检查服务状态

1. sudo systemctl status xinference.service

复制代码

如果看到 active (running)，说明服务已正常运行。
5. 查看日志（排错用）

1. journalctl -u xinference.service -f

复制代码

四、访问 Xinference Web UI

默认情况下，Xinference 会启动一个 Web 管理界面。
在浏览器中访问：

1. http://<你的服务器IP>:9997

复制代码

例如：http://192.168.1.100:9997
五、可选：配置防火墙（如启用）

如果你使用的是 ufw：

1. sudo ufw allow 9997/tcp

复制代码

如果是云服务器（如 AWS、阿里云），记得在安全组中开放 9997 端口。
六、常见问题

Q1: 启动失败，提示找不到命令？

• 检查 ExecStart 路径是否正确，使用 which xinference-local 确认。
  
• 确保 conda 环境已正确创建并安装了 xinference。
  

Q2: 如何停止服务？

1. sudo systemctl stop xinference.service

复制代码

Q3: 如何更新 Xinference？

1. conda activate xinference
2. pip install --upgrade xinference
3. sudo systemctl restart xinference.service

复制代码

Q4: 报错信息：

1. error: command 'g++' failed: No such file or directory
2. ...
3. error: command 'gcc' failed: No such file or directory

复制代码

这两个包（pyworld 和 cdifflib）都包含 C/C++ 扩展，需要本地编译。
解决方法：

Ubuntu/Debian：

1. sudo apt update && sudo apt install build-essential

复制代码

CentOS/RHEL/Fedora：

• CentOS/RHEL:
  1. sudo yum groupinstall "Development Tools"

  复制代码
• Fedora:
  1. sudo dnf groupinstall "Development Tools"

  复制代码

使用的是 Conda 环境 也可以尝试安装编译器：

1. conda install -c conda-forge gcc gxx_linux-64

复制代码

注意：有些 Conda 环境仍依赖系统级编译器，建议优先用系统包管理器安装 build-essential。

总结

• 安装 Miniconda → 提供 Python 环境管理。
  
• 创建 conda 环境并安装 Xinference。
  
• 使用 systemd 创建开机自启服务。
  
• 访问 Web UI 管理模型。
  

按照以上步骤，你就可以在 Linux 上稳定运行 Xinference 并实现自动启动。

提示：部署具体模型，可通过 Web UI 或命令行加载。

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

喜欢鼓捣这些软件，现在用得少，谢谢分享！