一站式管理！新一代大模型网关神器！

大家好，我是 Java陈序员。
在 AI 大模型应用爆发的当下，对接多平台接口、管理 API 密钥、控制调用权限......这些繁琐的操作是否让你头疼？
今天，给大家介绍一款开源的大模型网关神器，一站式解决大模型接口管理的所有痛点！

关注微信公众号：【Java陈序员】，获取开源项目分享、AI副业分享、超200本经典计算机电子书籍等。

项目介绍

new-api —— 一款开源的大模型网关与 AI 资产管系统，定位为一站式 AI 资产管理网关，核心目标是提供大模型相关的网关管理与资产统筹能力。
功能特色：

• 适配全品类模型：一个 API 端点接入所有 AI 服务，支持 OpenAI、Moonshot、Zhipu、Anthropic Claude、Google Gemini、百度文心一言、讯飞星火等主流大模型，一套网关打通全品类 AI 服务
  
• 智能调度渠道：支持渠道加权随机分配，可设置默认供应商，结合令牌分组、模型限制能力，灵活管控接口调用优先级与范围
  
• 精细化资产管理：集成在线充值功能，可自定义充值金额选项、折扣规则，支持模型按次数收费，可批量设置模型固定价格、模型倍率、补全倍率
  
• 细粒度权限控制：支持 GitHub OAuth、LinuxDO、Telegram、OIDC 等多方式授权登录，集成双因素认证，支持令牌分组管理，限制令牌可调用的模型范围，适配团队协作场景
  
• 全新 UI：现代化的用户界面设计，支持深色/浅色主题，自动适配系统偏好，支持中文、英文、法语、日语多语言，提供可视化控制台与统计分析的数据看板
  

快速上手

new-api 支持 Docker 部署，可使用 Docker 快速部署。
Docker 部署

1、拉取镜像

1. docker pull calciumion/new-api

复制代码

2、创建挂载目录

1. mkdir -p /data/software/new-api

复制代码

3、启动容器

• 使用 SQLite 数据库
  

1. docker run -d --name new-api \
2.   --restart always \
3.   -p 3000:3000 \
4.   -e TZ=Asia/Shanghai \
5.   -v /data/software/new-api:/data \
6.   calciumion/new-api

复制代码

• 使用 MySQL 数据库（推荐）
  

1. docker run -d --name new-api \
2.   --restart always \
3.   -p 3000:3000 \
4.   -e TZ=Asia/Shanghai \
5.   -e SQL_DSN="用户名:密码@tcp(数据库地址:3306)/数据库名" \
6.   -v /data/software/new-api:/data \
7.   calciumion/new-api

复制代码

环境变量中的数据库连接信息需要传入对应的值。

4、容器运行成功后，浏览器访问

1. http://{IP/域名}:3000

复制代码

首次安装需要按照页面指引手动设置管理员账号和密码，完成初始化后即可使用所设置的管理员账号登录系统。

Docker Compose 部署、

1、创建一个目录用于部署

1. mkdir new-api
2. cd new-api

复制代码

2、在该目录下创建 docker-compose.yml 文件

• 标准配置（生产环境）
  

1. # New-API Docker Compose Configuration
2. #
3. # Quick Start:
4. #   1. docker-compose up -d
5. #   2. Access at http://localhost:3000
6. #
7. # Using MySQL instead of PostgreSQL:
8. #   1. Comment out the postgres service and SQL_DSN line 15
9. #   2. Uncomment the mysql service and SQL_DSN line 16
10. #   3. Uncomment mysql in depends_on (line 28)
11. #   4. Uncomment mysql_data in volumes section (line 64)
12. #
13. # ⚠️  IMPORTANT: Change all default passwords before deploying to production!
15. version: '3.4' # For compatibility with older Docker versions
17. services:
18.   new-api:
19.     image: calciumion/new-api:latest
20.     container_name: new-api
21.     restart: always
22.     command: --log-dir /app/logs
23.     ports:
24.       - '3000:3000'
25.     volumes:
26.       - ./data:/data
27.       - ./logs:/app/logs
28.     environment:
29.       - SQL_DSN=postgresql://root:123456@postgres:5432/new-api # ⚠️ IMPORTANT: Change the password in production!
30.       #      - SQL_DSN=root:123456@tcp(mysql:3306)/new-api  # Point to the mysql service, uncomment if using MySQL
31.       - REDIS_CONN_STRING=redis://redis
32.       - TZ=Asia/Shanghai
33.       - ERROR_LOG_ENABLED=true # 是否启用错误日志记录
34.       - BATCH_UPDATE_ENABLED=true # 是否启用批量更新 batch update enabled
35.     #      - STREAMING_TIMEOUT=300  # 流模式无响应超时时间，单位秒，默认120秒，如果出现空补全可以尝试改为更大值 Streaming timeout in seconds, default is 120s. Increase if experiencing empty completions
36.     #      - SESSION_SECRET=random_string  # 多机部署时设置，必须修改这个随机字符串！！ multi-node deployment, set this to a random string!!!!!!!
37.     #      - SYNC_FREQUENCY=60  # Uncomment if regular database syncing is needed
39.     depends_on:
40.       - redis
41.       - postgres
42.     #      - mysql  # Uncomment if using MySQL
43.     healthcheck:
44.       test:
45.         [
46.           'CMD-SHELL',
47.           "wget -q -O - http://localhost:3000/api/status | grep -o '"success":\\s*true' || exit 1",
48.         ]
49.       interval: 30s
50.       timeout: 10s
51.       retries: 3
53.   redis:
54.     image: redis:latest
55.     container_name: redis
56.     restart: always
58.   postgres:
59.     image: postgres:15
60.     container_name: postgres
61.     restart: always
62.     environment:
63.       POSTGRES_USER: root
64.       POSTGRES_PASSWORD: 123456 # ⚠️ IMPORTANT: Change this password in production!
65.       POSTGRES_DB: new-api
66.     volumes:
67.       - pg_data:/var/lib/postgresql/data
68. #    ports:
69. #      - "5432:5432"  # Uncomment if you need to access PostgreSQL from outside Docker
71. #  mysql:
72. #    image: mysql:8.2
73. #    container_name: mysql
74. #    restart: always
75. #    environment:
76. #      MYSQL_ROOT_PASSWORD: 123456  # ⚠️ IMPORTANT: Change this password in production!
77. #      MYSQL_DATABASE: new-api
78. #    volumes:
79. #      - mysql_data:/var/lib/mysql
80. #    ports:
81. #      - "3306:3306"  # Uncomment if you need to access MySQL from outside Docker
83. volumes:
84.   pg_data:
85. #  mysql_data:

复制代码

生产环境下，请务必修改数据库密码。

• 简化配置（测试环境）
  

1. services:
2.   new-api:
3.     image: calciumion/new-api:latest
4.     container_name: new-api
5.     restart: always
6.     ports:
7.       - '3000:3000'
8.     environment:
9.       - TZ=Asia/Shanghai
10.     volumes:
11.       - ./data:/data

复制代码

3、启动服务

1. docker compose up -d

复制代码

4、容器运行成功后，浏览器访问

1. http://{IP/域名}:3000

复制代码

首次安装需要按照页面指引手动设置管理员账号和密码，完成初始化后即可使用所设置的管理员账号登录系统。

功能体验

• 操练场
  

• 数据看板
  

• 令牌管理
  

• 使用日志
  

• 钱包管理
  

• 个人设置
  

• 渠道管理
  

• 兑换码管理
  

• 用户管理
  

• 系统设置
  

如果你正在被多平台 AI 接口管理困扰，想要一套轻量化、高拓展的大模型网关系统，new-api 值得一试！无论是个人学习、团队协作还是小型企业使用，都能满足你的需求。快去部署体验吧~

1. 项目地址：https://github.com/QuantumNous/new-api

复制代码

最后

推荐的开源项目已经收录到 GitHub 项目，欢迎 Star：

1. https://github.com/chenyl8848/great-open-source-project

复制代码

或者访问网站，进行在线浏览：

1. https://chencoding.top:8090/#/

复制代码

我创建了一个开源项目交流群，方便大家在群里交流、讨论开源项目。
但是任何人在群里打任何广告，都会被 T 掉。
如果你对这个交流群感兴趣或者在使用开源项目中遇到问题，可以通过如下方式进群：
关注微信公众号：【Java陈序员】，回复【开源项目交流群】进群，或者通过公众号下方的菜单添加个人微信，并备注【开源项目交流群】，通过后拉你进群。

大家的点赞、收藏和评论都是对作者的支持，如文章对你有帮助还请点赞转发支持下，谢谢！

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！

喜欢鼓捣这些软件，现在用得少，谢谢分享！

感谢分享

这个好，看起来很实用

懂技术并乐意极积无私分享的人越来越少。珍惜

新版吗？好像是停更了吧。

很好很强大  我过来先占个楼 待编辑

感谢分享，下载保存了，貌似很强大