大模型API网关-基于New-API和One-API,整合了NewAPI,OneAPI所有功能及众多第三方插件为一身,功能超强!

aiprodcoder 043295dd0c Add files via upload 3 месяцев назад
.github d77d20ad37 Update FUNDING.yml 3 месяцев назад
bin 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
common 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
constant 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
controller 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
docs 02c1fe7ae3 project init 3 месяцев назад
dto 02c1fe7ae3 project init 3 месяцев назад
i18n 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
img 043295dd0c Add files via upload 3 месяцев назад
middleware 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
model 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
relay c48bd6bf7f project init 3 месяцев назад
router 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
service 02c1fe7ae3 project init 3 месяцев назад
setting 02c1fe7ae3 project init 3 месяцев назад
tokenSearchWeb 02c1fe7ae3 project init 3 месяцев назад
types 02c1fe7ae3 project init 3 месяцев назад
web 4ed8f74f67 增加数据看板展示更多统计,增加令牌控制 3 месяцев назад
.dockerignore 02c1fe7ae3 project init 3 месяцев назад
.env.example 02c1fe7ae3 project init 3 месяцев назад
.gitignore 02c1fe7ae3 project init 3 месяцев назад
Dockerfile.backup 02c1fe7ae3 project init 3 месяцев назад
LICENSE 356d9c99f0 Initial commit 3 месяцев назад
README.md c4fd78aadd Update README.md 3 месяцев назад
docker-compose.yml 02c1fe7ae3 project init 3 месяцев назад
go.mod 02c1fe7ae3 project init 3 месяцев назад
go.sum 02c1fe7ae3 project init 3 месяцев назад
image 93175b5ff1 Create image 3 месяцев назад
main.go 02c1fe7ae3 project init 3 месяцев назад
makefile 02c1fe7ae3 project init 3 месяцев назад

README.md

中文 | English

MIXAPI

🍥新一代大模型网关,聚合大模型API调用,通过标准的 OpenAI API 格式访问所有的大模型,开箱即用

<img src="https://img.shields.io/github/license/Calcium-Ion/new-api?color=brightgreen" alt="license">

📝 项目说明

全新AI大模型接口管理与API聚合分发系统,支持将多种大模型转换成统一的OpenAI兼容接口,Claude接口,Gemini接口,可供个人或者企业内部大模型API 统一管理和渠道分发使用(key管理与二次分发),支持国际国内所有主流大模型,gemini,claude,qwen3,kimi-k2,豆包等,提供单可执行文件, docker镜像,一键部署,开箱即用,完全开源,自主可控!

  • MixAPI基于New-API和One-API,整合了NewAPI,OneAPI所有重要功能及问题改进优化,内置众多第三方插件为一身,成为名副其实的全能六边形战士!
  • 超高性能优化,用魔法打败魔法,对主要转发通路的代码用AI大模型进行多轮特别优化,写出了人类想象不出的高效代码,提高大流量高并发场景性能50%以上!
  • MixAPI-PRO版本,专门针对公司企业客户,去掉收费,充值,用户注册等繁琐环节,聚焦公司内部大模型API统一管理,安全审计,隐私防泄漏,大模型调用次数限制,频率限制等企业内部管理核心问题,详情点这里 MixAPI-PRO(https://github.com/aiprodcoder/MixAPI-PRO)

mixapi

✨ 主要特性

MIXAPI提供了丰富的功能:

  • 🎨 全新的UI界面
  • 🌍 多语言支持
  • 💰 支持在线充值功能(易支付)
  • 🔍 支持用key查询使用额度(已经内置)
  • 🔄 兼容原版One API的数据库
  • 💵 支持模型按次数收费
  • ⚖️ 支持渠道加权随机
  • 📈 数据看板(控制台)
  • 🔒 令牌分组、模型限制
  • 🤖 支持更多授权登陆方式(LinuxDO,Telegram、OIDC)
  • 🔄 支持Rerank模型(Cohere和Jina)
  • ⚡ 支持OpenAI Realtime API(包括Azure渠道)
  • ⚡ 支持Claude Messages 格式
  • 💵 支持使用路由/chat2link进入聊天界面
  • 🔄 针对用户的模型限流功能
  • 💰 缓存计费支持,开启后可以在缓存命中时按照设定的比例计费:
  • 🔄 新增对token令牌的控制,可控制分钟请求次数限制和日请求次数限制

    mixapi

  • 📊 新增用量日统计

    mixapi

  • 📊 新增用量月统计

    mixapi

  • 📋 新增令牌管理显示该令牌的今日次数和总次数

    mixapi

  • 📝 新增通过令牌请求的内容记录显示

    mixapi

  • 📝 支持通过令牌直接查询余额,无需登录

    mixapi

  • 📝 支持令牌中选择渠道组,设定该令牌只有渠道组下面的渠道可用,并结合选择渠道组,选择模型达到限制需求

  • 📝 API令牌中增加控制使用总次数限制,当达到总次数限制时返回额度已用完

    mixapi

部署

详细部署指南请参考安装指南-部署方式

部署要求

  • 本地数据库(默认):SQLite(Docker部署必须挂载/data目录)
  • 远程数据库:MySQL版本 >= 5.7.8,PgSQL版本 >= 9.6 (非必须)

部署方式

下载二进制程序双击运行 (小白推荐)

windows对应下载release里面的.exe文件双击运行,下载好.exe程序, 双击运行,运行起来后通过浏览器访问

http://localhost:3000

本地运行方式

下载本项目源码 安装好go环境, 然后在根目录运行命令 , 可用于本地开发测试

go run main.go

通过docker 容器运行(docker推荐)

直接下载docker镜像运行,把镜像通过docker load加载上,文件在release里面

# 使用SQLite 无需配置数据库连接直接运行如下命令
docker run --name mixapicon \
--restart always \
-e TZ="Asia/Shanghai" \
-v /home/ubuntu/data/mixapi:/data  \
-d  -p 3000:3000  mixapi:v1

# 使用MySQL  需要对应修改mysql的账号密码
docker run --name mixapi -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/mixapi:/data mixapi:v1

渠道重试与缓存

渠道重试功能已经实现,可以在设置->运营设置->通用设置设置重试次数,建议开启缓存功能。

缓存设置方法

  1. REDIS_CONN_STRING:设置Redis作为缓存
  2. MEMORY_CACHE_ENABLED:启用内存缓存(设置了Redis则无需手动设置)

接口文档

详细接口文档请参考接口文档

相关项目

其他基于New API的项目:

帮助支持

### 社区交流 ,问题反馈 ,软件定制,软件修改,商务咨询 请扫描加入微信群,我们一起把MixAPI做到最好

mixapi