NVIDIA NIM 负载均衡网关 v1.1.0

高可用多账号轮询、自动故障转移与限流熔断保护

系统状态
运行正常
总密钥池
-
独立 NVIDIA 开发者账号
可用节点
-
随时承接外部请求
限速/冷却中
-
429 限速自动退避
总路由请求数
-
Round-robin 负载轮询

密钥池节点健康度

每 5 秒自动同步
# 密钥标识 (Key Tag) 状态 已处理请求 异常 / 错误 冷却倒计时
正在获取状态数据...

接入指引 (OpenAI / Claude Compatible)

Base URL 接口地址
https://nv.adxw10.xyz/v1

支持标准 OpenAI 格式 /v1/chat/completions、/v1/models。客户端任意填入自定义 Key 或留空即可，网关会自动注入绑定的 NVIDIA 账号 Key。

推荐调用的 NIM 模型
deepseek-ai/deepseek-v4-flash-0731
deepseek-ai/deepseek-v4-pro-0813
nvidia/llama-3.1-nemotron-70b-instruct