Token 服务
统一的 Token 配额管理、用量追踪与账单拆分平台。支持多模型路由，按项目、用户、API Key 等维度隔离计量，让每一次调用都可追溯、可管控。
- 多模型统一接入与智能路由
- 实时用量仪表盘与告警
- 灵活配额、限流与熔断策略
- 多租户账单拆分与导出
- 请求日志与调用链追踪
开发者基础设施
稳定的 Token 计量
与算力调度
TouchCompute 为开发团队和应用厂商提供统一的 Token 配额管理与弹性算力调度平台。无论你是正在构建对话产品、内容生成工具，还是运行大规模推理任务，都可以通过一套 API 完成用量管控与资源分配，把精力集中在产品本身。
我们不卖概念，只做两件事：帮你精确计量每一次 Token 调用，帮你在需要时快速获得足够的算力。接口简单、文档清晰、控制台直观，从个人项目到企业级部署都能平滑接入。
99.99%
服务可用性
<2S
TTFT
24/7
技术支持
关于 TouchCompute
为应用层而生的基础设施
大模型能力正在进入各类软件产品，但 Token 消耗难以预估、算力资源难以调度，是许多团队在落地过程中遇到的真实痛点。TouchCompute 定位于应用与模型之间的中间层，提供可观测、可管控、可扩展的基础服务。
我们的 Token 服务负责统一接入多家模型供应商，在应用侧提供一致的配额、限流与账单能力；算力服务负责 GPU 资源的按需分配与自动扩缩，覆盖训练、推理、批处理等多种工作负载。两条产品线可以独立使用，也可以组合部署，满足不同阶段的业务需求。
团队拥有多年云服务与分布式系统经验，深知开发者需要的是稳定、透明、文档齐全的工具，而不是堆砌概念的营销页面。TouchCompute 的设计原则很简单：接口少而精，行为可预期，出问题能快速定位。
核心服务
两大产品线，覆盖完整链路
从 Token 计量到算力调度，一站式解决应用接入大模型后的运维难题
算力服务
按需分配 GPU 与推理算力，支持自动扩缩容与任务队列管理。无论是模型微调、在线推理还是离线批处理，都能快速获得合适的计算资源。
- 秒级实例启动与释放
- 多规格 GPU 机型可选
- 自动扩缩容与负载均衡
- 任务队列与优先级调度
- 镜像管理与环境隔离
Token 服务
精确计量每一次模型调用
当你的产品接入了大模型能力，Token 消耗往往是最难掌控的变量——不同模型定价不同、用户行为难以预测、多团队协作时账单难以拆分。TouchCompute Token 服务在应用与模型供应商之间建立统一的管控层，让你对用量有完整的可见性与控制力。
多模型统一网关
通过一个 API 端点接入多家模型供应商，自动完成协议转换与路由。支持按成本、延迟、可用性等策略选择后端模型，应用侧无需关心底层差异。
细粒度配额管理
支持按项目、团队、用户、API Key 设置独立的 Token 配额与消费上限。配额耗尽时自动限流或拒绝请求，避免意外超支。支持日/周/月等多种重置周期。
实时用量监控
控制台提供实时仪表盘，展示当前消耗速率、剩余配额、各维度用量分布。支持设置阈值告警，通过邮件或 Webhook 通知，在问题扩大前及时处理。
账单拆分与审计
每一次调用都记录完整的请求元数据，包括模型、Token 数、耗时、调用方标识等。支持按租户导出账单明细，满足内部成本分摊与财务审计需求。
智能限流与熔断
内置令牌桶、滑动窗口等多种限流算法，保护后端模型不被突发流量冲垮。当上游模型异常时自动熔断并切换备用线路，保障业务连续性。
缓存与成本优化
对语义相似的请求启用响应缓存，减少重复调用带来的 Token 浪费。提供用量分析与优化建议，帮助团队持续降低模型调用成本。
典型接入方式
在应用代码中将模型 API 地址替换为 TouchCompute 网关地址，传入 API Key 即可。SDK 支持 Python、Node.js、Go、Java 等主流语言，也兼容 OpenAI 协议，现有代码几乎无需改动。控制台中可实时查看调用日志、调整配额、导出报表。
算力服务
弹性调度 GPU 与推理资源
自研模型需要训练资源，在线产品需要低延迟推理，批量任务需要高效吞吐——不同场景对算力的需求差异很大。TouchCompute 算力服务提供从单卡调试到多机分布式训练的完整资源调度能力，按需分配、用完即释，无需自建机房或长期租用闲置 GPU。
多规格 GPU 实例
提供从入门级到高性能的多档 GPU 规格，覆盖 A100、H100 等主流型号。每种规格配有明确的显存、算力与网络带宽说明，方便根据任务需求快速选型。
秒级启动与释放
实例创建通常在数秒内完成，支持预置镜像一键部署常用框架（PyTorch、TensorFlow、vLLM 等）。任务结束后立即释放资源，避免空转浪费。
自动扩缩容
根据请求队列深度、GPU 利用率等指标自动增减实例数量。流量高峰时自动扩容保障响应速度，低谷时缩容节约成本，全程无需人工干预。
任务队列与调度
支持优先级队列、公平调度、抢占式调度等多种策略。长任务与短任务分开排队，确保在线推理不被批处理任务阻塞，兼顾吞吐与延迟。
分布式训练支持
多机多卡环境下自动配置 NCCL 通信、梯度同步与检查点存储。支持从单机微调到大规模分布式训练，框架层面无需额外适配。
镜像与环境管理
预置常用深度学习镜像，也支持上传自定义镜像。环境变量、挂载卷、网络策略均可通过 API 或控制台配置，确保不同项目之间环境隔离。
与 Token 服务协同
当算力服务承载自部署模型时，Token 服务可同时对推理请求进行计量与管控。两条产品线共享统一的控制台、API 认证与日志体系，形成从资源调度到用量管控的完整闭环，无需对接多套系统。
平台能力
稳定、透明、易于集成
围绕开发者体验设计的底层能力，贯穿 Token 与算力两条产品线
01
标准 RESTful API
全部功能通过 HTTP API 暴露，接口设计遵循 REST 规范，返回 JSON 格式。提供 OpenAPI 规范文档，支持 Postman 集合导入，方便快速调试与自动化测试。
02
多语言 SDK
官方 SDK 覆盖 Python、Node.js、Go、Java 等主流语言，封装认证、重试、错误处理等通用逻辑。兼容 OpenAI SDK 协议，已有项目迁移成本极低。
03
完整可观测性
每一次 API 调用、每一个算力任务都有完整日志。支持导出到自建日志系统，提供 Prometheus 指标端点，方便接入 Grafana 等监控平台。
04
多租户与权限
支持组织、项目、成员多级结构，细粒度 RBAC 权限控制。API Key 可设置有效期与权限范围，满足团队协作与安全合规要求。
05
高可用架构
核心服务多可用区部署，网关层无单点故障。算力集群支持节点故障自动迁移，Token 网关支持多线路冗余，保障 99.99% 以上的服务可用性。
06
私有化部署
对有数据合规要求的企业客户，提供私有化部署方案。可部署在客户自有云或本地机房，功能与公有云版本一致，由客户完全掌控数据流向。
应用场景
不同团队，不同用法
TouchCompute 已在多种业务形态中得到验证
对话与助手类产品
为聊天机器人、智能客服、写作助手等产品提供 Token 计量与多模型路由。按用户或会话设置配额，防止个别用户消耗过多资源。实时监控各模型调用分布，快速切换性价比更高的后端。
企业内部工具平台
大型企业内部往往有多个团队各自接入大模型，缺乏统一的用量管控与成本分摊。TouchCompute 提供多租户隔离、部门级账单拆分与权限管理，让 IT 部门对全公司模型使用情况一目了然。
模型研发与微调
算法团队需要灵活的 GPU 资源进行实验与微调，但自建集群维护成本高。通过算力服务按需申请训练实例，支持多机分布式与检查点恢复，实验结束立即释放，显著降低研发阶段的资源开销。
高并发在线推理
面向 C 端用户的推理服务需要应对流量波动，高峰期不能排队、低谷期不能空转。算力服务的自动扩缩容与 Token 服务的限流熔断配合，在保障用户体验的同时控制资源成本。
批量数据处理
文档摘要、内容审核、数据标注等离线批处理任务，对延迟不敏感但需要稳定吞吐。通过任务队列提交大批量作业，算力服务按优先级调度执行，Token 服务统一记录处理量，便于核算与复盘。
ISV 与 SaaS 厂商
软件厂商将大模型能力嵌入产品后，需要将成本精确传导给终端客户。Token 服务的多租户账单与 API Key 隔离，让厂商可以按客户维度计量用量、生成账单，支撑灵活的商业模式。
接入流程
四步完成接入
从注册到上线，通常在一个工作日内即可完成
注册与创建组织
使用邮箱注册账号，创建组织并邀请团队成员。支持设置角色与权限，方便多人协作管理。
配置服务与密钥
在控制台开通 Token 或算力服务，创建 API Key 并设置配额、限流规则。可预先在测试环境中验证配置。
集成 SDK 或 API
参考文档引入 SDK，或将现有代码中的模型地址指向 TouchCompute 网关。我们提供示例项目与迁移指南。
上线与持续运维
通过控制台监控用量与算力状态，根据业务增长调整配额与实例规格。技术支持团队 7×24 响应异常与咨询。