
迁移旧代码时,把请求地址换成文档给出的平台地址,并把密钥换成在控制台创建的那一把。流式返回由请求里的开关控制,思维链开关写在额外参数中,关闭后回答不再附带思考过程。文档还要求填写供应商标识,并说明端点会做回退和成本选择。密钥页面可以创建和查看名下密钥,示例里的模型名需要换成模型列表里的名称。适合已经接过对话补全接口、希望少改代码就更换模型来源的开发者。
小马算力 TokenPony 提供统一的对话接口,让已有应用改用同一套地址访问多种模型。官方快速开始写明,它兼容常见的对话补全格式,已有代码只要把请求地址和密钥换成平台分配的值。调用时指定模型名称,可以选择流式返回,额外参数里还能开关思维链,并填写供应商标识。文档还写明单一端点会处理回退,并挑选成本更合适的选项。账号需要先注册,再到密钥页面创建并保管密钥。快速开始没有列出价目。
使用门槛: 需要一定基础
兼容对话补全格式
已有代码只需把请求地址和密钥换成文档中的平台地址与控制台创建的密钥,即可发起对话。
流式输出开关
请求里可以把流式开关打开或关闭,快速开始分别给出了非流式示例和改为流式的方法。
思维链与供应商标识
额外参数可以关闭或打开思维链,并填写供应商标识,用于指定这次请求走哪一方。
密钥创建与保管
注册登录后在密钥菜单创建密钥,文档要求用环境变量保管,不要把密钥写进公开代码。
替换现有对话接口
开发者保持原来的调用结构,只修改地址、密钥和模型名,让应用改走小马算力。
按次开关思考过程
同一套代码在需要可见思考过程时打开思维链,只要最终回答时再把它关掉。
集中管理调用密钥
团队在密钥页面创建、查看和停用密钥,避免把密钥散落在各个项目的源码里。
快速开始写明两处必改:把请求地址改成文档中的平台地址,把密钥改成在小马算力创建的密钥。模型名改成你要调用的名称,需要流式时打开对应开关。思维链和供应商标识放在额外参数里。改完后仍要用环境变量保管密钥,不要把新密钥提交到仓库。
流式输出是请求上的流式开关,示例默认关闭,改成开启后按流返回。思维链在额外参数的思维链开关里,文档示例演示了如何关闭它。两者彼此独立:可以只要最终回答的流式结果,也可以在非流式结果里保留思考过程。具体字段名以快速开始页面的示例为准。
来自真实用户的评价和反馈