
上线前先在同一个项目里创建密钥并启用对话服务,再按服务详情里的示例发请求。知识注入要进入带自定义标记的服务,新建问答或上传文件后执行注入。引用来源在非流式结果里汇总给出,流式过程中则出现在被引用的位置。报表按请求数、时延和费用核对用量,负载均衡和容灾由平台处理,密钥仍须自己保管。私有模型要另建模型托管服务并填写模型信息,不能把文档上传误当成模型托管。适合已有内部系统、希望统一接入多种模态并核对用量的开发团队。
SophNet 是面向企业内部开发者的云端模型服务平台,用来把文本、语音和图像等能力接到自己的应用里。文档说明接入前要在项目中创建密钥并启用服务,调用方式包括 Python 软件包和 REST 接口,且兼容常见的对话补全写法。控制台提供请求数、时延和费用报表,并写明平台带有负载均衡、容灾和弹性扩容。知识可以用问答表或上传文档注入,回答中会带出引用来源。已在外部训练好的模型,可以在控制台新增模型托管服务并填写模型信息。
使用门槛: 需要一定基础
项目内启用服务
在项目概览中新增服务并选择模型类型,密钥必须和该服务位于同一项目,才能按示例调用。
问答与文档注入
自定义服务里可以新建问答,或上传知识文件后再执行注入,调用结果会带回本次回答的引用来源。
用量与时延报表
控制台汇总请求数、时延和费用,便于按已启用的服务查看调用是否集中、响应是否变慢。
负载均衡与容灾
文档写明平台提供负载均衡、容灾和弹性扩容,用来应对不同业务时段的请求变化。
私有模型托管
在控制台选择模型托管,填入已训练好的私有模型信息并确认,即可把该模型作为服务调用。
内部系统接入对话
企业开发者给已有后台加上文本对话,用项目密钥调用,而不必各自维护一套模型运行环境。
业务文档问答
把产品问答或说明文档注入自定义服务,让回答带上可回溯的引用来源,便于内部核对。
托管已训练模型
团队在外部完成训练后,于控制台创建模型托管服务,供内部接口按同一项目的密钥调用。
文档要求先进入项目,创建密钥并启用服务,而且密钥必须和模型服务位于同一项目。服务类型选好后,可以在服务详情里查看调用示例,再按示例把凭证放进请求头。没有完成这两步时,接口不会按文档中的流程开通。
不是。知识注入是在自定义服务里新增问答或上传文档,让回答带上引用来源。模型托管则是把你已经训练好的私有模型登记成服务,入口是新增服务并选择模型托管。文档把两条路径分开写,上传一份说明文件并不会自动变成托管模型。
来自真实用户的评价和反馈