AI 模型库：大模型、Agent 与开发工具
收录并解读主流 AI 模型、Agent 与开发工具的能力、场景与选型对比。
标签：端侧部署
共 14 篇文章 · 清除标签
BitCPM-CANN – 面壁智能联合清华开源的端侧大模型
BitCPM-CANN是面壁智能联合清华大学自然语言处理实验室与OpenBMB开源社区共同推出的，中国首个完全基于华为昇腾国产算力平台完成端到端训练的1.58-bit三值大模型。该模型采用量化感知训练（QAT）技术路线，包含0.5B、1B、3B和8B四个参数规格，在推理阶段可释放约6倍显存红利，模型能力保留率高达90.1%–97.2%。这一突破性成果标志着国产NPU首次拥有完整的低比特训练栈，彻底...
FreeLLMAPI – 开源 AI 模型聚合平台，统一OpenAI兼容格式
FreeLLMAPI 是一个开源的 OpenAI 兼容代理服务，旨在将约 14 家 AI 服务商的免费额度聚合为单一 API 端点，每月总计提供约 13 亿 tokens 的免费推理额度。该项目基于 TypeScript/Express 构建，支持自动故障转移、智能路由、密钥加密和用量追踪等高级功能，专为个人开发者本地实验和原型验证场景设计。通过对外暴露标准的 `/v1/chat/completi...
Stable Audio 3 – Stability AI 开源的音频生成模型系列
Stable Audio 3是Stability AI推出的新一代开源音频生成模型系列，基于流匹配潜空间扩散架构，支持文本转音乐与音效、音频编辑及续写。该系列提供Small、Medium、Large三种规格模型，其中Small版本可在MacBook Pro等消费级设备上本地运行并生成最长2分钟音频，Medium与Large则支持超过6分钟的高质量音频生成。全系模型采用完全授权数据训练，开放Smal...
MemPrivacy – 记忆张量联合荣耀 AI 开源的隐私保护框架
MemPrivacy是由记忆张量（MemTensor）团队联合荣耀AI团队及同济大学共同开发的开源端云协同Agent隐私保护框架。针对云端Agent长期记忆场景中用户敏感信息泄露的痛点，该框架提出了一种“本地可逆伪匿名化”方案：端侧设备实时识别用户输入中的隐私片段，将其替换为带语义类型的占位符（如`<Email_1>`、`<Health_Info_1>`），真实值与占位符的映射持久化存储于本地SQ...