跳到正文

开源与自托管

用开源项目替掉付费服务与自研模块;许可变化与维护成本的真实取舍。

47条精选相关主题降本与替代GitHubHugging Face

最新精选

第 1–20 条 · 共 47 条
10月4日周日
  1. Hacker News 前页78

    Strata 开源发布:在 RTX 4090 等消费级显卡上本地跑 Qwen3.8-Flash-Next(125B)

    Strata 是一个 MIT 许可的开源项目,让 125B 参数的 Qwen3.8-Flash-Next 在普通游戏 PC 上本地运行,需要 12GB 以上显存、32GB 以上内存和约 80GB 磁盘,支持 Windows 10/11 与 Linux。

    推荐理由:想在本地跑 125B 级模型又只有 12GB 显存的话,这份实测速度表和按内存选档位的建议可以直接对照自己的机器。

  2. Hugging Face Blog62

    微软与 Hugging Face 开源 ThinkingBox:按数据库终态给 AI agent 打分,507 条任务各跑 20 次

    微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,它不看 agent 的最终回复或工具调用是否合法,而是检查其留在后端数据库里的终态和副作用,并对 507 条有状态业务流程各跑 20 次。

    推荐理由:想给自家 agent 加可靠性评测的,可以直接用这套 MIT 许可的沙盒和 507 条任务跑一遍,重点看 20/20 全过率而不是 pass@1。

10月3日周六
10月2日周五
  1. Hugging Face Blog62

    Ai2 开源 AstaBrief 8B 报告生成模型,并放出训练数据

    Ai2 开源了 AstaBrief 8B,一个把研究问题和检索到的文献片段转成带引用报告的模型,基于 Qwen3-8B 训练,同时开放权重、训练数据和一份可从自有 PDF 生成报告的示例工作流。

    推荐理由:想自建科研报告生成、把文献查询留在自己防火墙内的团队,可以下载权重和示例工作流直接跑。

9月29日周二
9月28日周一
9月25日周五
  1. GitHub Blog · AI & ML62

    GitHub Security Lab 开源 Fuzzing Taskflow,用 LLM agent 自动跑 C/C++ 模糊测试

    GitHub Security Lab 发布开源 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需给出 GitHub owner/repo,agent 就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并迭代改进,最后对每个崩溃做分诊并生成漏洞报告。

    推荐理由:C/C++ 项目维护者可以拿它自动写 harness、追覆盖率、分诊崩溃,但必须在一次性环境里跑,别给高权限。

9月24日周四
8月10日周一
  1. Hugging Face Blog76

    Meta 发布 Muse Glimmer:30B 本地多模态开源模型,Apache 2.0 许可

    Meta 发布 Muse Glimmer,一个从 Muse 蒸馏到 30B 参数的多模态模型,采用 Apache 2.0 许可,面向本地 agentic 场景,可用于编程、文档分析和个人助手等隐私敏感应用。

    推荐理由:Meta 放出 30B 多模态模型,Apache 2.0 可本地跑,想省 API 成本或做隐私场景的可以试着自己部署。

8月4日周二
  1. Mistral AI62

    Mistral AI 开源 Shieldstral:3B 多模态安全分类器,Apache 2.0 许可

    Mistral AI 发布 Shieldstral,一个 3B 开源权重多模态安全分类器,以 Apache 2.0 许可开放下载。它把内容审核建模为策略自适应的问答任务,推理时用自然语言写入策略即可返回校准后的安全分数,无需重新训练,统一处理文本与图像。

    推荐理由:3B 多模态安全分类器以 Apache 2.0 开源,单张 16GB GPU 可跑,做内容审核的可以自托管替代大模型护栏。

  2. Microsoft Research62

    微软开源 Orchard:可扩展 agentic AI 训练框架,含 Orchard-SWE、Orchard-GUI、Orchard-Claw 三套配方

    微软研究院开源 Orchard,一个面向可扩展 agentic AI 研究的框架,核心是 Orchard Env,一个基于 Kubernetes 的可复用环境服务,用于跨任务域训练和评估 agent,并支持直接在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 内训练。

    推荐理由:微软开源了可自托管的 agent 训练环境与三套训练配方,想省掉自建沙盒和闭源训练管线的团队可以直接复用。

7月29日周三
  1. Berkeley AI Research62

    K-Search 新增 MLX 后端,把 CUDA 内核经验迁移到 Apple Silicon

    IBM Research 与 UC Berkeley Sky Lab 在开源 K-Search 上新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让进化式内核搜索把已有 CUDA 内核当作知识库,自动适配成 Apple Silicon 上的 Metal/MLX 内核。

    推荐理由:K-Search 的 MLX 后端已开源,在 Apple Silicon 上做本地推理的可以按 README 复现 Attention 与 Mamba 内核的搜索流程。

7月2日周四
  1. Mistral AI60

    Mistral 发布 Leanstral 1.5:Apache-2.0 免费模型,开放权重与免费 API

    Mistral 发布 Leanstral 1.5,一个 Apache-2.0 许可的免费模型,119B 总参数、仅 6B 激活参数,在形式化验证上大幅升级:miniF2F 达到 100%,PutnamBench 解出 587/672 题,FATE-H 达 87%、FATE-X 达 34%。

    推荐理由:免费 Apache-2.0 模型开放权重和 API,做 Lean 4 形式化验证的可以直接换用,成本约每道题 $4。

6月23日周二
6月4日周四
  1. Supabase Blog60

    Supabase 开源 Multigres v0.1 alpha,为 Postgres 提供高可用与连接池

    Supabase 面向开源社区发布 Multigres v0.1 alpha,这是把 Vitess 级别的水平扩展、高可用和运维简化带给 Postgres 的第一个公开里程碑,仅开源发布,Multigres for Supabase 稍后推出。

    推荐理由:Multigres v0.1 alpha 已开源,想在 Kubernetes 上自建 Postgres 高可用集群的可以先跑一个 3 节点实验集群,但别上生产。

6月1日周一
5月15日周五
5月4日周一
  1. Vercel Changelog71

    Vercel 开源 deepsec:用编码代理在自有基础设施上扫描代码漏洞

    Vercel 开源了安全扫描工具 deepsec,它由编码代理驱动,运行在自有基础设施上,可在笔记本本地运行,无需为访问私有源码搭建云服务。推理可直接复用现有的 Claude 或 Codex 订阅,扫描大型仓库在单机上可能耗时数天,需要并行时可选用 Vercel Sandboxes 做远程执行,Vercel 自身代码库的扫描常扩展到 1000 个以上并发沙盒。

    推荐理由:Vercel 开源了基于编码代理的安全扫描工具 deepsec,可在本地跑、复用现有 Claude 或 Codex 订阅,适合想自查代码漏洞又不想搭云服务的团队。

4月9日周四
  1. Supabase Blog62

    Supabase 开源 Agent Skills,教 AI 编程代理正确写 Supabase 代码

    Supabase 发布开源指令集 Supabase Agent Skills,教 AI 编程代理正确构建 Supabase 项目,支持 Claude Code、Codex、GitHub Copilot、Cursor 等遵循 Agent Skills Open Standard 的代理,可用 npx skills add supabase/agent-skills 一条命令安装。

    推荐理由:用 Claude Code、Codex、Cursor 写 Supabase 的可以装这套开源技能,官方评测显示任务完成率普遍提升十到二十个百分点。

1月26日周一