用 Hugging Face Inference Endpoints 部署开源 Embedding 模型
Hugging Face 发布教程,介绍如何用 Text Embeddings Inference(TEI)把开源 Embedding 模型部署到 Inference Endpoints,并支持大规模批量请求。
Hugging Face 发布教程,介绍如何用 Text Embeddings Inference(TEI)把开源 Embedding 模型部署到 Inference Endpoints,并支持大规模批量请求。
Retool 借助 GPT-4,为企业提供了一种快速、安全构建 AI 驱动应用的方式。
Supabase 宣布新建数据库将默认搭载 pgvector v0.5.0,该版本新增 HNSW 索引,可用 CREATE INDEX ... USING hnsw (embedding vector_ip_ops) 在向量列上创建。
推荐理由:新库默认带 pgvector v0.5.0 的 HNSW 索引,做语义搜索的可以按文中参数重建索引换性能。
Neon 发布教程,演示如何用 OpenAI 的 embedding、Postgres 扩展 pg_embedding 和 Neon 搭建语义搜索。此前其 AI 应用可提交创业点子并匹配 YCombinator 已投公司,在 Hacker News 和 Twitter 上获得 5,000+ 访问和 2,500+ 提交。
这份教程演示了如何用 OpenAI 开源模型 Shap-E 从文本生成 3D 模型,再经 Blender 的 Decimate 修改器减面、Dream Textures 插件生成无缝贴图,最终导出 FBX 并导入 Unity,做出 PS1 风格的低保真 3D 资产。流程共 7 步,需 Blender 3.1 或更高版本,并假设读者具备材质与 UV 映射等基础知识。
Supabase 用 ANN Benchmarks 方法在 dbpedia-entities-openai-1M 数据集(100 万条 1536 维 OpenAI embeddings)上测试 pgvector 0.4.0。
推荐理由:Supabase 用 1M OpenAI embeddings 实测 pgvector 0.4.0 的 QPS 与准确率,并给出 lists、probes 与预热的具体调参路径。
Supabase 发布 2023 年 6 月 Beta 更新,Mozilla 的 AI 聊天机器人 AI Help 选用 Supabase Vector 和 OpenAI 驱动。Supabase Auth 新增对 Sign in with Apple 和 Google 的原生支持,可用于一键登录及 Chrome 扩展;CLI 新增迁移查看、本地 Functions 服务和数据库监控功能。
Vercel 发布开源 AI SDK,一个用于在 JavaScript 和 TypeScript 中构建对话、流式和聊天界面的库,支持 React/Next.js、Svelte/SvelteKit,Nuxt/Vue 支持即将推出。
推荐理由:Vercel 开源了 AI SDK,用 React/Svelte hooks 几行代码就能接 OpenAI、LangChain 和 Hugging Face 做流式对话界面。
Supabase 发布面向 Postgres 的开源向量工具包 Supabase Vector,用于大规模存储、索引和查询向量嵌入,并推出可加密存储密钥的 Vault 扩展。GitHub Star 数突破 5 万,Auth 新增 Turnstile 验证码支持,Edge Functions 支持 CLI 部署及自定义域名,Storage 图片转换结束 Beta。
Supabase 向 OpenAI 的 ChatGPT Retrieval Plugin 仓库贡献了 Postgres 和 Supabase 两种向量存储实现,开发者可用 pgvector 把私有数据接入 ChatGPT。
推荐理由:Supabase 给 ChatGPT 检索插件补上 Postgres 与 Supabase 两种向量存储实现,想接私有数据的可以直接照步骤跑通。
Neon 发布基于浏览器的 AI SQL Playground,开发者可直接连接 Neon Postgres 数据库,并由 AI 助手辅助编写 SQL。该工具源于 Neon 内部围绕 OpenAI API 举办的 AI 黑客松。
Supabase 发布了一个用 TypeScript 编写、运行在 Supabase Edge Runtime 上的 ChatGPT 插件模板,可直接在 GitHub 上 fork。
Supabase 公布 Launch Week 7 社区亮点,过去 3 个月新增 AWS RDS、Clickhouse、LangChain、Vercel + OpenAI、Doppler、Redwood 等合作伙伴与集成。
Supabase 发布 Studio 2.0,内置 Supabase AI,可在 ⌘K 菜单中用 AI 创建表、视图、索引、函数和触发器,并计划支持将表结构发送给 OpenAI 以微调查询。
Supabase 发布 2023 年 3 月 Beta 更新,预告 Launch Week 7 即将开启,并同步启动 Web3 AI 主题的异步黑客松,4 月 16 日结束。官方还开源了一套 AI 模板,包含托管在 Vercel 的 Next.js 应用、OpenAI GPT-3 文本补全、带 pgvector 的 Postgres 数据库和 Deno Edge Functions。
Neon 发布 Postgres 扩展 pg_tiktoken,用 BPE(字节对编码)算法提供快速分词,是对 OpenAI tokenizer 的封装。该扩展可在 Neon 上使用,主打速度与性能。
OpenAI 发布 GPT-4,Duolingo 将其用于加深对话式语言学习体验,填补关键的语言学习空白。
Stripe 利用 GPT-4 简化用户体验并打击欺诈。OpenAI 与 Stripe 合作,将 GPT-4 应用于 Stripe 的产品中,以提升用户体验并加强反欺诈能力。
冰岛正在使用 GPT-4 保护其语言。OpenAI 介绍了这一合作,但未披露具体技术细节或数据。
Khan Academy 正在一项有限试点项目中探索 GPT-4 用于虚拟课堂教育的潜力。
Be My Eyes 借助 GPT-4 改造视觉无障碍体验。该应用面向视障用户,利用 GPT-4 提供视觉辅助能力。
OpenAI 发布 GPT-4,可在创意与技术写作任务中生成、编辑内容并与用户反复迭代,例如写歌、写剧本,或学习用户的写作风格。
用 Vercel、OpenAI API 和 Postgres 的 pgvector 扩展可以搭建一个类 ChatGPT 的聊天机器人应用。OpenAI API 提供的词嵌入能力可让开发者针对自身业务定制这类应用。
Supabase 发布 2023 年 2 月 Beta 更新,将最流行的 GraphQL IDE/API 浏览器内置进 Dashboard,可直接查询 pg_graphql 生成的 GraphQL API。Postgres Docker 镜像改用多阶段构建,体积从 1.3GB 降至 250MB,启动更快;Supabase CLI 1.36+ 支持同时运行多个 Edge Functions。
Supabase 上线 MVP 版 Supabase Clippy,用 OpenAI embeddings API 为文档生成向量、存入 Postgres 的 pgvector 扩展,再让 GPT-3 结合检索结果流式作答。该功能目前是隐藏功能,在 supabase.com/docs 按 cmd + / 唤起搜索框即可使用(暂不支持移动端),当前仅覆盖 Guides 内容。
Supabase 宣布 pgvector 扩展已在所有新建项目上可用,这是一个开源的向量相似度搜索扩展,让开发者直接在 Postgres 中存储和查询 embedding。
推荐理由:Supabase 全新建项目已自带 pgvector,做向量检索的可以直接在 Postgres 里存和查 embedding,不必再单独搭一套向量库。
Vercel 发布历史教程,演示如何用 Next.js 全栈搭建 GPT-3 应用 twitterbio.com,通过 API 路由调用 OpenAI GPT-3 生成两条推文简介,并用流式响应改善用户体验。该教程现已过时,Vercel 建议新项目改用 Vercel Functions、Node.js 运行时和 Fluid compute 实现流式输出。
OpenAI 为 ChatGPT 推出试点订阅方案 ChatGPT Plus。ChatGPT 是一款对话式 AI,能与你聊天、回答追问并纠正错误假设。
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的做法。该方案面向客户反馈分析场景,目标是兼顾速度与洞察的细腻度。
OpenAI 通过微调 GPT-3 来驱动并规模化“代客制作”视频创作。该能力面向 done-for-you 视频生成场景,借助微调后的 GPT-3 支撑更大规模的视频产出。
OpenAI 正在用 GPT-3 打造新一代 AI 驱动的角色。原文未披露具体版本号、参数规模或可用性细节。
OpenAI 为 DALL·E 推出 outpainting 功能,可生成任意尺寸的图像,扩展创作空间、讲述更大的故事。
OpenAI 推出新版内容审核工具 Moderation 端点,改进了此前的内容过滤器,即日起面向 OpenAI API 开发者免费开放。
OpenAI 的 Codex 现已通过 OpenAI API 为 70 款不同应用提供支持,覆盖多种使用场景。
OpenAI 更新 DALL·E 2 研究预览进展,早期用户已累计生成超过 300 万张图像,并帮助改进了安全流程。OpenAI 表示将开始每周从等待名单中新增最多 1,000 名用户。
OpenAI 发布新版 GPT-3 和 Codex,这两版模型可以在已有文本中编辑或插入内容,而不只是续写现有文本。
推荐理由:GPT-3 与 Codex 新增编辑与插入能力,做文本补全类功能的可以评估是否替换现有拼接方案。
OpenAI 公开征集研究意向,邀请研究者参与研究大语言模型的经济影响。
OpenAI 训练出比 GPT-3 更能遵循用户意图的语言模型 InstructGPT,同时更真实、毒性更低,训练过程有人工参与。这些模型现已作为 API 的默认语言模型部署。
OpenAI 在 API 中推出 embeddings 端点,可用于语义搜索、聚类、主题建模和分类等自然语言与代码任务。
推荐理由:OpenAI API 新增 embeddings 端点,做语义搜索、聚类或分类的可以少自己搭一套向量方案。
Roboflow 创始人 Brad Dwyer 与 Erik Dunteman 用一个周末做出 Paint.wtf,把用户手绘图像交给 OpenAI 的 CLIP 模型打分并登上排行榜,后端选用 Supabase 而非 Firebase,因为 PostgreSQL 原生支持集合计数。