OpenAI 发布 o1-mini,主打低成本推理
OpenAI 发布 o1-mini,官方定位为在推理能力上更具成本效率的模型。材料仅提供标题与一句副标题,未给出定价、上下文长度或可用范围等细节。
OpenAI 的 API 定价与配额、模型迭代与弃用节奏;把 AI 能力做进小产品的成本与替代方案。
OpenAI 发布 o1-mini,官方定位为在推理能力上更具成本效率的模型。材料仅提供标题与一句副标题,未给出定价、上下文长度或可用范围等细节。
OpenAI 发布 GPT-4o mini,官方将其定位为更省成本的智能模型。材料仅提供标题,具体定价、上下文长度与可用范围未在原文中给出。
OpenAI 宣布推出新旗舰模型 GPT-4 Omni(GPT-4o),可实时跨音频、视觉和文本进行推理。
推荐理由:OpenAI 发布新旗舰模型 GPT-4o,能实时跨音频、视觉和文本推理,做多模态产品的可以评估接入。
Vercel 发布 AI SDK 3.0,新增 render 方法,可把 LLM 响应关联到流式 React Server Components,直接由模型输出 UI 组件,无需大量客户端 JavaScript。
推荐理由:AI SDK 3.0 把 LLM 输出直接映射成流式 React Server Components,做 AI 界面的可以少写一层客户端状态。
Supabase 实测了 OpenAI 第三代文本嵌入模型 text-embedding-3-small 和 text-embedding-3-large 的 Matryoshka 特性,即通过 dimensions 参数把向量从默认 3072 维截短,并给出在 pgvector 上实现两段式自适应检索的完整方案。
推荐理由:用 OpenAI 新嵌入模型做向量检索的,可以照这套两段式自适应检索把 3072 维查询压到 512 维首轮,兼顾 99% 准确率与 QPS。
Supabase 宣布新建数据库将默认搭载 pgvector v0.5.0,该版本新增 HNSW 索引,可用 CREATE INDEX ... USING hnsw (embedding vector_ip_ops) 在向量列上创建。
推荐理由:新库默认带 pgvector v0.5.0 的 HNSW 索引,做语义搜索的可以按文中参数重建索引换性能。
Supabase 用 ANN Benchmarks 方法在 dbpedia-entities-openai-1M 数据集(100 万条 1536 维 OpenAI embeddings)上测试 pgvector 0.4.0。
推荐理由:Supabase 用 1M OpenAI embeddings 实测 pgvector 0.4.0 的 QPS 与准确率,并给出 lists、probes 与预热的具体调参路径。
Vercel 发布开源 AI SDK,一个用于在 JavaScript 和 TypeScript 中构建对话、流式和聊天界面的库,支持 React/Next.js、Svelte/SvelteKit,Nuxt/Vue 支持即将推出。
推荐理由:Vercel 开源了 AI SDK,用 React/Svelte hooks 几行代码就能接 OpenAI、LangChain 和 Hugging Face 做流式对话界面。
Supabase 向 OpenAI 的 ChatGPT Retrieval Plugin 仓库贡献了 Postgres 和 Supabase 两种向量存储实现,开发者可用 pgvector 把私有数据接入 ChatGPT。
推荐理由:Supabase 给 ChatGPT 检索插件补上 Postgres 与 Supabase 两种向量存储实现,想接私有数据的可以直接照步骤跑通。
OpenAI 发布 GPT-4,可在创意与技术写作任务中生成、编辑内容并与用户反复迭代,例如写歌、写剧本,或学习用户的写作风格。
Supabase 宣布 pgvector 扩展已在所有新建项目上可用,这是一个开源的向量相似度搜索扩展,让开发者直接在 Postgres 中存储和查询 embedding。
推荐理由:Supabase 全新建项目已自带 pgvector,做向量检索的可以直接在 Postgres 里存和查 embedding,不必再单独搭一套向量库。
OpenAI 发布新版 GPT-3 和 Codex,这两版模型可以在已有文本中编辑或插入内容,而不只是续写现有文本。
推荐理由:GPT-3 与 Codex 新增编辑与插入能力,做文本补全类功能的可以评估是否替换现有拼接方案。
OpenAI 在 API 中推出 embeddings 端点,可用于语义搜索、聚类、主题建模和分类等自然语言与代码任务。
推荐理由:OpenAI API 新增 embeddings 端点,做语义搜索、聚类或分类的可以少自己搭一套向量方案。