跳到正文

#RAG/知识库

今日 0 条
10月23日周五
  1. 人人都是产品经理53

    Ai学习的老章开源三个 Skills,把十几小时长视频变成可检索知识库

    Ai学习的老章开源了一套由三个 Skills 串成的流水线,把 Dan Koe 十几小时视频做成纯静态的可检索知识库网站,由 Qwen3.8-Max 负责视频理解与图文对齐。

    决策要点

    多模态模型加字幕对齐已能把长视频库洗成时间戳级可检索的知识资产,完整工具链开源到个人可复刻。

    • 影响培训录播、课程和访谈视频多的企业可参照此法建内部知识库,员工检索可精确到某分某秒的讲法;作者提示流水线特别消耗 Token,批量处理视频要先算成本。
    • 参考可考虑挑一个内训视频频道小规模试跑这条开源流水线,记录单小时视频的 Token 账单;值得先盘点现有录播的字幕齐全度,字幕现成能省下转录开销。
10月21日周三
  1. 人人都是产品经理58

    实测腾讯开源智能体 Octop,与 WorkBuddy 的功能差异对比

    腾讯开源项目 Octop 因复刻 WorkBuddy 核心能力被社区称为开源版 WorkBuddy,作者实测对比两者在安装、多用户、聊天接入、连接器、ACP、知识库等维度的差异。

    决策要点

    腾讯把 WorkBuddy 的能力做成开源自部署版本,企业办公智能体在采购云端服务之外多了一条自主可控的路线。

    • 影响有私有化和数据留存要求的团队可自建带知识库的办公智能体;安装、模型配置和后续运维都由自己承担,需要技术人力;已在用多个编程 Agent 的团队可借 ACP 把任务收进统一入口。
    • 参考可考虑先在桌面端小范围试用 Octop,再评估是否部署到服务器或 NAS;值得盘点现有文档和已购的 WorkBuddy、ima 权限,算清自部署与云端方案的运维成本差异。
  2. 人人都是产品经理52

    阿里云推出全新AI搜索引擎CleverSee,云厂商竞逐企业AI搜索基建

    阿里云9月中旬将原IQS信息查询服务与CleverSee合并为全新的AI原生搜索服务CleverSee(中文名开析),面向企业客户提供搜索问答一体化平台。产品整合公开网页、垂直领域资料和企业私有数据三类信源,分为联网搜问、垂域搜问、企业搜问三个子产品,其中企业搜问处于定向体验测试版本。

    决策要点

    云厂商竞争从卖算力转向打包AI工具链,AI搜索正被当作企业AI应用的标配基础设施来布局。

    • 影响企业搭AI应用可省去自建检索的成本和周期;搜索按调用次数计费会形成算力之外的新支出项;搜索与模型同云打包在加深对单一云厂商的依赖。
    • 参考可考虑盘点现有AI应用里自建检索的人力与调用成本,对比云厂商按次计费的报价再决定是否迁移;试点场景可选信源边界清楚的企业内搜或垂域搜问。
  3. IT之家·人工智能66

    腾讯云元宝搜索对外开放,已构建千亿级索引,定价每千次 14 元起

    腾讯云 10 月 20 日宣布元宝搜索正式对外开放,定位为面向大模型和 Agent 的搜索引擎,定价每千次 14 元起,提供极速版、标准版、旗舰版三种版本。

    决策要点

    腾讯把内部验证过的搜索能力改为按调用计费的对外服务,Agent 联网检索从自建链路变成可采购的基础设施。

    • 影响做 AI 应用与 Agent 的团队可直接按千次采购检索能力,省去自建抓取和索引的投入;每千次 14 元起让单次回答的检索成本可先测算;检索结果依赖腾讯内容生态与筛选规则,信源覆盖需结合业务评估。
    • 参考可考虑用元宝搜索试用替换 Agent 原型中的自建搜索环节,先算出单次调用的成本与延迟差异;值得对照业务所需的垂直信源清单,核对 157 个信源的覆盖面是否够用。
  4. 人人都是产品经理45

    MemT 1.0 如何让模型本身具有记忆

    记忆张量团队的 MemT 1.0 技术报告提出把记忆直接写进模型参数,在部分 Transformer 层加入原生记忆块,主干权重不变,记忆状态固定大小(36B 版 10M、288B 版 336M)。

    决策要点

    把记忆内化进参数,让长期记忆从每次塞上下文变成固定成本,架构思路上有数据支撑,但准确性还明显落后于外挂文本。

    • 影响高频复用的记忆和经验不再挤占上下文窗口,长期使用成本有下降空间;准确性差距意味着关键业务信息短期仍需外挂原文兜底;作者预期组织或将内化自有记忆形成专属基座。
    • 参考可考虑让负责 Agent 记忆或知识库的团队对照这份 arXiv 报告评估适用场景;值得先盘点现有 Skill 和记忆文件中高频复用的部分,测算其占用上下文的成本。
10月20日周二
  1. 36氪·AI43

    港科大(广州)等三校团队提出 HeLa-Mem,让 Agent 找回长对话中失联的记忆

    香港科技大学(广州)、吉林大学与香港中文大学的研究团队提出 HeLa-Mem(Hebbian Learning Associative Memory),把 Agent 长期记忆组织为带权关联图,让反复共同被唤起的记忆逐渐建立连接,论文已被 ACL 2026 Main 接收,代码开源于 https://github.com/ReinerBRO/HeLa-Mem。

    决策要点

    Agent 长期记忆的研究重心正从保留多少历史转向历史之间如何形成关系,论文结果显示检索质量与 token 开销可以兼得。

    • 影响做个性化服务、长期陪伴或多轮任务类 Agent 的团队,记忆架构选型会直接影响回答完整度;检索上下文从全对话约 16910 tokens 降到平均 1010,推理成本差距明显;冷启动和底座模型能力是采用前要评估的现实约束。
    • 参考可考虑让客服或个性化助手团队先测算现有记忆方案的检索 token 开销,再对照 LoCoMo 指标评估是否引入关联记忆类方法;值得盘点自家场景中是否存在多跳回忆失败的真实案例。
  2. 人人都是产品经理66

    LLM wiki 实战:用20篇管理文章做一个管理数字分身

    作者用 LLM wiki 方法把20篇管理文章编译成知识摘要、实体页和概念页,搭建了一个能回答团队管理问题的数字分身。案例基于腾讯开源知识库产品 Weknora 本地部署,共生成20份摘要、13个实体页、128个概念页,作者实测回答质量好于向量切分方案,代价是 Agent 运行时响应偏慢。

    决策要点

    LLM wiki 把知识整理前置到编译阶段,为业务规则推理类问答提供了介于向量 RAG 与知识图谱之间的第三条路线。

    • 影响复杂业务规则的客服问答多了一条比知识图谱更低成本的验证路径;知识库规模变大后编译与检索的 Token 成本会上升;全自动编译会丢失关键细节和生效条件,人工审核成本省不掉。
    • 参考可考虑选一个规则判断多的客服场景,用开源工具小成本试点,对比向量 RAG 的回答质量与响应耗时;值得先列出哪些知识必须经人工筛选后才能入库。
  3. 人人都是产品经理63

    AI客服答非所问,先改提示词还是知识库?

    AI客服答非所问时,问题可能藏在路由、检索、知识版本或生成环节,直接改提示词多半白改,文中以用户在订单页问退款进度、助手却回通用退款政策的案例说明这一点。作者建议先按日志还原请求链路,从入口上下文、意图路由、检索候选与文档版本逐段缩小范围,再用边界相近的问题组连入口条件一起验证意图分类。修复时把知识、检索或提示词的改动按组记录,重跑核心回归样例,留下可复查的记录。

    决策要点

    客服答非所问的根因应沿调用链用日志证据定位,提示词是证据确凿后才动的环节而非首选修改项。

    • 影响排查方法决定客服问题的定位速度和维护成本;日志与配置不留档会让线上问题无法复盘根因;通用规则与订单实时数据来源不同,回答事实需区分出处。
    • 参考可考虑先核查客服系统是否留存检索候选和接口调用日志,再整理边界相近的意图样例连入口条件一起验证;改知识或提示词时应按组记录变更并重跑核心回归样例。
10月18日周日
  1. IT之家·人工智能59

    DeepSeek API 支持网页搜索与抓取,每 1000 次成功请求收费 5 元

    DeepSeek 宣布 API 新增网页搜索与抓取能力,按成功请求计费,单价为每 1000 次 5 元。

    决策要点

    DeepSeek 把实时网页搜索和抓取做成按成功请求计次的独立 API,Agent 与 RAG 应用接入外部网页信息的成本从此可按用量核算。

    • 影响在 Harness、Claude Code、Codex 中高频调用网页的团队,11 月 1 日起会新增一笔可按量核算的费用;Agent 与 RAG 团队多了一个自研搜索源的官方选项,可与第三方搜索或自建抓取方案比价后再定。
    • 参考可考虑先统计现有工作流中 Search / Fetch 的调用量,按每 1000 次 5 元折算月度成本;值得把该接口与现有搜索抓取方案在结果结构和时效上做一次对比,再决定是否接入。
10月17日周六
  1. IT之家·人工智能60

    DeepSeek 上线网页搜索与抓取 API,API 短暂出现 V4.1 Flash-1017 快照,Harness v0.2.1-rc1 发布

    DeepSeek 于 10 月 17 日正式上线 Search 与 Fetch 两个网页 API,均基于其自研搜索引擎,按成功请求计费,价格为每千次 5 元,失败、空结果与超时不收费,2026 年 11 月 1 日前经 Claude Code 或 Codex 触发的搜索免 Search 费用。

    决策要点

    DeepSeek 把实时网页检索做成按量计费的基础 API,企业搭建 Agent 与 RAG 应用时获取外部信息的成本和工程门槛进一步降低。

    • 影响实时网页数据获取成本降至每千次 5 元且失败不计费,接入搜索的知识库、监测类应用试点预算可控;每秒 5 次查询上限与 Fetch 的按域名限制会约束高并发生产环境,接入前要预留缓存与调度设计;模型疑似按日期快照迭代,版本管理成为调用方的常规工作。
    • 参考可考虑选一个知识库问答或行业监测场景做小规模试点,先算出自有用量下的月成本与限流概率;值得在 11 月 1 日前借 Claude Code 或 Codex 触发搜索的免费额度试用;替换现有爬虫或第三方搜索服务前,可对照接口返回字段与域名限制做盘点。
10月15日周四
  1. IT之家·人工智能61

    微软上线 Work IQ 知识编译引擎,Copilot 智能体不换模型响应速度升至 4 倍、词元消耗减 30%

    微软依托 SharePoint 与全新的 Work IQ 知识编译引擎,将企业散落在邮件、Teams 会议记录和技术文档中的信息自动转为结构化知识库,供 Copilot 等 AI 智能体直接调取。

    决策要点

    微软用预编译结构化知识库替代逐次检索来压低智能体的延迟与词元成本,优化重点从模型能力转向企业知识整理。

    • 影响已在 Microsoft 365 内使用智能体的企业,响应与词元成本有望在不追加模型投入的情况下重算;按使用量计费意味着预览收益直接与用量挂钩,预算口径要先确认;功能尚在预览阶段,覆盖范围有限。
    • 参考可考虑先让管理员核对 Frontier Preview 与按使用量计费的开通条件,选跨文档问答或会议要点整理一类高频场景小范围试点,记录响应速度与词元开销对比,再决定扩面节奏。
10月14日周三
  1. 量子位40

    openJiuwen WorkSwarm 上线个人知识空间,自动整理多源资料供智能体复用

    openJiuwen 在办公智能体 WorkSwarm 中首发个人知识空间,可自动采集本地文件夹、Edge 收藏夹、知乎专栏、今日头条、飞书文档、GitHub、AtomGit 等来源资料,经规则、规则与大模型混合或智能体方式整理成有目录、有联系、有出处的知识,再以渐进式披露方式供智能体按需读取。

    决策要点

    办公智能体的竞争点开始从单次任务能力转向个人知识的持续积累,把分散资料沉淀为可复用背景成为新的产品差异。

    • 影响员工若把工作资料接入此类知识空间,周报、方案类任务的前期查找整理和 token 成本有望下降;但现有数字来自厂商自测,未经独立验证;多源资料集中采集也牵出企业文档的使用边界问题。
    • 参考可考虑选一个周报或项目总结场景,用真实资料对比开启前后的耗时与 token 账单;值得先盘一份团队资料来源清单,确认哪些内部文档允许接入第三方工具。
  2. 人人都是产品经理38

    诗词、字典、古籍三大中文开源数据仓库

    开发者将诗词、字典与古籍整理成 chinese-poetry、chinese-xinhua、daizhigev20 三个开源仓库,数据为 JSON、CSV 和纯文本,可直接用作语料。

    决策要点

    中文古典语料的整理成本已被开源社区基本解决,文化类模型应用的门槛从找数据移到了做产品层。

    • 影响诗词、国学、教育类内容产品可省去自建语料的采集清洗成本;数据开源人人可得且无需频繁更新,差异化只能落在应用层;结构化格式降低了入库与向量检索的工程成本。
    • 参考可考虑先拉取体积较小的 chinese-xinhua 核对字段质量,再选 daizhigev20 的医藏或史藏切片接入 RAG 试点古文问答;若涉及诗词生成,值得先确认格律、平仄与韵脚数据的覆盖是否匹配业务。
  3. 人人都是产品经理59

    WorkBuddy 机器人上线企业微信侧边栏,认证企业可免费试用

    企业微信更新把 WorkBuddy 以机器人形式装入侧边栏,已认证企业用户可免费申请试用。WorkBuddy 可把企微内消息、文档、邮件、日程、会议作为上下文,处理技术方案、原型、海报、数据分析和调研报告等任务,还能引用企微微盘内容并把生成文档沉淀为企业知识库;机器人形态能力受限,完整功能需下载 WorkBuddy 客户端,试用结束后按坐席付费订阅,目前仅支持企业开通。

    决策要点

    企微选择机器人接入加导流独立客户端的路线,企业协同办公的竞争焦点转向谁能更深地接入企业数据和工作流。

    • 影响已认证企业可把 AI 助手嵌入日常沟通流程,文档沉淀微盘形成知识库;机器人形态功能不全,深度使用要另装客户端并按坐席付费,预算需单独核算;三家协同 IM 均已接入办公 Agent,选型可横向比较接入深度。
    • 参考可考虑让已认证企业在沟通频繁的场景先申请试用,记录机器人版与独立客户端的能力差距;值得对照飞书、钉钉方案,先算出按坐席数估算的订阅成本再定开通范围。
10月13日周二
  1. 人人都是产品经理52

    谷歌开源 EmbeddingGemma 2,740M 参数小模型可在普通笔记本本地搜图片、音视频、文档

    谷歌开源 740M 参数多模态嵌入模型 EmbeddingGemma 2,将文字(含代码)、图片、视频、音频放进同一个 768 维向量空间,Apache 2.0 协议可商用。

    决策要点

    端侧多模态 Embedding 模型已经小到普通笔记本可跑且可商用,本地私有资料的跨模态搜索正变成普通团队能自己组装的工程件。

    • 影响企业内部截图、录音、视频等资料可在笔记本级硬件上做本地语义检索,数据不必出内网;Apache 2.0 可商用,集成进自研产品的授权门槛低;生态工具首发齐全,作者预计半年内会涌现一批基于它的应用。
    • 参考可考虑先拿自有中文资料小规模评测其检索精度,作者本人也担心中文水平;值得从合同、会议录音、截图这类场景挑一个做本地检索试点,把首次建索引耗时和存储开销先算出来。
10月12日周一
  1. 36氪·AI50

    98家企业AI应用调研:生成式AI广覆盖浅应用,规模化落地仍远

    CIO发展中心基于98家企业的问卷调研显示,企业生成式AI呈现广覆盖、浅应用特征,85.7%的企业已在AI搜索、企业知识库等场景应用,但形成企业级体系或深度融入核心业务的仅20.4%。

    决策要点

    企业生成式AI已越过工具普及期,真正的卡点从能不能用转向能否管住用量和风险、并验证业务价值。

    • 影响六成以上受访企业仍在试点及以下阶段,平台化整合和用量管理是下一阶段的发展方向;采购需求集中释放但决策强调ROI;Agent使用率上升与行为治理覆盖率低并存。
    • 参考可考虑先盘点自家员工使用率、用量统计和治理机制现状,对照调研数据找短板;值得在加码投入前明确ROI验证场景,并把Agent操作审计和输出审核纳入治理清单。
10月7日周三
  1. Google DeepMind:Blog56

    Google DeepMind 发布开源轻量多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布开源轻量多模态嵌入模型 EmbeddingGemma 2,740M 参数,基于 Gemma 4 架构,采用 Apache 2.0 商用许可。

    决策要点

    多模态嵌入模型被压到端侧可用量级,跨模态搜索和 RAG 可以不依赖云端完成,嵌入环节本地化有了现实选项。

    • 影响文档与音视频检索可把嵌入计算留在本地,数据不出设备,降低云调用成本与延迟;Apache 2.0 允许商用,离线和嵌入式场景有了可直接集成的底座;与 Gemma 4 共享分词器和音频编码器,联合部署内存占用更低。
    • 参考可考虑在客服知识库或内部音视频检索场景测算端侧方案的内存与存储账,对比云端嵌入成本;值得按 MRL 的 512、256、128 维档位估算本地向量库能省多少空间。
10月1日周四
  1. Anthropic:Newsroom64

    Barclays scales Claude to upgrade operations and improve client experience

    巴克莱银行(Barclays)宣布扩大与 Anthropic 的战略合作,在全行部署 Claude 用于加速软件开发、改造遗留系统并提升运营效率。官方预计 Claude Code 采用率到 2026 年底达到其开发者的 50%,2027 年扩展至多数软件工程师。

    决策要点

    大型金融机构的 AI 应用正从单点试点转向全行规模部署,开发工具渗透率成为可量化的落地指标。

    • 影响软件开发和客服知识检索是该行率先规模化的场景,可作为同业选型的对照;开发工具渗透率目标给出了行业推进速度的参考;强监管环境下治理与人工监督被双方视为规模化部署的前提条件。
    • 参考可考虑对照本机构开发团队的 AI 编码工具渗透率,评估与 Barclays 50% 目标的差距;值得盘点客服知识检索和邮件分拣场景的现行人工耗时,测算同类部署的收益空间。
9月23日周三
  1. OpenRouter:Blog(Announcements)52

    OpenRouter 评选 2026 年最佳嵌入模型

    OpenRouter 发布 2026 年嵌入模型选型指南,向 19 个模型发送实测请求并按英文 RAG、多语言、代码检索、图文检索和低成本五类场景给出推荐。

    决策要点

    嵌入模型选型的实质是按检索素材类型匹配模型,再用自有标注数据定夺,榜单和价格只是起点。

    • 影响向量维度直接决定索引存储成本,4,096 维约是 1,024 维的 4 倍;跨模型族换型需重建索引,迁移开销要提前计入;免费路由的数据政策可能允许用 prompt 训练,涉敏语料需先检查隐私设置。
    • 参考可考虑先用自有标注查询对比至少两个候选模型再建索引;值得把模型 slug、维度等写入索引元数据并按公式估算向量存储;免费路由可先只用于评测。
9月21日周一
  1. OpenAI:官网动态26

    OpenAI V7 借 GPT-5.6 Luna 将成本降低 78% 并提升准确率

    OpenAI 推出 V7,使用 GPT-5.6 Luna 将企业零散文件转化为智能体可用的上下文,官方称成本降低 78% 且准确率有所提升。V7 支持智能体完成复杂并带来源链接的工作;上述数字为官方口径,材料为官网摘要,暂无独立验证。

    决策要点

    OpenAI 把企业零散文件接入智能体这一环节做成了产品,知识库到智能体的链路从自建项目变成官方功能。

    • 影响企业文件驱动的智能体项目多了一个官方托管选项;78% 降本与准确率提升均为官方口径,预算测算前需按自身数据复算;文件集中交给厂商处理也牵涉数据边界安排。
    • 参考可考虑盘点内部零散文件与现有 RAG 方案清单,选一个要求来源可追溯的场景试用 V7 并对比成本与准确率;值得先把 78% 的口径拆成自身基准再谈预算。
9月15日周二
  1. Josh Bersin46

    Josh Bersin 发布 Galileo Jupiter 版本,HR 智能可嵌入企业 AI 智能体

    Josh Bersin 发布其 HR 智能产品 Galileo 的 Jupiter 版本,企业可通过 MCP 将其中 HR 研究语料嵌入任意 AI 智能体,官方称已适配 Microsoft Copilot、Workday、ServiceNow、HiBob、Gloat、Claude、Gemini、Glean 等平台。

    决策要点

    其实质是把咨询研究机构的知识库做成可嵌入企业智能体的内容层,以可信语料对标通用大模型的开放问答。

    • 影响企业可在现有 Copilot、Workday 等智能体中接入 HR 对标与咨询能力,员工自助问答的铺开成本更低;HR 系统供应商多了 OEM 嵌入选项;零幻觉说法属厂商自测,用于薪酬、重组等决策前需自行验证。
    • 参考可考虑盘点企业现有智能体清单,选薪酬对标或晋升咨询等高频 HR 场景试点,并用自有问题集复测官方基准;HR SaaS 供应商可评估 OEM 嵌入条款。
8月14日周五
  1. OpenRouter:Blog(Announcements)35

    OpenRouter 教程:如何通过 API 向视觉模型发送图像

    OpenRouter 发布教程,讲解如何通过 Chat Completions API(POST /api/v1/chat/completions)把图像发给视觉语言模型,做法是在用户消息的 content 数组中同时放入一个 text 部分和一个 image_url 部分。

    决策要点

    图像输入已收敛为标准 API 格式问题,企业接入视觉能力的门槛从模型选型转到场景验证。

    • 影响同一请求体适配所有视觉模型,换模型或比价的改造成本接近零;token 成本随图像数量和分辨率增长,票据与扫描件场景要做预处理;私密文档可走 base64,文件只经 API 调用离开内部系统。
    • 参考可考虑用自己的真实票据或截图先测两三款候选模型再定选型;值得在发送前统一做缩小和裁剪来压 token 成本;文档含图表的场景可先试图像摘要式的多模态 RAG 索引。
7月16日周四
  1. OpenRouter:Blog(Announcements)54

    OpenRouter 用单一 API 覆盖图像、视频、音频与 embeddings 调用

    OpenRouter 说明图像生成、视频、音频、转写与 embeddings 均可通过单一 OpenAI 兼容 base URL(https://openrouter.ai/api/v1)调用,目录覆盖 400+ 模型、70+ 供应商。

    决策要点

    OpenRouter 把多模态调用收进一个 OpenAI 兼容接口,实质是把多供应商接入与对账成本压缩为单点集成,收益随使用模态数量增加。

    • 影响应用需要多种模态时,可把多套 SDK、密钥与账单合并为一次接入和一张账单;单模态且锁定单一供应商的应用直连更简单,文中也承认这一点;引入中间层同时多了一层外部依赖。
    • 参考可先盘点现有各模态供应商的接入、认证与对账成本,再用免费额度发一个 embeddings 请求验证兼容性,值得把聚合与直连两种方案的依赖面列表对比。
7月1日周三
  1. xAI:News61

    xAI 发布 Voice Agent Builder 公测版,官方称两分钟无代码搭建 Grok Voice 语音智能体

    xAI 发布 Voice Agent Builder 公测版,一个在 Grok Voice 上配置生产级语音智能体的无代码平台,面向需要高话量语音智能体的运营与开发团队。

    决策要点

    语音智能体从拼接三段 API 的集成工程变成按分钟计费的开箱产品,搭建与采购门槛同时下探。

    • 影响话路成本可用单价乘话量直接算出,语音客服的采购与试错门槛下降;现有号码经 SIP 接入保留,试点不必换号;退款、改记录等动作型操作需配护栏和通话回听控风险。
    • 参考可考虑选订单查询、预约改期这类高话量固定流程先在浏览器试通话,再决定接不接生产号码;值得算清现有三段式语音方案每分钟总成本,与 $0.08 加 $0.01 的官方口径对比;退款类动作可先配护栏并回听录音再放开。
11月20日周四
  1. Josh Bersin31

    The Josh Bersin Company 与 Microsoft 合作,用 Galileo 微调 M365 Copilot 为 HR 领域专家版

    The Josh Bersin Company 宣布与 Microsoft 合作,于本周 Microsoft Ignite 演示了基于其 HR 知识库 Galileo 微调的 M365 Copilot 版本,定位为 HR 与管理领域的专家智能体。

    决策要点

    实质是 HR 专业知识以微调方式嵌入通用办公 Copilot,企业获取专业知识的方式从独立工具转向内嵌助手。

    • 影响已部署 M365 Copilot 的企业可在现有助手上获得 HR 专家能力;公司专属政策需接入 SharePoint 数据才能生效;产品处于早期采用者计划,尚未全面开放。
    • 参考已使用 M365 Copilot 的企业可考虑评估政策问答、管理者教练等场景加入早期采用者计划的价值;HR 团队值得先盘点 SharePoint 中的政策、薪酬与福利文档,测算 RAG 接入的数据准备度。
10月27日周一
  1. Josh Bersin65

    BBC 与欧洲广播联盟研究发现约 45% 的 AI 新闻问答出错

    BBC 与欧洲广播联盟发布联合研究,向 ChatGPT、Copilot、Gemini 和 Perplexity 提出的新闻类问题约 45% 出现错误。错误案例包括答错教皇与德国总理人选,Copilot 引用 2006 年 BBC 旧文回答禽流感疫苗问题,Perplexity 错称捷克法律禁止代孕。

    决策要点

    公开大模型的新闻问答错误率被量化到约四成五,答案可信度与语料质量重新成为企业用 AI 的前提。

    • 影响把公开 AI 答案直接用于分析、写作或对外内容会带来事实与合规风险;客服、HR 等内部问答系统需要内容负责人与定期审计机制;通用平台可信度不足给垂直领域方案留出空间。
    • 参考可考虑先盘点现有 AI 使用场景中涉及财务、法律、新闻等高风险数据的部分,为其增加人工核验流程;值得为内部知识库指定内容负责人并定期审计,或评估垂直领域方案替代公开工具。
6月5日周四
  1. 通义千问 Qwen:Blog55

    通义千问开源 Qwen3 Embedding 嵌入与重排序系列,8B 版居 MTEB 多语言榜第一

    通义千问发布 Qwen3 Embedding 系列,含 0.6B、4B、8B 三档嵌入模型与三档重排序模型,已在 Hugging Face 和 ModelScope 以 Apache 2.0 许可开源,技术报告与代码发布在 GitHub。

    决策要点

    阿里把检索环节的嵌入与重排序模型以 Apache 2.0 开源并拿下 MTEB 多语言榜首,自建检索和 RAG 的模型选型成本门槛下移。

    • 影响检索与 RAG 项目可零许可成本获得多语言、32K 上下文的嵌入组件;0.6B 到 8B 的尺寸梯度让本地小模型部署与高精度方案可分别匹配;向量维度可自定义,向量存储成本可按需权衡。
    • 参考可考虑在现有 RAG 检索链路中用 Qwen3-Embedding-0.6B 替换当前嵌入模型,先跑一轮召回质量与耗时对比;值得按自有算力在 0.6B、4B、8B 之间先算出部署成本再做选型。
9月19日周四
  1. Anthropic:Engineering58

    Introducing Contextual Retrieval

    Anthropic 发布 Contextual Retrieval 方法,在向量化和 BM25 索引前为每个文本块补上文档上下文,官方实验显示 top-20 检索失败率降低 49%,叠加重排后降低 67%。

    决策要点

    检索准确率的瓶颈被定位在切块丢失上下文,补上下文成了可以用模型自动完成的低成本预处理步骤。

    • 影响依赖知识库的客服、法务类 RAG 应用检索命中可直接受益;预处理属一次性成本,有每百万文档 token $1.02 的官方参照;加重排会额外增加延迟与费用,需按场景权衡。
    • 参考可考虑按官方 cookbook 在自家语料上小规模复测失败率变化;先算出知识库 token 规模,低于 20 万可直接全量入 prompt;值得对比 Voyage 与 Gemini 嵌入及 top-5/10/20 块数的组合。
6月6日周四
  1. 通义千问 Qwen:Blog43

    通义千问用 Qwen-Agent 将 8k 上下文模型扩展到 1M 上下文

    Qwen 团队用 8k 上下文的 Qwen2 模型搭建出能处理 1M token 文档的智能体,官方称其表现超过 RAG 和原生长上下文模型。

    决策要点

    与其硬训超长上下文窗口,先用小上下文模型加智能体工程覆盖 1M 文档,再把智能体变成合成训练数据的工具,这是长上下文能力建设的一条工程路线。

    • 影响处理长文档问答可能不必依赖超长上下文模型的高推理成本,小模型加智能体编排是低成本选项;现有结果均为官方自测口径,换文档类型或模型效果会变;逐块阅读策略 token 消耗和延迟更高,落地前要算清这笔账。
    • 参考可考虑用业务里真实的 1M 级长文档,在开源的 Qwen-Agent 实现上对比 RAG 与逐块阅读两种策略的命中率和成本;值得先盘点哪些场景真正需要超过 32k 的上下文,再决定试点顺序。
2月4日周日
  1. 通义千问 Qwen:Blog66

    通义千问发布开源模型 Qwen1.5,全系支持 32K 上下文

    阿里通义千问团队发布并开源 Qwen1.5 系列模型,提供 0.5B、1.8B、4B、7B、14B、32B、72B、110B 等 base 和 chat 版本,另含一个 MoE 模型,全系统一支持最长 32768 tokens 上下文。

    决策要点

    Qwen1.5 把模型能力升级和接入成本下降打包在一起,官方将适配工作直接做进主流框架,换取开发者的迁移便利。

    • 影响全尺寸开源加 Int4、Int8、AWQ、GGUF 量化版本,私有化部署和多尺寸选型的空间变大;小模型在 RAG 与长文本任务上的官方成绩可观,本地部署成本有下探空间;官方数据仍明显落后 GPT-4-Turbo,高端场景需要留出替代预案。
    • 参考可考虑先拿业务测试题对比 Qwen1.5-72B-chat 与现有模型的表现;值得测算 7B 到 14B 量化版本在私有环境跑 RAG 的成本;接入前先核对 transformers 和 vLLM 等框架的版本要求。